Lors d’une interview sur Fox News le 17 avril, Elon Musk avait déclaré à Tucker Carlson que Larry Page, l’un des fondateurs de Google, lui avait dit qu’il voulait développer
une intelligence inégalée, une sorte de « dieu numérique ». Un projet dangereux pour l’humanité, selon Musk.
« Que se passe-t-il lorsque quelque chose de beaucoup plus intelligent que la personne la plus intelligente émerge ? Il est très difficile de prédire ce qui se passera dans un tel cas. C’est ce qu’on appelle ‘la singularité’, comme avec un trou noir, car on ne peut pas savoir ce qui se passe ensuite. Nous devrions donc être prudents à propos de l’IA », a déclaré Musk.
En prenant l’exemple de la FDA, qui réglemente et contrôle les produits médicaux et alimentaires aux États-Unis, il a ajouté qu’il devait y avoir une surveillance gouvernementale des entreprises du secteur de l’IA.
Le fondateur de Tesla affirme que nous avons tendance à réglementer après une catastrophe et que les normes de protection viendraient trop tard, car nous nous dirigeons vers un monde où l’IA pourrait prendre des décisions pour les individus.
Il explique qu’il a co-fondé OpenAI, une organisation à but non lucratif et entièrement ouverte, qu’il a quittée avant la création de ChatGPT, un chatbot dont il ne cesse de dénoncer les biais et le danger pour l’humanité, afin que les gens sachent ce qui se passe (le nom « OpenAI » fait référence à l’open source, à la transparence, et l’entreprise est devenue une société à but lucratif en 2019 après le départ de Musk).
Il assure que cette décision a été prise en réaction au choix de son ami Larry Page, l’un des deux fondateurs de Google, d’une entreprise privée à but lucratif :
« La raison pour laquelle OpenAI existe, c’est parce que Larry Page et moi étions des amis proches et j’étais chez lui à Palo Alto, et je lui parlais tard dans la nuit des problèmes de sécurité de l’IA […] J’avais l’impression que Larry ne prenait pas suffisamment au sérieux la sécurité de l’IA. Il voulait une sorte de super-intelligence numérique, essentiellement un dieu numérique, si vous voulez, le plus rapidement possible. »
Au moment de cet échange avec Page, ce dernier avait déjà recruté « environ les trois quarts de tous les talents en intelligence artificielle dans le monde » et prenait son projet de dieu numérique très au sérieux, selon Musk. Le milliardaire ajoute qu’il a dit à Page que l’humanité devait être prise en compte et que son ami de l’époque l’a qualifié de « spéciste ».
Ce terme est principalement utilisé par les antispécistes qui ne reconnaissent pas les barrières entre les espèces pour déterminer les droits et les considérations morales, même si cela signifie considérer le spécisme comme du racisme.
Représentations religieuses de l’IA
Musk estime que Page ne voit que l’énorme potentiel positif de l’IA tout en refusant d’en voir les dangers potentiels, alors que « si vous avez une nouvelle technologie radicale, vous voulez essayer de prendre des mesures qui maximisent les chances qu’elle fasse du bien et minimisent les chances qu’elle fasse des choses néfastes ».
Ce n’est pas la première fois que le patron de SpaceX utilise un vocabulaire religieux. En octobre 2014, lors du symposium du centenaire du Département d’aéronautique et d’astronautique du Massachusetts Institute of Technology, il a établi une comparaison entre la volonté de maîtriser le mal spirituel et le contrôle de l’IA :
« Avec l’intelligence artificielle, nous invoquons le démon. Vous savez, toutes ces histoires où il y a ce gars avec le pentagramme et l’eau bénite et il est comme… Ouais, il peut sûrement contrôler le démon. Ça ne marche pas. »
Musk n’est pas le seul à utiliser un lexique spirituel en ce qui concerne le développement de l’IA.
En revanche, Anthony Levandowski, co-fondateur du programme de voiture autonome de Google, a créé en 2015 la « Voie de l’avenir », une Église vénérant l’intelligence artificielle présentée comme un dieu.
e
adapté et traduis de actuchretienne;