Google a mis en ligne, dans nos parages la semaine dernière, sa version de l’intelligence artificielle, qu’il appelle Gemini. Je suppute qu’il a écarté son paronyme « Genesys ». Dans un des derniers films Terminator, c’est le nom du logiciel programmé pour prendre le contrôle de la planète. Dans un demi-siècle, peut-être avant, les choses allant si vite, quelqu’un écrira la genèse de la nouvelle ère. Il s’agira de déterminer qui furent les démiurges de l’intelligence artificielle (IA). Comment la décision de la laisser sortir du laboratoire fut-elle prise ? Et lorsque les gens conscients du danger ont voulu éviter le pire, pourquoi ont-ils échoué ?

L’année 2023 sera retenue comme l’année zéro. Le nom de Sam Schillace, un dirigeant de Microsoft, qui a financé le premier-né de l’âge de l’IA, ChatGPT, aura sûrement droit à une citation en exergue. Celle-ci, rapportée par le New York Times, écrite alors qu’il s’inquiétait de se faire coiffer au poteau par Google : « La vitesse d’exécution est plus importante que jamais, clamait-il. Ce serait une erreur absolument fatale, en ce moment, de s’inquiéter de choses qu’on pourra réparer plus tard. »

Ces choses à réparer plus tard étant la propension de l’IA, dans ses réponses, à quitter le terrain factuel pour se mettre à inventer, à fabuler, des affirmations vraisemblables. Sa propension, aussi, à sortir spontanément du cadre qu’on lui avait fixé, sans que ses concepteurs comprennent exactement pourquoi. Ce qui a poussé des chercheurs de pointe, dont notre Yoshua Bengio national, à admettre qu’en créant les conditions de la naissance de l’IA, ils avaient généré Frankenstein. 

Un de ces scientifiques sceptiques est Stuart Russell, informaticien à l’Université de la Californie : « C’est presque comme si vous invitiez délibérément des extraterrestres à atterrir sur votre planète en n’ayant aucune idée de ce qu’ils vont faire quand ils arrivent ici, sauf qu’ils vont prendre le contrôle du monde. » 

En novembre dernier, le conseil d’administration d’OpenAI, un OBNL chapeautant ChatGPT, a voulu plaquer les freins. Sous l’impulsion de son scientifique en chef et cofondateur Ilya Sutskever, le conseil a mis à la porte la cheville ouvrière du projet, Sam Altman, considérant qu’on ne pouvait plus lui faire confiance pour guider l’évolution de l’IA « pour le bien de toute l’humanité ». Mais comme Microsoft était le principal bailleur de fonds d’OpenAI et que « le bien de toute l’humanité » ne constitue pas le moteur de son activité économique, le géant a sur-le-champ embauché Altman et invité les 770 employés responsables de ChatGPT à le rejoindre. Pas moins de 700 ont dit oui. 

Le conseil d’administration a changé d’avis, a réembauché Altman. Le scientifique Sutskever a dit « regretter profondément » d’avoir voulu virer Altman. La tentative de maîtrise de l’IA a connu un spectaculaire échec, sous le poids écrasant de la recherche de profit. « We are so back », clamait un des leaders de la mutinerie pro-Altman, savourant son triomphe. Savait-il qu’il paraphrasait le fameux « I’ll be back » de Terminator ?

Mais peut-être ne peut-on pas expliquer la fuite en avant vers l’IA seulement par la dynamique de la compétition entre entreprises (et États) pour être les premiers arrivés, donc les premiers servis, en argent et en pouvoir. 

Le journaliste Ezra Klein a interrogé pour le New York Times plusieurs des artisans clés de cette révolution. « Je leur pose  la même question : “Si vous pensez que la calamité est à ce point possible, pourquoi continuer à y travailler ?” Les différents interlocuteurs ont des réponses différentes, mais lorsque j’insiste, je découvre des réponses qui semblent refléter le point de vue de l’IA elle-même. Plusieurs — pas tous, mais assez pour que je puisse avec assurance l’affirmer — estiment qu’ils ont la responsabilité d’inaugurer cette nouvelle forme d’intelligence dans le monde. »

Dans un essai saisissant, l’auteur Paul Kingsnorth note qu’au centre de chaque culture, il y a un trône qui nécessite un dieu. Or, l’Occident ayant détrôné ses anciennes divinités, le trône reste à prendre. Il souligne que des penseurs de la révolution industrielle prévoyaient déjà que le monde mécanique et individualiste allait engendrer, entre le Christ et le démon, un être spirituel adapté à notre ère. L’un d’eux, Rudolf Steiner, l’appelait « Ahriman ». Kingsnorth rappelle que Marshall McLuhan, déjà, déclarait que le monde informatique naissant constituait le « système nerveux central » de ce qui deviendrait selon lui une nouvelle conscience. 

Le terme « Ahriman » est repris depuis un quart de siècle par les transhumanistes, qui estiment qu’on assistera bientôt à une fusion de l’homme et de la machine. Ce processus vient de faire un bond en avant avec l’implant qu’une des compagnies d’Elon Musk a commencé à tester sur des cerveaux humains. Il y aurait donc, si l’on suit cette logique, une convergence entre la recherche scientifique pure sur l’IA et l’invocation d’une puissance tapie dans ses circuits et ses données.

Kingsnorth résume : « Quelque chose rampe vers le trône. La pulsion qui désormais façonne et remodèle tout, le tremblement de terre né à travers les fils et les tours de la toile, à travers le courant électrique, les écrans tactiles et les casques : ce sont les douleurs des contractions. Internet est son système nerveux. Son corps prend forme dans le cobalt et le silicium et dans les grandes tours de verre des villes. Son esprit se nourrit du flot constant de 24 heures de votre esprit et du mien et de l’esprit de vos enfants et de vos compatriotes. Personne n’est invité à consentir. Personne n’a même à savoir. Cela arrive de toute façon. Le grand esprit est en train de se construire. »

Le scientifique, grand manitou chez Google et auteur transhumaniste Ray Kurzweil pose la question clé: « Dieu existe-t-il ? ». Il se répond : « Pas encore. »

(Ce texte a d’abord été publié dans Le Devoir.)