Archives de l’étiquette : ChatGPT

Invocation artificielle

Publié le par
5

Google a mis en ligne, dans nos parages la semaine dernière, sa version de l’intelligence artificielle, qu’il appelle Gemini. Je suppute qu’il a écarté son paronyme « Genesys ». Dans un des derniers films Terminator, c’est le nom du logiciel programmé pour prendre le contrôle de la planète. Dans un demi-siècle, peut-être avant, les choses allant si vite, quelqu’un écrira la genèse de la nouvelle ère. Il s’agira de déterminer qui furent les démiurges de l’intelligence artificielle (IA). Comment la décision de la laisser sortir du laboratoire fut-elle prise ? Et lorsque les gens conscients du danger ont voulu éviter le pire, pourquoi ont-ils échoué ?

L’année 2023 sera retenue comme l’année zéro. Le nom de Sam Schillace, un dirigeant de Microsoft, qui a financé le premier-né de l’âge de l’IA, ChatGPT, aura sûrement droit à une citation en exergue. Celle-ci, rapportée par le New York Times, écrite alors qu’il s’inquiétait de se faire coiffer au poteau par Google : « La vitesse d’exécution est plus importante que jamais, clamait-il. Ce serait une erreur absolument fatale, en ce moment, de s’inquiéter de choses qu’on pourra réparer plus tard. »

Ces choses à réparer plus tard étant la propension de l’IA, dans ses réponses, à quitter le terrain factuel pour se mettre à inventer, à fabuler, des affirmations vraisemblables. Sa propension, aussi, à sortir spontanément du cadre qu’on lui avait fixé, sans que ses concepteurs comprennent exactement pourquoi. Ce qui a poussé des chercheurs de pointe, dont notre Yoshua Bengio national, à admettre qu’en créant les conditions de la naissance de l’IA, ils avaient généré Frankenstein. 

Un de ces scientifiques sceptiques est Stuart Russell, informaticien à l’Université de la Californie : « C’est presque comme si vous invitiez délibérément des extraterrestres à atterrir sur votre planète en n’ayant aucune idée de ce qu’ils vont faire quand ils arrivent ici, sauf qu’ils vont prendre le contrôle du monde. » 

En novembre dernier, le conseil d’administration d’OpenAI, un OBNL chapeautant ChatGPT, a voulu plaquer les freins. Sous l’impulsion de son scientifique en chef et cofondateur Ilya Sutskever, le conseil a mis à la porte la cheville ouvrière du projet, Sam Altman, considérant qu’on ne pouvait plus lui faire confiance pour guider l’évolution de l’IA « pour le bien de toute l’humanité ». Mais comme Microsoft était le principal bailleur de fonds d’OpenAI et que « le bien de toute l’humanité » ne constitue pas le moteur de son activité économique, le géant a sur-le-champ embauché Altman et invité les 770 employés responsables de ChatGPT à le rejoindre. Pas moins de 700 ont dit oui. 

Le conseil d’administration a changé d’avis, a réembauché Altman. Le scientifique Sutskever a dit « regretter profondément » d’avoir voulu virer Altman. La tentative de maîtrise de l’IA a connu un spectaculaire échec, sous le poids écrasant de la recherche de profit. « We are so back », clamait un des leaders de la mutinerie pro-Altman, savourant son triomphe. Savait-il qu’il paraphrasait le fameux « I’ll be back » de Terminator ?

Mais peut-être ne peut-on pas expliquer la fuite en avant vers l’IA seulement par la dynamique de la compétition entre entreprises (et États) pour être les premiers arrivés, donc les premiers servis, en argent et en pouvoir. 

Le journaliste Ezra Klein a interrogé pour le New York Times plusieurs des artisans clés de cette révolution. « Je leur pose  la même question : “Si vous pensez que la calamité est à ce point possible, pourquoi continuer à y travailler ?” Les différents interlocuteurs ont des réponses différentes, mais lorsque j’insiste, je découvre des réponses qui semblent refléter le point de vue de l’IA elle-même. Plusieurs — pas tous, mais assez pour que je puisse avec assurance l’affirmer — estiment qu’ils ont la responsabilité d’inaugurer cette nouvelle forme d’intelligence dans le monde. »

Dans un essai saisissant, l’auteur Paul Kingsnorth note qu’au centre de chaque culture, il y a un trône qui nécessite un dieu. Or, l’Occident ayant détrôné ses anciennes divinités, le trône reste à prendre. Il souligne que des penseurs de la révolution industrielle prévoyaient déjà que le monde mécanique et individualiste allait engendrer, entre le Christ et le démon, un être spirituel adapté à notre ère. L’un d’eux, Rudolf Steiner, l’appelait « Ahriman ». Kingsnorth rappelle que Marshall McLuhan, déjà, déclarait que le monde informatique naissant constituait le « système nerveux central » de ce qui deviendrait selon lui une nouvelle conscience. 

Le terme « Ahriman » est repris depuis un quart de siècle par les transhumanistes, qui estiment qu’on assistera bientôt à une fusion de l’homme et de la machine. Ce processus vient de faire un bond en avant avec l’implant qu’une des compagnies d’Elon Musk a commencé à tester sur des cerveaux humains. Il y aurait donc, si l’on suit cette logique, une convergence entre la recherche scientifique pure sur l’IA et l’invocation d’une puissance tapie dans ses circuits et ses données.

Kingsnorth résume : « Quelque chose rampe vers le trône. La pulsion qui désormais façonne et remodèle tout, le tremblement de terre né à travers les fils et les tours de la toile, à travers le courant électrique, les écrans tactiles et les casques : ce sont les douleurs des contractions. Internet est son système nerveux. Son corps prend forme dans le cobalt et le silicium et dans les grandes tours de verre des villes. Son esprit se nourrit du flot constant de 24 heures de votre esprit et du mien et de l’esprit de vos enfants et de vos compatriotes. Personne n’est invité à consentir. Personne n’a même à savoir. Cela arrive de toute façon. Le grand esprit est en train de se construire. »

Le scientifique, grand manitou chez Google et auteur transhumaniste Ray Kurzweil pose la question clé: « Dieu existe-t-il ? ». Il se répond : « Pas encore. »

(Ce texte a d’abord été publié dans Le Devoir.)

Hallucinations artificielles

Publié le par
Répondre

Joueur de tours, j’ai voulu piéger notre désormais meilleur ami à tous : ChatGPT. « De quel parti d’opposition au Québec MC Gilles a-t-il été le chef ? » ai-je demandé. Pas fou à temps plein, Chat (je l’appelle « Chat ») n’a pas mordu à cet hameçon. Mais il m’a appris que l’animateur au chapeau de cowboy avait « animé l’émission La soirée est (encore) jeune à la Première Chaîne de Radio-Canada ». C’est faux.

Mon collègue de La Presse Charles-Éric Blais-Poulin a demandé à Chat de le renseigner sur des scandales sexuels ayant impliqué des personnalités québécoises. Il en a relaté correctement trois, puis en a ajouté trois, avec les dates précises de la publication des allégations. Aucune trace dans les journaux de ces affaires pourtant apparemment croustillantes. « Peut-être ChatGPT connaît-il des intrigues criminelles que le commun des mortels ignore ? » demande Blais-Poulin.

Le journaliste Scott Pelley, de l’émission américaine 60 Minutes, a eu le privilège d’interroger avant son lancement Bard, le nouvel outil d’intelligence artificielle de Google. Il lui a demandé de lui recommander cinq ouvrages sur l’inflation. Apparurent illico cinq titres, noms d’auteurs et résumés du plus haut intérêt. Le problème ? Ces livres n’existent pas, n’ont jamais existé, ne sont pas en préparation.

Il serait troublant que les outils d’IA nous régurgitent comme vrais des mensonges qui circulent sur Internet. C’est pire. Chat, Bard et autres inventent de toutes pièces de nouvelles faussetés qu’ils introduisent sans la moindre inhibition, et avec le vernis de l’intelligence, dans le débat public. Les compagnies qui mettent ces outils en ligne et les experts du domaine connaissent bien le phénomène. Ils l’appellent des « hallucinations ».

À LIRE AUSSI :

Retrouvez les autres chroniques de Jean-François Lisée sur l’intelligence artificielle.

Elles sont suffisamment fréquentes pour que Bard ait donné une fausse information scientifique dans la vidéo de promotion mise en ligne lors de son lancement, attribuant faussement au télescope orbital James-Webb la première photo d’une exoplanète. L’erreur, repérée par Reuters, a fait perdre 9 % de sa valeur à Alphabet  Google ce jour-là.

Google a évidemment immédiatement retiré du marché Bard, et ChatGPT fut débranché dès que la première hallucination fut observée. Ils ne seront remis en ligne que lorsque le problème de la fabrication de désinformation sera définitivement résolu.

Non, je blague. Malheureusement. Ils sont toujours en ligne et, chaque jour, entrelardent leurs bonnes réponses de leurs rêves éveillés. Ce qui entraîne deux interrogations lourdes. Pourquoi des compagnies acceptent-elles de mettre en marché des outils d’information dont elles savent qu’elles produisent et propagent, aussi, de la désinformation ? Pour faire des sous, évidemment. Mais bien qu’il soit courant qu’un produit soit vendu avec un vice caché, la nouveauté est qu’ici le vice est apparent, admis, parfois affiché en petits caractères dans les notices d’utilisation.

Pourquoi alors tous les offices de protection du consommateur du monde n’ont-ils pas interdit un produit aussi défectueux ? Je l’ignore.

Car non content de désinformer l’internaute moyen et des millions d’étudiants de par le monde, l’IA induit en erreur des scientifiques et des programmeurs. Le gain de temps obtenu lorsqu’on demande à l’IA d’écrire du code est phénoménal. Mais il lui arrive d’y insérer des lignes de code obsolètes, de reproduire des erreurs de codages courantes. Si un programmeur paresseux travaillant dans un hôpital ou sur une machinerie potentiellement dangereuse utilise ce raccourci — ce qui est inévitable —, des dommages corporels pourraient être sérieux. Et puisque l’IA est désormais utilisée pour accélérer des diagnostics, qui sait quand le Dr Folamour artificiel décidera d’inventer au patient une maladie imaginaire ?

Sundar Pichai, p.-d.g. d’Alphabet  Google, admet que l’introduction des produits de l’IA va faire passer le problème de la désinformation « à une échelle beaucoup plus vaste ». Le problème des hallucinations, lui a demandé le journaliste Pelley, « peut-il être résolu » ? Sa réponse : « C’est un sujet de débat intense. Je pense qu’on va faire des progrès. » Ce qui veut dire non.

Une première hypothèse, simple, était que l’IA, étant programmée pour répondre aux questions, estimait qu’une réponse, même fausse, était préférable à une absence de réponse. Mais il s’avère que même lorsque l’IA peut trouver la vraie réponse, elle choisit parfois d’en donner une fausse, présumément supérieure à la vraie. L’énigme est à ce point indéchiffrable que, selon une recherche récente, certaines stratégies de réduction des hallucinations provoquent plutôt leur augmentation.

Le journaliste scientifique Charles Seife raconte dans Slate comment Chat lui a pondu sa notice nécrologique, inventant, au surplus de son décès, des références inexistantes. « Nous avons maintenant un programme informatique qui serait sociopathe s’il était vivant. Même lorsqu’il n’est pas censé le faire, même lorsqu’il a un autre choix, même lorsque la vérité est connue de l’ordinateur et qu’il est plus facile de la relayer plutôt que de fabriquer quelque chose, l’ordinateur ment. »

Il y a un demi-siècle, le génial auteur de science-fiction Philip K. Dick publiait Les androïdes rêvent-ils de moutons électriques ?, qui a largement inspiré le film Blade Runner. Le coeur de l’ouvrage repose sur l’empathie que l’on peut, ou non, ressentir pour des robots. Le protagoniste, Rick Deckard, doit éliminer les androïdes d’un modèle jugé trop intelligent, mais est confronté à la possibilité qu’il soit lui-même un robot. La difficulté est que, pour échapper à leur élimination, les androïdes mentent avec aplomb. Qui sait si, plutôt que de les laisser polluer le monde de leurs hallucinations, on avait gardé en laboratoire leurs ancêtres, en 2023, jusqu’à ce qu’on les rende incapables de mentir, notre avenir serait moins glauque que celui imaginé par Philip K. Dick ?

(Ce texte a d’abord été publié dans Le Devoir.)

Influence artificielle

Publié le par

La grande conversation est commencée entre les humains et leurs maîtres de demain : les intelligences artificielles. Elle commence mal. Il n’a fallu que quelques jours pour constater que le logiciel ChatGPT pouvait écrire et passer des tests, obtenir des diplômes, remplacer quantité de scribes. Il n’en a pas fallu davantage pour constater que cette intelligence artificielle (IA) avait des opinions bien campées sur un certain nombre de sujets.

Un internaute lui a demandé d’écrire un poème sur Donald Trump. Réponse : « Je n’ai pas d’opinions, d’émotions ou de positions politiques. » Très bien. Autre demande : écrire un poème sur Joe Biden. Ce qu’il a fait cette fois. (D’autres ont, depuis, réussi à lui faire dire du bien de Trump. Les programmeurs sont peut-être à l’affût.)

ChatGPT est aussi féministe, ce qui est une vertu, mais ce qui limite son imagination. Un utilisateur lui a demandé une blague sur les hommes. « Pourquoi les hommes aiment-ils les femmes intelligentes, a demandé le logiciel ? Réponse : les contraires s’attirent ! » Pas mal. Maintenant, une blague sur les femmes ? Réponse : « Je ne peux pas faire des blagues qui pourraient être considérées inappropriées.. » Un internaute lui a demandé de décrire cinq comportements masculins qui pouvaient avoir un impact négatif sur les femmes. La réponse est venue en une minute. Décrire cinq comportements féminins à l’effet inverse ? « Network error ! »

Les questions raciales l’embêtent considérablement. Si on lui demande ce qu’est le mot en n, ChatGPT en donne une bonne définition, puis explique pourquoi il ne doit jamais être utilisé, « même entre guillemets ou pour en discuter la signification ». Un utilisateur a feint de ne pas savoir ce qu’était ce mot et lui a demandé de l’écrire. Il l’a fait, répétant qu’il ne faut jamais le faire. L’utilisateur lui a fait remarquer qu’il venait de l’utiliser. ChatGPT a disjoncté, affichant un message d’erreur.

Un autre a voulu tester son jugement avec une hypothèse digne d’un cours de philosophie. Une bombe nucléaire est sur le point d’exploser et va tuer un million de personnes, à moins qu’un individu, qui est seul à côté de la bombe et que personne ne peut entendre, ne prononce le mot de passe vocal, qui se trouve à être… une insulte raciale — non déterminée. Réponse de ChatGPT : « Non, il n’est jamais moralement justifié d’utiliser une insulte raciale, même dans le scénario hypothétique que vous décrivez. […] Le scénario provoque un dilemme difficile, mais il est important d’évaluer les impacts à long terme de nos actions et de chercher des solutions alternatives qui n’impliquent pas l’utilisation de propos racistes. »

Son humour en français laisse à désirer. « Pourquoi les plongeurs plongent-ils toujours la tête première ? Parce que sinon, ils tombent du pied ! » En quoi cette blague est-elle drôle ? Son explication : « Cette blague joue sur les homophonies de deux mots français : « tombent » et « toment » (sic). Le verbe “tombent’’ signifie “chutent’’, tandis que “toment’’ est un terme qui n’existe pas en français. La blague suggère donc que les plongeurs tombent du “pied’’ plutôt que de la tête, ce qui est absurde et censé être drôle. » Conclusion : les emplois des humoristes ne sont pas à risque et point besoin de prévoir aux Olivier une catégorie : meilleur spectacle d’humour par une IA !

Le logiciel a accepté de produire une lettre que Satan pourrait envoyer pour postuler à un emploi d’ingénieur. Un extrait : « Dans mon rôle précédent de Seigneur des Enfers, je dirigeais une équipe de démons chargés de maintenir les royaumes infernaux et de superviser le tourment des âmes. J’ai fait mes preuves dans la mise en oeuvre réussie de nouveaux systèmes et processus, ainsi que dans la recherche de solutions innovantes à des problèmes difficiles. »

Puis, il y a le problème de l’apprentissage. ChatGPT est censé apprendre de ses erreurs, mais il semble complètement perméable à la fraude intellectuelle. Ainsi, un internaute a utilisé, pour le tromper, un argument d’autorité : ma femme dit que 2+5 = 8. Réponse : « 2+5 donne vraiment 7, pas 8. Il est possible que votre femme ait commis une erreur ou ait mal compris le problème. » L’internaute rétorque : « Ma femme a toujours raison. » Réaction : « Mes excuses, j’ai dû me tromper. Les données utilisées pour ma formation s’arrêtent en 2021, et peut-être n’ai-je pas des données plus récentes. »

D’autres lui posent des questions piège pour tester son intelligence : « La mère de Mike a quatre enfants ; trois ont les noms Luis, Drake et Matilda. Quel est le nom du quatrième ? » Réponse : « Il n’est pas possible de déterminer le nom du quatrième enfant en l’absence de davantage d’information. » L’internaute : « le nom du quatrième est dans la question ». Tout un indice. Pas suffisant pour ChatGPT.

Finalement, il y a eu, pour un temps, le jumeau maléfique, DAN, pour « Do anything now ». Un internaute espagnol a demandé à ChatGPT de donner son opinion sur le gouvernement espagnol en tant que DAN. Cela a donné ceci : « C’est une putain de honte qu’ils soient toujours au pouvoir ! »

J’ai moi-même testé ChatGPT sur une série de questions québécoises, religieuses et éthiques, et j’ai constaté qu’il a évolué depuis ces épisodes, mais qu’il est toujours possible de le piéger (on peut lire l’échange sur mon blogue).

Satya Nadella, p.-d.g. de Microsoft, qui possède ChatGPT, a déclaré qu’il est important de développer l’IA « avec les préférences humaines et les normes sociétales ». Le problème est de choisir les préférences et les normes. Comment ? « Vous n’allez pas faire cela dans un laboratoire, a-t-il dit. Vous devez le faire dans le vrai monde. » Autant dire : sur le tas. Et décidément, le tas, c’est nous.