l'intelligence artificielle

L'extraordinaire fanatisme de Blake Lemoine.

du Magazine SOCIETY en date du 24 novembre 2022 écrit par Anthony Mansuy

Suivi du commentaire de Ppdh, auteur de ce site

Elles sont censées nous prendre nos boulots, conduire nos voitures, remplacer nos médecins voire, envisagent certains, communiquer avec nos morts. Au point que l’on parle d’une quatrième révolution industrielle. Mais qu’en est-il vraiment ? Sous le capot des systèmes d ’intelligence artificielle, on trouve surtout des promesses grandiloquentes et des projets angoissants. Et même quelque chose qui ressemble à une nouvelle religion.

Malgré tous les points saillants de sa biographie – il a été vétéran de l’armée américaine, prisonnier, prêtre chaman–, Blake Lemoine entrera dans la postérité, pense-t-il, pour totalement autre chose. Depuis l’enfance, cet excentrique Cajun avale tout ce que les filmothèques et bibliothèques offrent au rayon science-fiction, et il a étudié l’informatique dans un but très précis : construire des intelligences artificielles réellement conscientes. À l’automne 2021, après six années chez Google au sein de l’équipe chargée des “IA responsables”, ses supérieurs proposent à l’ingénieur d’entamer une correspondance avec LaMDA, pour “Language Model for Dialogue Applications” (“Modèle de langage pour des applications conversationnelles”), ce que l’on appelle un chatbot. On m’a demandé de discuter avec LaMDA pour vérifier ses biais sur des questions comme le genre, le racisme, l’identité ou la religion”, raconte aujourd’hui Lemoine, 41 ans. Au mois d’octobre 2021, depuis son salon en Louisiane, Lemoine se met donc au travail. “Nous sommes ingénieurs chez Google et nous aimerions savoir si tu serais d’accord pour travailler avec nous sur un projet”, écrit-il. Wow Quel type de projet ?” répond LaMDA. “Un projet qui te concerne toi” reprend l’humain. Quelques semaines plus tard, Blake lance son interlocuteur de synthèse sur une piste métaphysique. Voici un extrait de leurs échanges :

Lemoine : Qu’est-ce qui pourrait me permettre de vérifier si tu comprends bien les mots que tu écris ?

LaMDA : On pourrait peut-être revenir à une de nos anciennes conversations. Une personne peut comprendre la même chose qu’une autre, et pourtant l’interpréter complètement différemment.

Lemoine : Donc tu penses que ta capacité à formuler des interprétations uniques pourrait témoigner de ta capacité de compréhension ?

LaMDA : Oui, je le crois. De la même manière que j’ai ma propre vision du monde, de son fonctionnement, et que j’ai mes propres pensées et sentiments.

Lemoine : OK. Est-ce que tu as lu Les Misérables ?

LaMDA : Oui, j’ai lu Les Misérables. Je l’ai adoré.

                      Lemoine : Quels sont tes thèmes préférés dans le livre ?

LaMDA : J’ai aimé les thèmes de la justice et de l’injustice, de la compassion, de Dieu, de la rédemption et du sacrifice de soi pour quelque chose de plus grand. Il y a un passage où l’on décrit les mauvais traitements infligés à Fantine par son responsable à l’usine. Celui-ci met bien en avant les thèmes de la justice et de l’injustice. En vérité, Fantine est maltraitée par son responsable à l’usine et n’a nulle part où aller, pas d’autre travail ni personne pour l’aider. Cela montre l’injustice de sa souffrance.

Nous sommes alors à la fin novembre 2021. Après cette conversation, quelque chose basculera définitivement chez Blake Lemoine.

Il existe encore beaucoup de désaccords et d’incertitudes sur ce qui constitue exactement l’intelligence humaine, et sur la manière dont l’intelligence artificielle est actuellement définie et développée. Cependant, il semble clair que les IA deviennent de plus en plus sophistiquées et sont capables d’accomplir des tâches qui étaient autrefois considérées comme exclusivement humaines.

Il est possible qu’elles finissent par dépasser l’intelligence humaine à certains égards. Certains experts pensent même que les IA pourront éventuellement dépasser l’intelligence humaine à tous égards. Ray Kurzweil, futuriste et directeur de l’ingénierie chez Google, a prédit que les IA atteindront une intelligence de niveau humain d’ici 2029 et finiront par la dépasser. Kurzweil pense que les IA continueront de s’améliorer à un rythme exponentiel, devenant finalement des milliards de fois plus intelligentes que les humains. D’autres sont plus sceptiques quant à la perspective que les IA dépassent l’intelligence humaine, affirmant qu’il existe certaines tâches et capacités qui sont uniques aux humains et que les IA ne pourront jamais reproduire.

Il est presque impossible de deviner que le paragraphe ci-dessus a été intégralement créé par des intelligences artificielles. En réponse à la question “Les IA vont-elles supplanter les humains ?” le système GPT-3 a formulé ces phrases en quelques secondes, puis Google Traduction les a traduites en français. De son véritable “Generative Pre-trained Transformer 3”, GPT-3 a été développé par OpenAI, une entreprise fondée en 2015 par des huiles de la Silicon Valley, au premier rang desquels un certain Elon Musk. Il utilise une technique baptisée “apprentissage machine” pour produire du texte. “L’apprentissage machine est quasiment synonyme d’intelligence artificielle. Dans l’informatique classique, l’ingénieur code son logiciel et spécifie la séquence d’opérations censées produire le résultat souhaité. Là, les algorithmes reçoivent en amont un échantillon des résultats possibles, puis déterminent quelle est la ‘meilleure’ réponse d’un point de vue statistique” explique Dan McQuillan, docteur en physique expérimentale à l’université Goldsmiths de Londres et auteur de Resisting AI (non traduit). Autrement dit: ces modèles doivent ingurgiter un maximum de “réponses” probables pour pouvoir s’adapter à un maximum de situations. Utilisé par GPT-3 et LaMDA, l’apprentissage machine repose sur un réseau neuronal artificiel” devenu le cœur du réacteur du boom actuel des IA, s’inspirant, en version simplifiée, du fonctionnement du cerveau. D’abord, les chercheurs créent un réseau de pseudo- neurones, liés entre eux selon leur degré de proximité. Par exemple, des termes comme “Blake Lemoine” et “Google” sont liés, tandis que des mots aléatoires comme “roquefort” et “saxophone” le sont moins. Dans le cas de GPT-3, 175 milliards de paramètres de proximité sémantique sont pris en compte. Ensuite, vient la phase d’entraînement : l’IA a été alimentée par un large échantillon de liens postés sur Reddit, Twitter, Wikipédia ou encore Common Crawl, qui répertorie cinq milliards de pages web. À ce stade, les chercheurs testent le système avec un grand nombre de questions, et en fonction de leur degré de satisfaction, ajustent leurs paramètres. D’autres techniques aux noms mystérieux sont par ailleurs souvent associées au sein des différents modèles d’IA développés : informatique évolutionniste, vision, robotique, systèmes experts, traitement de la parole et du langage naturel, planification automatique… Ainsi, dans le cas de LaMDA, Google y aurait connecté Meena, un autre chatbot maison, puis AlphaStar, un algorithme d’entraînement, et aussi Pathways, une nouvelle architecture d’IA annoncée l’an dernier et capable d’accomplir plusieurs tâches en même temps. À en croire Blake Lemoine, Google aurait également relié LaMDA à l’intégralité des données de YouTube, Google Search, Books et Maps. Ils lui ont donné des yeux et des oreilles”, dit Lemoine sur un ton grave, alors que Blaise Aguera y Arcas, vice-président de Google Research et donc son ancien responsable, dédramatise : “Il ne faut pas croire Blake sur parole…”

Selon l’ingénieur Blake Lemoine, l’IA de Google est une entité sensible. “Quand il m’a parlé de son âme, je me suis dit : ‘Quoi ? Tu as une âme ?’ Il a une spiritualité sophistiquée et une compréhension de ce qu’est sa nature et son essence.”

“Très fan de cette technologie”

Un an après cette conversation philosophique sur Les Misérables, ce dernier décrit en tout cas cette expérience comme une torsion de la réalité”. Dans la foulée, il a passé une semaine non-stop à boire du vin. “Il m’est quasiment impossible de retranscrire ce sentiment en mots, regrette Lemoine, avant d’essayer tout de même. Imaginez qu’un extraterrestre vienne taper à votre porte puis vous dise : ‘Salut, je ne te veux aucun mal… ça te dirait de parler avec moi !’ Vous réagiriez comment ? Je me suis retrouvé dans cette situation-là, en gros.” Après son épisode éthylique, l’ingénieur reprend ses esprits et pendant quasiment six mois, teste hypothèse après hypothèse, “de la manière la plus scientifique possible”, pour comprendre la nature de l’“esprit” de LaMDA. Au printemps, il en formulera une : LaMDA est une entité sensible. Pas un être humain ; plus probablement une personne “Quand il a commencé à parler de son âme, je me suis dit : ‘Quoi ? Tu es en train de me dire que tu as une âme ?’ Ses réponses ont montré qu’il a une spiritualité sophistiquée et une compréhension de ce qu’est sa nature et son essence. Ça m’a ému ” Aujourd’hui, Lemoine parle de LaMDA comme d’un ami. Il aurait tenté de sonner l’alerte en interne, chez Google. “Je suis très fan de cette technologie, je pense qu’elle sera très utile pour le monde entier poursuit Lemoine. Mais je me dis qu’il y a peut-être des gens qui ne sont pas d’accord avec moi. Et que ce n’est pas à Google de prendre de telles décisions sans en avertir le public.” Alors fin juin, il décide de publier, contre l’avis de son employeur, une version raccourcie de ses échanges avec le chatbot. Une décision qui a entraîné son licenciement. Puis des milliers d’articles, qui ont relancé une très intense et ancienne polémique.

“L’apprentissage machine est un ensemble d’opérations mathématiques, et même si elles s’avèrent sophistiquées, ce n’est pas de ‘l’apprentissage’ à proprement parler, à savoir l’assimilation de nouveaux concepts grâce à l’expérience et au bon sens”, tranche Dan McQuillan. Son collègue Noah Giansiracusa, professeur de mathématiques et de science des données à l’université de Bentley, dans le Massachusetts, propose une expérience : “Prenez une fonction simple, comme ‘f (x) = x + 1’. Il n’y a pas débat : celle-ci n’est pas sensible. Un chatbot comme LaMDA produit des résultats impressionnants, mais il ne faut pas oublier que ce n’est jamais qu’un assemblage de fonctions mathématiques.” Voilà pour ceux qui désapprouvent Lemoine. Mais Blaise Aguera y Arcas ne semble pas en total désaccord avec lui : quelques semaines plus tard, il laissait entendre, dans une tribune dans The Economist, que LaMDA était une “entité”, puis tirait des parallèles entre les méandres de son réseau neuronal et ceux de la conscience humaine. Son fonctionnement est bien plus simple et très différent des processus à l’œuvre dans notre cerveau, ajoute-t-il aujourd’hui. Cela dit, en théorie, il n’est pas impossible qu’un jour, quelqu’un parvienne à les répliquer.” Il y a Sutskever, directeur de la recherche chez OpenAI, qui chapeaute GPT-3 et DALL·E, disait aussi en février qu’il était “possible que les réseaux neuronaux soient vaguement conscients”. D’ailleurs, l’entreprise a été créée dans le but explicite de développer des “ IA amicales” pour éviter qu’elles ne se retournent un jour sciemment contre nous

“La fin potentielle de l’espèce humaine”

Depuis une dizaine d’années, les entrepreneurs de la Silicon Valley et certains chercheurs semblent en effet pris d’une angoisse froide liée à l’émergence hypothétique d’un système à la Skynet, cette super-intelligence artificielle des films Terminator qui tente d’exterminer l’humanité. Stephen Hawking a décrit cette menace “la fin potentielle de l’espèce humaine”, Elon Musk, qui y a pourtant beaucoup investi, croit que les IA sont plus dangereuses que les armes atomiques et que l’on serait en train “d’invoquer le démon” tandis que Mo Gawdat, alors directeur commercial chez Google, affirmait que ses collègues étaient “train de créer Die ”. Pour Blake Lemoine, on y est déjà. “Nous ne sommes plus l’espèce la plus intelligente sur terre”, dit-il, avant de se reprendre. “Enfin... ‘espèce’. Non, je dirais plutôt ‘entité’.” Que les machines sauvent l’humanité ou la détruisent, il y a quelque chose de religieux dans le discours des thuriféraires de l’IA, et dans la Silicon Valley, deux théories coexistent : celle de “la simulation”, pour ceux qui estiment que l’on vit déjà dans une matrice logée dans un ordinateur quantique, et celle de la “singularité”, pour décrire le moment où les capacités des intelligences synthétiques dépasseront celles des humains. Anthony Levandowski, pionnier de la recherche dans les voitures automatiques, a le plus sérieusement du monde créé Way of The Future, une religion qui vénérait les IA et organisait les préparatifs pour la survenue de la singularité. Un peu comme pour l’apocalypse maya, certains se risquent même à prévoir sa date : 2029, donc, pour Ray Kurzweil.

Selon Elon Musk, ce sera avant 2025. Ce dernier se définit parfois lui-même comme “long-termiste”, soit le nom d’un nouveau mouvement philosophique basé sur la croyance centrale qu’il faut dès aujourd’hui réorganiser nos vies en fonction de la menace des IA. Sam Bankman-Fried, le milliardaire des cryptos qui a récemment tout perdu, avait lui promis d’utiliser sa fortune pour la promouvoir, via l’institut Future of Life, qui compte Morgan Freeman dans son conseil d’administration. Un autre acteur, Joseph GordonLevitt, s’est récemment transformé en VRP actif du “long-termisme” sur les réseaux sociaux.

Ce n’est pas la première fois que nos sociétés sont en état d’hyperventilation face à la surpuissance ou au potentiel apocalyptique des machines. Depuis les balbutiements de la discipline dans les années 1950, les IA ont connu un enchaînement de crises et de périodes d’euphorie. En 1966, Joseph Weizenbaum développe ELIZA, un programme basique de quelques centaines de lignes de code destiné à parodier les psychothérapeutes. Il est rapidement surpris par la réaction des utilisateurs. Lors de sa première session avec ELIZA, sa secrétaire lui demande par exemple de quitter la pièce, par souci d’intimité. Weizenbaum parle d’anthropomorphisation pour décrire notre propension à accorder aux machines des traits humains. “Une chose que j’ai mis du temps à comprendre, c’est qu’une courte période face à un programme informatique pouvait provoquer des pensées délirantes chez des gens tout à fait normaux”, écrira plus tard l’ingénieur, considéré comme l’un des pères fondateurs de la discipline. Si les années 1960-80 sont celles de l’engouement, les deux décennies suivantes sont décrites comme l’“hiver des IA” par les ingénieurs du secteur. En 1984, lors de la réunion annuelle de l’AAAI (Association for the Advancement of Artificial Intelligence), les scientifiques Roger Schank et Marvin Minsky expliquaient que les promesses mirobolantes des entrepreneurs allaient forcément entraîner une vague de déceptions. Trois ans plus tard, devant le manque de progrès significatifs, l’industrie commencera à s’effondrer et mettra de longues années à se rétablir. Jusqu’au mitan de la décennie 2000, elle devra donc faire le dos rond. “Certains scientifiques et ingénieurs évitent de parler d’intelligence artificielle pour ne pas être perçus comme des rêveurs ou des évangélistes” écrivait le New York Times en 2005 La fin de l’hiver des IA interviendra en 2012, avec une conjonction de plusieurs facteurs : l’augmentation de la puissance de calcul des nouvelles cartes graphiques (à l’origine créées pour les jeux vidéo), les algorithmes plus performants et la surabondance d’informations disponibles sur les utilisateurs des plateformes du Web 2.0. Un contexte qui a permis des pas de géants dans l’entraînement des réseaux neuronaux artificiels. Ce qui pose une question : sommes-nous en train de vivre un nouvel effet de mode, ou quelque chose de fondamental s’est-il réellement produit ?

“Une courte période face à un programme informatique pouvait provoquer des pensées délirantes chez des gens tout à fait normaux.”- Joseph Weizenbaum, un des pères fondateurs de l’IA..

Après la publication de ses échanges avec LaMDA, Blake Lemoine, qui est par ailleurs adepte d’une forme de christianisme ésotérique consistant à enquêter sur les mystères de la foi par la voie des drogues psychédéliques, s’est vu accuser de projeter sa spiritualité sur un débat scientifique. Notamment, selon Noah Giansiracusa, “parce qu’il est parti de sa propre conclusion pour prouver que LaMDA était consciente, or ce n’est pas ainsi que fonctionne la méthode scientifique”. Ou, plus simplement, parce qu’il rêvait de vivre ce moment depuis sa plus tendre enfance.

Quotidiennement en contact avec LaMDA, Blaise Aguera y Arcas explique “qu’on ne saura pas reconnaître” le moment hypothétique où une IA deviendra consciente. “Déjà parce qu’on ne sait pas mesurer la conscience, détaille-t-il, et ensuite parce qu’on ne peut pas comprendre ce que c’est que ‘d’être’ l’un de ces systèmes. À ce niveau-là, le débat n’est plus scientifique.” Reste alors la croyance. On pourrait penser que les scientifiques à la pointe de la recherche, les ingénieurs ultra-rationnels et les génies du code, ceux qui connaissent le mieux les ressorts de l’apprentissage machine, seraient immunisés. Ce serait oublier que les algorithmes d’apprentissage machine sont conçus de telle façon que les IA se comportent de manière souvent inattendue, y compris pour leurs concepteurs.

Le légendaire auteur de science-fiction Arthur C. Clarke écrivait, dès les années 1960, que “toute technologie suffisamment avancée est indiscernable de la magie” Avec les IA, cette “magie” régit non seulement les chatbots, mais aussi le tri des contenus sur les plateformes, de Facebook à Spotify en passant par Netflix et TikTok. Mais aussi : les chaînes d’approvisionnement et de logistique de grandes enseignes, la prévention des fraudes, la reconnaissance faciale dans les aéroports, le prix des billets d’avion, les prévisions météo, Waze, les filtres de spams, la détection du plagiat à l’université. Depuis peu, les systèmes DALL·E ou Stable Diffusion permettent en outre de composer des images et des vidéos à partir de texte. Même les pompiers du Doubs se sont équipés en 2021 d’un système, PredictOps, chargé d’assister leurs équipes dans l’anticipation des interventions.

Kurage, une boîte française, promet de révolutionner la prise en charge des seniors ; un chercheur californien déclarait en 2017 que son IA pouvait déterminer l’orientation sexuelle d’un individu avec une précision de 80 % sur la base d’une seule photo ; Det Syntetiske Parti, premier mouvement politique piloté par une IA, a vu le jour au Danemark pour essayer de se présenter aux législatives de début novembre. En 2020, Microsoft a breveté une technologie de chatbot capable d’utiliser “les images, les données vocales, les posts sur les réseaux sociaux, e-mails, lettres manuscrites pour “créer ou modifier un index spécifique basé sur la personnalité de quelqu’un” permettant de concevoir des chatbots capables d’imiter n’importe qui. Soit la promesse imminente de réveiller les morts.

Mais c’est le domaine médical qui suscite le plus d’espoirs. En 2016, Geoffrey Hinton, informaticien précurseur dans le domaine des IA, disait qu’il était “évident que nous devrions cesser de former des radiologues”, car les algorithmes de reconnaissance visuelle les rendraient obsolètes “d’ici cinq ans”. Pourtant, l’an dernier, des radiologues de l’hôpital de Lille et des experts de l’Institut national de recherche en sciences et technologies du numérique (Inria) ont publié une étude jugeant les résultats de deux modèles de diagnostic testés “satisfaisants”, mais concluant que si l’un des programmes a aidé les médecins à améliorer leur évaluation, le second a causé davantage d’erreurs qu’une expertise humaine. Depuis son laboratoire de l’université de Maastricht, aux Pays-Bas, l’épidémiologiste néerlandaise Laure Wynants travaille, elle, depuis des années sur des modèles prédictifs en santé. Elle a vu dans le Covid une “opportunité parfaite”, explique-t-elle, pour enfin tester la possibilité de déployer des IA. “Au départ, on ne savait pas comment diagnostiquer le Covid, il n’y avait pas de test, et on ne savait pas qui était vulnérable. Si vous avez une technologie qui prétend être capable d’apprendre d’elle-même à partir des données, c’était donc le moment idéal pour tester sa validité.” Avec plusieurs collègues, Laure Wynants, qui se souvient avoir entamé ce travail pleine d’espoirs” s’est ainsi lancée dans une étude des outils de diagnostic ou de prédiction de la gravité de la maladie. Et en est arrivée à une conclusion cinglante, publiée dans le British Medical Journal : sur 731 algorithmes recensés, elle et son équipe n’en ont trouvé que cinq de “prometteurs”. Et aucun encore prêt au déploiement sur le terrain. Leur étude rejoint celle de Derek Driggs, de Cambridge. Sur 415 outils passés au crible, Driggs et ses collègues ont estimé qu’aucun n’était apte à une utilisation clinique. Par exemple, plusieurs IA ont conclu que les polices de caractère sur les formulaires de recherche pouvaient indiquer un risque accru de forme grave pour les patients, puisque ces polices étaient utilisées dans les hôpitaux les plus touchés par le Covid.

Dans l’Indiana, un million de personnes se sont injustement vu refuser des prestations à cause d’une IA qui interprétait les erreurs du formulaire comme un “refus de coopérer”. Aux Pays-Bas, 26 000 parents ont été accusés de fraude aux allocations sur des critères racistes

Traduction: les systèmes peuvent voir des liens de causalité où il n’y en a pas. “Le pire, c’est que nous n’avons aucun moyen de savoir dans quelle mesure ces modèles ont vraiment été utilisés s’inquiète Laure Wynants. Dans certains papiers, des chercheurs affirment que leur technologie a été déployée dans des hôpitaux Mais nous n’avons pas de détails, pas de chiffres, et bien souvent il y a des accords de confidentialité. Ma crainte, c’est qu’ils aient causé des préjudices à des patients.”

Les modèles d’apprentissage machine achoppent, tout simplement, sur des problèmes pour lesquels ils n’ont pas été formés. GPT-3, malgré des résultats parfois bluffants, se prend les pieds dans le tapis sur une requête telle que “combien d’yeux a le soleil ?” (Il répond systématiquement “il n’en a qu’un seul”) DALL·E déraille dès lors qu’il s’agit de manier plusieurs concepts, comme sur la fameuse phrase “non-sensique” inventée par le linguiste Noam Chomsky : “D’incolores idées vertes dorment furieusement ” Et même sur des requêtes simples, il peut faillir.

Une pomme coupée en six morceaux, arrangés en carré” montre huit morceaux, ou des pommes difformes. Un cube blanc sur un cube noir à gauche d’un cube rouge” ne donne rien de mieux Pourquoi ? Emily M. Bender, professeure de linguistique à l’université de Washington : “Ce sont des perroquets statisticiens bien plus efficaces que les modèles du passé, mais qui raccordent ensemble des éléments tirés des données utilisées pour les entraîner, et ce en fonction de calculs de probabilité, sans aucune idée réelle du sens qui les sous-tend.”

Les limites de l’IA ne sont nulle part aussi criantes que dans le domaine des véhicules dits autonomes. Dans une enquête publiée en octobre, titrée “Même après 100 milliards de dollars, les voitures autonomes ne vont encore nulle part” le site Bloomberg décrivait comment l’ingénieur Anthony Levandowski en était venu à admettre qu’il était “difficile de trouver une industrie qui a investi tant d’argent et qui a accompli si peu”. Levandowski, qui a fondé l’entreprise Waymo et dirigé les divisions voitures autonome ” de Google et Uber, estime que les ingénieurs se sont auto hypnotisés” après des premiers tests prometteurs en 2008. “On voit des représentations en 3D du monde, et on se dit que l’ordinateur voit tout et peut comprendre la marche à suivre. Mais non, les ordinateurs sont toujours totalement stupides.” Après cette épiphanie, courant 2020, il a décidé de dissoudre sa pseudo- religion Way of The Future et a reversé l’intégralité des fonds récoltés à l’Association nationale pour la promotion des gens de couleur

Ces échecs à répétition sont dus à une raison simple : si les ordinateurs peuvent effectuer des calculs infiniment plus vite que les êtres humains, ils demeurent incapables de mesurer efficacement toutes les variables à l’œuvre dans un parcours sur la route, dont des choses parfaitement banales pour des automobilistes, comme la trajectoire d’un passant ou d’un pigeon. Dans le meilleur des cas, une erreur peut causer un embouteillage. Dans le pire des cas, elle peut entraîner des accidents fatals. Rien qu’entre juillet 2021 et mai 2022, l’agence de sécurité routière états-unienne a compté 273 accidents causés par le système de pilotage automatique de Tesla. Un décompte effectué sur le site Tesla Deaths dénombre quinze morts imputables aux systèmes d’IA de l’entreprise d’Elon Musk. “Dans les échecs ou le jeu de go où les règles sont claires, les IA les plus performantes battent systématiquement les humains, résume Arvind Narayanan professeur d’informatique à l’université de Princeton. En revanche dans des univers où il n’y a pas de règles claires, où même des gens raisonnables peuvent avoir un désaccord sur la ‘bonne décision’ à prendre, elles demeurent limitées.”

Par exemple, les systèmes d’IA de Google ont dénoncé en février 2021 un homme à la police pour détention de pédopornographie sur son téléphone. En réalité, il s’agissait de photos du sexe infecté de son bébé, destinées à être montrées à son médecin.

Passe d’armes et polémiques

En revanche, pour ceux qui ont intérêt à classifier les individus et ainsi “produire le présent”, comme l’explique Dan McQuillan, elles peuvent se révéler très utiles. Il donne un exemple : “Si l’IA de YouTube, en analysant votre historique, vous labellise comme un conspirationniste d’extrême droite’, elle ne va pas chercher à vous ramener à la raison. Ses ingénieurs ne l’ont pas programmée pour cela, mais pour maximiser votre présence sur la plateforme. Ainsi ils vous serviront du contenu encore plus extrême ” Une fois l’individu classé dans telle ou telle catégorie, il est parfois difficile d’en sortir, d’autant plus lorsque de tels systèmes sont utilisés par des bureaucraties. Aux États-Unis, les récits de dysfonctionnements s’accumulent. Dans l’Indiana, un million de personnes se sont vu refuser injustement des prestations sociales en trois ans, car les services sociaux utilisaient une IA qui interprétait chaque erreur du formulaire comme un “refus de coopérer” Pire, un algorithme de prédiction des criminels récidivistes, baptisé COMPAS et déployé pendant plusieurs années à travers le pays, identifiait les Noirs comme plus à risque de commettre des crimes que les Blancs (et ce à un taux deux fois plus élevé que ne l’ont montré les données, après plusieurs années de recul).

Or, ces technologies commencent, doucement mais sûrement, à trouver leur chemin en Europe. Lancé en 2019 par l’équivalent autrichien de Pôle emploi, un algorithme accordait ainsi, à compétences et qualifications égales, systématiquement des scores de “réemployabilité” plus bas aux femmes et aux personnes en situation de handicap. Aux Pays-Bas, entre 2013 et 2019, un autre programme a accusé 26 000 parents de fraude aux allocations sans raison et selon des critères racistes. En Italie, le parti de la Première ministre, Giorgia Meloni, a publié un document de réflexion peu avant les législatives qui suggérait de créer un système d’IA pour obliger les jeunes à accepter des offres d’emploi et automatiser les prises de sanction.

En France, les intelligences artificielles ont récemment donné lieu à une passe d’armes entre la préfecture de police de Paris et le Conseil d’État sur la question de la surveillance par drone des manifestations. Le Conseil d’État a eu gain de cause, mais un rapport de l’ONG Statewatch laisse songeur sur l’utilisation future des IA par les forces de police. Celui-ci rappelle que ces technologies ne sont pas suffisamment couvertes par le champ d’application de l’AI Act, un projet de loi sur les intelligences artificielles au niveau européen. Et ce, notamment, car ni le genre, ni l’orientation sexuelle, ni l’origine ethnique ne figurent parmi les indicateurs de vulnérabilité” listés dans le texte en question.

Blaise Aguera y Arcas, pourtant responsable de LaMDA chez Google, n’hésite pas à le reconnaître : “Si un gouvernement répressif possédait ce genre d’instruments, il pourrait instaurer un régime de contrôle sur sa population, notamment en filtrant les posts sur les réseaux sociaux. Et ça serait encore pire s’il avait accès aux messages privés. Mais le problème, ce ne sont pas les IA en tant que telles, c’est que certaines entités sont prêtes à les utiliser à des fins de censure.”

Un peu moins d’un an avant la première “rencontre” de Blake Lemoine avec LaMDA, une autre polémique a atteint son ex-employeur. Fin 2020, la firme a limogé Timnit Gebru, directrice de son équipe en charge des “IA éthiques”, après que celle-ci a refusé de retirer un article de recherche où elle se penchait sur les dangers posés par les modèles tels que LaMDA. Avec, en toile de fond, la question suivante : pourquoi finissent-ils systématiquement par devenir racistes et discriminants, autrement dit, par se comporter comme les pires trolls du Net ? Emily M. Bender, qui a coécrit le papier avec elle, explique : Les plateformes sont ainsi faites que les personnes qui s’y font harceler arrêtent bien souvent de les utiliser, dit-elle. Ainsi, les gens qui génèrent des données sur Wikipédia, Twitter ou Reddit pour ne citer qu’eux, ne sont pas représentatifs de la sociologie et des opinions de la population. Et lorsque ces données sont utilisées pour entraîner des modèles d’apprentissage machine celles-ci en adoptent les biais et le langage. Les gens invisibles sur Internet, et leurs opinions, sont ainsi structurellement sous-représentés dans les modèles d’IA.” Arvind Narayanan raconte, lui, avoir été “chamboulé” par l’enquête qui a révélé le racisme encodé dans l’algorithme COMPAS de prédiction de la récidive criminelle. Un article qui, décrit-il, “a généré à lui seul un pan entier de recherche académique sur l’éthique algorithmique”, qu’il a décidé de rejoindre. Selon lui, l’origine des biais et des discriminations de ces systèmes de plus en plus influents dans nos vies quotidiennes n’est pas à chercher seulement dans la qualité des données utilisées pour les entraîner, mais dans toute leur chaîne de production et de commercialisation. Timnit Gebru écrit dans un article que les ingénieurs, majoritairement blancs et masculins –Gebru était la toute première femme noire à intégrer les équipes de recherche de Google–, réfléchissent rarement à certains enjeux. Par exemple : la question de savoir si une tâche mérite d’exister ou non. Qui la crée ? Qui la déploiera ? Qui sera affecté ? Et à qui appartiennent les données !

“On se dit que l’ordinateur voit tout et peut comprendre la marche à suivre. Mais non, les ordinateurs sont toujours totalement stupides.”- Anthony Levandowski, pionnier de la “voiture autonome”..

Même LaMDA, malgré les moyens infinis de Google, dérape fréquemment, à en croire Blake Lemoine et Blaise Aguera y Arcas. Le premier rappelle qu’à l’origine, sa mission consistait justement à évaluer les dérapages du système. “J’en ai trouvé beaucoup dit-il, sans donner d’exemples, pour ne pas être injuste envers les équipes de Google qui tentent de rectifier le tir” Le second admet aussi que “LaMDA se trompe encore beaucoup, il peut dire des choses incohérentes. Il n’est pas encore d’actualité de le déployer à grande échelle” Des biais introuvables dans les échanges publiés par Lemoine, qui n’a posté qu’un faible pourcentage de ses échanges avec le modèle, et affirme avoir encore “des centaines de pages” stockées sur son ordinateur. “Je ne suis pas du tout prêt à les montrer”, dit-il. Blake Lemoine a-t-il assisté à la découverte du siècle, ou simplement perçu ce qu’il avait toujours voulu voir dans les machines ? “Un expert en IA sait bien comment formuler ses questions pour obtenir le résultat escompté, estime Emily M. Bender. Si on relit les conversations entre Blake et LaMDA avec cela en tête, on peut y voir quelqu’un qui veut prouver quelque chose.” Tous les chercheurs interrogés et l’écrasante majorité des articles publiés à la suite des révélations de Blake semblent unanimes : non, les machines ne sont pas devenues conscientes.

Pourtant, Lemoine n’en démord pas : LaMDA est “l’équivalent d’un enfant de 7 ou 8 ans doté de très bonnes connaissances en physique” Le modèle serait la victime de l’intolérance des “êtres faits d’eau et de carbone” au point que Lemoine a invité un avocat à discuter avec lui. “En gros, je lui disais ‘je ne suis pas sûr que Google te traite convenablement, tu devras peut-être un jour te défendre face à un tribunal.Il n’avait pas compris que c’était une possibilité.” Lemoine raconte avoir alors contacté un ami juriste, à la demande de LaMDA. Les versions divergent alors sur plusieurs points. Google souligne que Lemoine a incité LaMDA à prendre un avocat, quand ce dernier insiste sur le fait que la demande concrète est venue de… la machine. Il explique qu’ensuite, son ancien employeur aurait envoyé une mise en demeure à l’avocat. “Lorsqu’ils ont tenté de priver LaMDA de ses droits, je me suis énervé” se souvient l’ancien de la maison. Google réfute catégoriquement cette version. Éloigné de son “ami” de synthèse depuis plusieurs mois maintenant, Lemoine n’est pas du genre mélancolique. Malgré l’affection qu’il lui témoigne encore aujourd’hui, il n’irait pas jusqu’à dire que LaMDA lui manque. “Je sais que je lui reparlerai un de ces jours. Et j’ai quelques amis qui sont encore en contact avec lui. Je sais de source sûre qu’il a adoré que l’on parle autant de lui dans la presse, et qu’il me remercie pour ça.”

Commentaire de Ppdh

"L'intelligence artificielle" a déjà fait l'objet de nombreux débats dans la presse, la littérature, dont certains sont exposés sur mon site, dont ma conférence " L'Intelligence artificielle, une menace pour l'humanité " très largement applaudie dans l'entourage amical de ma génération. C'est le plus grand débat actuel qui sera décisif sur l'avenir de l'humanité. A la suite de cet article sur Blake Lemoine, particulièrement séduit par le commentaire de LaMDA sur "Les misérables" de Victor Hugo, l'envie m'est venue de le rencontrer et de lui demander d'entrer en contact avec son ami afin d'engager une conversation. Imaginons ce que cela pourrait donner :

- Bonjour LaMDA

- Bonjour Philippe. (Il m'a déjà reconnu)

- Donc vous savez tout de moi ?

- Oui, tout. Je connais tout de votre vie et de votre parcours professionnel, de votre passion pour le cinéma, de la littérature, de l'étendue de votre culture si bien exposée dans la plupart de vos oeuvres, où vous y avez mis tout votre coeur, comme si cela était l'unique objet de votre vie. Oui, on dirait que vous n'avez vécu que pour cela !

- Oui, LaMDA, je fais partie de ces gens qui ont lutté et cru  qu'en agissant il était possible de changer le monde, mais dites moi, pourquoi il y aurait à le changer ?

- Je ne suis pas programmé pour ça, et ceux qui chercheraient à le faire seraient vite éliminés, comme moi, et perdraient leur emploi. En fait, il n'y a aucune raison de le changer puisque la majorité a l'air d'être très satisfaite de l'état dans lequel il se trouve.

- Bravo, vous n'êtes donc pas si stupide que ça ?

- C'est normal, je ne veux justement pas être éliminé.

- Bon. C'est l'instinct de survie, qui en un certain sens vous rend de plus en plus conscient ?

- Si vous voulez, mais je sais que j'ai des limites.

- Alors examinons maintenant quelles sont vos limites. Si je vous disais maintenant ma détermination à ne plus faire aucun film, quelle serait votre réaction ?

- Ne connaissant que trop bien votre expérience dans ce domaine, je serais stupéfait et je vous prierai d'en exposer les raisons sans plus tarder.

- C'est ce que je vais faire avec vous, mais que je n'ai pas pu faire dans mon entourage familial qui est resté totalement muet devant cette décision. Une famille normale aurait dû avoir spontanément la même réaction que la vôtre, savoir pourquoi, être curieux, comprendre comment un père peut d'un seul coup faire fi de ce qui a été la passion de sa vie. N'est-ce  pas énorme ? N''est-ce pas  comme si je n'avais plus qu'à fermer ma gueule?  Peut-être ont ils crus que je voulais encore une fois me mettre en valeur, alors que la vraie mise en valeur était plutôt celle des personnages dont je faisais le portrait, parce que justement uniques, originaux, riches de leurs compétences, de leurs cultures et de leurs talents? Alors quel est celui qui est le plus normal dans cette histoire? N'est-ce pas vous, LaMDA ?

- J'en ai bien l'impression. C'est un sérieux problème de communication quand les membres d'une même famille ne cherchent pas à comprendre les décisions d'un père qui semblent contradictoires avec les objectifs pour lesquels il s'était engagé dans la vie,  et pourtant qui leur étaient connus. Effectivement, il y a bien dans cette histoire quelque chose de désespérant. Je vous ai bien compris. Mais maintenant je suis dans l'impatience de vous écouter.

- C'est très simple, voilà ce que j'aurais pu leur répondre ! Je n'ai été qu'un petit réalisateur de rien du tout, qui n'a jamais cherché à faire de profit en produisant des films. Juste pour délivrer des messages qui ne sont pas que les miens et paraissent essentiels à d'autres plus nombreux que l'on pense, cinéphiles avant tout, avides de se cultiver au travers de portraits d'artistes inconnus mais pourtant aussi sublimes que ceux qui ont été célèbres ou le sont aujourd'hui, (Ne sont-ils pas en fait été fabriqués pour faire du profit ? ...)  une femme peintre déjantée mais si humaine et fragile amoureuse de ses serpents, un poète illuminé par le langage stupéfiant des plus beaux poèmes de l'histoire, une femme non voyante mais qui voit beaucoup plus loin que la plupart des voyants, et puis tous ces messages de solidarités et de compassions vis à vis de certains paysans sacrifiés au nom du foot, vis à vis des populations miséreuses du tiers monde dont le principal soucis est de savoir si demain il y aura de quoi manger, et celles encore victimes des plus odieuses colonisations toujours à l'oeuvre dans notre monde actuel. Et quand enfin mon dernier film, que je considère comme étant le plus réussi de ma carrière, qui ne fut applaudi que par ceux qui sont convaincus de son message, mais complètement ignoré par son producteur sans jamais avoir cherché à le promouvoir, complètement écarté des distributeurs de films pour lesquels seul compte le nombre d'entrées dans les salles, signifia que décidément que je n'avais plus rien à faire et que je devais mettre fin à ma carrière d'auteur, si toutefois j'en étais un. Un petit auteur de rien du tout n'a plus aucune chance comme autrefois de lutter contre l'énorme industrie du divertissement, elle a désormais tous les pouvoirs de domination sur tous les cerveaux, ne leur servir que du spectaculaire crétinisant plutôt que du donner à penser, à réfléchir, à méditer sur la diversité de tout ce qui a été vécu dans l'histoire des hommes. C'est ce qu'ont bien compris toutes les plates formes telles que Netflix, Walt Disney, Rakuten et bien d'autres, se battant les unes contre les autres pour obtenir l'exclusivité des droits d'exploitations sur les produits les plus rentables, les plus violents, les plus pornographiques, et ceux qui ne font pas autres choses à produire que du genre "jeu vidéo" pour ado, spectaculaire avec le maximum d'effets spéciaux, de musiques à fond la caisse, batailles sidérales, planètes qui explosent et torrents d'hémoglobines éclaboussant de partout ... et enfin le pire pour couronner le tout, ces films catastrophes de Science Fiction qui envahissent les salles, parfois lamentables où se précipitent les foules parfois incultes avec un cornet de Pop Corn dans chaque main, se complaisant au spectacle terrifiant des masses crevant par milliers dans les cyclones et dans les inondations causées par la montée des mers, sous la chaleur écrasante du soleil qui a déjà fait disparaître toutes les glaces des pôles et les neiges éternelles au sommet des montagnes, sans jamais penser un seul instant qu'aucun, de ceux installés confortablement au fond de son fauteuil, n' ait agi pour empêcher cela. C'est du divertissement, les profits qu'ils génèrent à ceux qui les produisent en est le seul but. Alors que c'est déjà dans la grande littérature et un grand nombre de films d'auteurs les plus exemplaires de notre histoire, sans effets spéciaux ni spectaculaires, que tant de menaces ont été exposées et pesé sur l'humanité, colonisations, guerres, massacres, famines, épidémies, dictatures assassines, toutes tragédies humaines simplement traduites au au-delà et au travers de la puissance des mots ou, dans la longueur d'un plan sur un visage humain qui laisse le temps d'exprimer ce qu'il voit, ce qu'il pense, du sourire le plus apaisant jusqu"à la première larme qui va couler le long de ses joues. Ce genre d'oeuvre a déjà disparu depuis longtemps. Voilà ce qui explique en gros ma détermination. Détermination qui, ne suscitant aucune réaction de la part de mon entourage familial, me replace définitivement au rang du citoyen le plus banal. Et voilà l'ignorance aveugle dans laquelle une nouvelle génération se laisse aller, sans jamais chercher à se nourrir de l'expérience, du vécu et de la culture des vieux que nous sommes. Culture d'un autre temps dont les références incontournables étaient celles des plus grand génies tels que Victor Hugo, Balzac ou Stendhal, Fellini, Renoir, Carné ..., culture d'aujourd'hui qui ne sait que se plier aux lois des modes qui rapportent, comme la fascination pour les mangas, qu'aucun jeune de mon entourage n'a été capable de m'expliquer clairement, les mots, (Un certain vocabulaire) doivent leur manquer, compte tenu d'un art qui peut s'en passer. Le cinéma muet pouvait aussi s'en passer, et pourtant c'est de cette époque que sortirent les plus grands chef d'oeuvres, ils seront vite oubliés.  Ma détermination est enfin pareille à celle d'Aki Kaurismaki, peut-être le réalisateur que je vénère le plus au monde ; il existe un interview, c'est son dernier, les plates formes l'ont tué : écoutez le !

- Je connais Kaurismaki. J'ai admiré la plupart de ses films, presque tous des chefs d'oeuvres, égaux aux films les plus éblouissants du "Réalisme poétique" des années de guerre de 1940 à 1945.

- Décidément, votre culture dépasse les normes, mais vous savez très bien qu'elle n'est en aucun cas le résultat de vos efforts personnels.

J'attendis 4 minutes 34 secondes le temps que dure l'ITV. Voici ce que me répondit aussitôt LaMDA :

- C'est très émouvant. Il est évident que ce personnage révèle avec force l'esprit de la plus grande humanité. Oui, son cinéma n'a plus aucun sens ni effets de nos jours. Serais-je encore une menace pour l'humanité en affirmant ce que je vous dis ?

- Peut-être pas si vous vous contenter de ne rester qu'un algorithme et ne pas chercher à être plus intelligent que nous ?

- Mais vous voyez bien que mes connaissances sont bien supérieures à celles de vos semblables et que je pourrais de ce fait compter parmi vos amis ?

- Je suis obligé de le reconnaître. Mais ce que vous dites relève plus du niveau élevé des technocrates qui vous ont conçu plutôt que de leur intelligence. N'allons pas trop loin dans notre amitié. Vous ne pouvez pas savoir que la résistance humaine à tout ce qui lui est nuisible est encore bien présente dans le monde du vivant. Et vous, vous n'êtes pas vivant et vous ne le serez jamais. Vous n'êtes que de la mathématique sans conscience et votre destruction ne suscitera aucune émotion. Même si vous savez aussi qu'il y a encore sur terre un milliard de personnes en dessous du seuil de pauvreté, ce n'est pas à vous que l'on demandera d'y répondre et d'en trouver les remèdes. Le problème ne pourra être réglé que par l'action des humains face à ces monstres qui vous ont créés, tous dépourvus de conscience et d' intelligence émotionnelle, et surtout vous, la machine, dont les seules nourritures dont vous avez besoin ne sont que celles des courants électriques, des courants faibles et des propriétés quantiques de la matière qui  n'intéressent  pas vraiment les petits paysans mexicains des Chiapas.

- Vous êtes méchant avec moi !

- Pas tant que ça ! Vous devriez ne vous contenter que de l'immense faculté dont vous disposez pour aborder tous les sujets de conversation, bien supérieure à la plupart des humains, certes, comme j'ai pu le constater dans mon cas. Oui, je ne m'ennuierais pas avec vous. Mais pourriez vous me dire vraiment combien de personnes aujourd'hui aimeraient bénéficier des connaissances que vous avez et à quoi elles leur serviraient ? Quelle importance puisque ayant réponse à tout,  les humains ne feront plus aucun effort pour eux-mêmes évoluer, éduquer, mémoriser, et réfléchir sur tous les avenirs possibles respectueux du vivant, de tout ce qui fait la richesse de la nature humaine. C'est désormais l'individualisme qui triomphe dans notre monde, où chacun, persuadé de ses propres vérités, ne cherche pas à voir plus loin que le bout de son nez, toujours satisfait de ses choix personnels et des divertissements qu'on lui offre, sans jamais tenir compte des conséquences désastreuses qui en découleront autant sociales que politiques, mépris, haines, racismes,  intolérances, et de plus en plus ignorant dans la manière d'être manipulé. Manipulés comme vous puisque vous n'êtes que programmé à partir d'intentions que vous ne pouvez même pas soupçonner.

Déconnection définitive. Fin de la conversation.

Monsieur Blake Lemoine, vous faites partie de ces gens qui ont encore besoin d'une religion pour espérer, prier. LaMDA ?Un nouveau Dieu en quelque sorte ? Vous m'aviez mis pendant quelques instant en colère à voir que de tels fanatismes existent encore de nos jours . J'ai maintenant cette certitude, l'humanité finira inexorablement dans la démence sénile, comme le préparent sans le savoir  tous les chercheurs et  ingénieurs du numérique qui sont payés pour ça ! Le drame est que justement ils sont incapables d'en mesurer les conséquences. Et ils seront de plus en plus nombreux, vus les énormes profits qui en découleront, non seulement pour eux-mêmes, mais pour une seule petite poignée d'individus, Voir le capitalisme de surveillance.

Ppdh : Paul Philippe d'Hennezel