"L’intelligence artificielle est le plus grand danger qui nous guette"
Une interview de Benjamin Locoge par Yuval Noah Harari
Index (concernant l'intelligence artificielle)
Avec ses trois essais, « Sapiens... », « Homo deus... » et « 21 leçons pour le XXIe siècle », Yuval Noah Harari caracole en tête des ventes depuis quatre ans. Nous avons rencontré le philosophe israélien pour une discussion sur l’état du monde.
Y.N.H
Votre pensée tient sur un postulat très clivant : il faut remettre en cause la question de la croyance.
Vraiment ? Les grandes questions sont : pourquoi y a-t-il tant de souffrances dans le monde ? Que peut-on y faire ?
B.L
Beaucoup de gens y
répondent avec la religion. Les musulmans croient à une histoire, les juifs à
une autre, les chrétiens à encore une autre. Ils ne peuvent tous avoir raison.
C’est tellement simple de penser que notre culture est la plus importante au
monde, qu’elle domine l’histoire mondiale, qu’elle apporte des réponses. Mettre
cela en question est toujours compliqué. Car si vous commencez à en douter, vous
vous retrouvez dans une forme d’incertitude et de chaos. Or, plus on avance,
plus on apprend. L’Univers existe depuis 14 milliards d’années, les humains sont
là depuis plus de 2 millions d’années. Donc comment l’histoire d’un peuple dans
une partie de cet Univers pourrait avoir la réponse à tout ? Comment se fait-il
que des millions de gens croient à ces fictions et vivent dans l’illusion ?
Parce que nous vivons en pleine ignorance ? Peut-être, mais quand un adolescent
commence à remettre en cause la fiction dans laquelle il a été élevé, à laquelle
il croit vraiment, que fait-il ? Croire très fort en quelque chose est-il la
preuve que c’est vrai ? Mon questionnement n’est pas une forme de protestation,
mais une conviction profonde, un désir réel de réponses. " Notre société fait
que les gens ont besoin d’une histoire à laquelle croire, sinon ils sont perdus
Y.N.H
Parce que nous
vivons en pleine ignorance ?
B.L
Peut-être, mais quand un adolescent commence à remettre en cause la fiction dans laquelle il a été élevé, à laquelle il croit vraiment, que fait-il ? Croire très fort en quelque chose est-il la preuve que c’est vrai ? Mon questionnement n’est pas une forme de protestation, mais une conviction profonde, un désir réel de réponses.
Y.N.H
Comment en vient-on à croire à de fausses idées ? A partir en Syrie pour le dijhad ?
B.L
La force de la croyance a peu à voir avec la vérité de l’histoire à laquelle vous adhérez. Les humains ont besoin d’un récit pour comprendre le monde. Nous sommes des animaux qui racontent des histoires, nous ne comprenons le monde qu’à travers elles. Il n’y a pas besoin de Dieu pour cela. Prenez le communisme dans les années 1920, le mouvement n’était porté par aucun dieu mais provoquait le même phénomène : des convictions extrêmement fortes qui poussaient certains à commettre d’atroces violences, à sacrifier leur propre vie et à tuer d’autres êtres humains. La religion n’est que l’une des options. Notre société fait que les gens ont besoin d’une histoire à laquelle croire, sinon ils sont perdus.
Y.N.H
La guerre serait donc inévitable quand deux histoires s’entrechoquent ?
B.L
La plupart des guerres sont effectivement déclenchées à cause de narrations, non pour des raisons matérielles. On pense souvent qu’on se bat pour un territoire ou pour de la nourriture. Mais c’est faux. En 1914, tout le monde avait assez d’espace pour se développer correctement, pour construire des écoles et pour se nourrir. Si vous prenez la paix instaurée dans l’Union européenne ces dernières décennies, elle n’a été garantie que par l’invention d’une histoire commune entre l’Allemagne et la France. C’est la même chose entre la Palestine et Israël, où l’on est prêt à mourir pour un territoire imaginaire, qui serait sacré. Mais vous, l’être humain, vous n’avez pas besoin de ce lieu pour vivre. C’est votre croyance dans le fait que ce lieu est sacré qui vous pousse à vous battre contre votre voisin. Et l’histoire ne permet pas de faire de compromis sur le sacré.
Y.N.H
La solution pour mettre fin aux conflits serait donc d’inventer de nouveaux récits auxquels nous devrions adhérer ?
B.L
Pourquoi pas ? Prenez les guerres de religion en France au XVIe siècle entre huguenots et catholiques. Rien n’a vraiment été réglé, mais les catholiques et les protestants vivent en paix, même s’ils ne sont pas toujours d’accord sur l’origine de la naissance du Christ. Mais l’histoire commune française est désormais plus importante. Etre français est plus important qu’être catholique ou protestant.
Y.N.H
Cette logique est-elle applicable au conflit israélo-palestinien ?
B.L
Je ne suis pas très optimiste, car je ne vois pas d’histoire commune se dessiner entre les deux peuples. Et aucune des parties ne me semble prête à abandonner la sienne au profit d’une nouvelle. C’est la même chose avec l’Union européenne : on tente d’inventer une narration commune, qui aurait ses raisons d’être, mais tout le monde n’est pas d’accord pour y croire.
Y.N.H
Pourquoi tant de gens veulent sortir de l’Europe, selon vous ?
B.L
Parce qu’ils oublient un peu vite les deux guerres mondiales. Ils voient la paix en Europe comme une forme de stabilité, ce qui est sa plus grande réussite, mais préfèrent se concentrer sur les problèmes d’immigration ou d’économie. Si l’Europe s’effondre, que chaque nation décide de se tourner sur elle-même, on assistera sans aucun doute au retour de conflits, des Balkans à l’Irlande. Si le nationalisme signifie, au contraire, prendre soin de la sécurité de son peuple, alors un bon nationaliste est celui qui saura s’intégrer dans la marche du monde. Pour justement défendre ses intérêts au sein d’une entité plus globale. On ne peut pas protéger sa population d’une guerre nucléaire sans avoir passé des accords avec d’autres pays. Le réchauffement climatique ne s’arrête pas aux frontières. Sans accord global, nous ne parviendrons pas à le réguler. Mais le défi le plus important qui nous attend est celui de l’intelligence artificielle, qui ne pourra être relevé qu’avec une Union forte. " L’émergence de l’IA va laisser une partie des humains sur le carreau et créer une classe d’inutiles
Y.N.H
Vous parlez même de danger à propos de l’intelligence artificielle. Pourquoi ?
B.L
Un exemple : on développe actuellement des robots tueurs, qui peuvent assassiner n’importe qui sans l’autorisation d’un être humain. Si la France dit “C’est une mauvaise idée” mais que les Américains ou les Chinois croient à son bien-fondé, que pèsera la voix de la France ? Elle devra se résoudre à la développer pour se protéger. Seule l’Europe peut empêcher cela. Sans accord global, aucun pays n’y renoncera de lui-même. La science va bientôt permettre de créer des “super-humains”. Là aussi, si tout le monde ne s’accorde pas à penser que c’est une mauvaise idée, comment l’éviter ?
Y.N.H
Ces super-humains existent dans les films, qu’ils soient Avengers ou X-Men. Pourquoi dites-vous ne pas aimer ces personnages ?
B.L
Dans toutes ces fictions, on voit beaucoup de robots qui se rebellent contre les humains. Or, cela ne risque pas d’arriver. Nous n’avons pas d’exemple actuel de développement de la conscience artificielle, on assiste au contraire à celui de l’intelligence artificielle (IA). L’intelligence permet de résoudre des problèmes ; la conscience permet de ressentir la souffrance, le plaisir, l’amour ou la haine. Or, l’émergence de l’IA va laisser une partie des humains sur le carreau et créer une classe d’inutiles. Son autre danger est qu’elle va permettre la concentration des pouvoirs entre les mains de dictateurs, d’une élite… " Les nationalismes ne sont qu'une broutille face à ce grand danger
Y.N.H
Est-il encore temps d’agir ?
B.L
Maintenant, oui. Dans trente ans, il sera trop tard. Les nationalismes ne sont qu’une broutille face à ce grand danger. On se trompe de combat. Combien de temps le Royaume-Uni va-t-il passer sur le Brexit plutôt que de se préoccuper des vrais problèmes ? Le Brexit ne va en rien nous aider à lutter contre les guerres nucléaires, contre le réchauffement climatique, ni à réguler l’IA. On consacre trop de temps à un sujet secondaire. Dans vingt ans, on se dira : “Pourquoi n’avons-nous pas organisé l’intelligence artificielle ?” Et la réponse sera : “Parce qu’on s’occupait du Brexit.” En Chine, l’IA est une préoccupation majeure parce que les dirigeants ont pris conscience du problème. Tous les pays européens se sont endormis sur ce sujet.
Y.N.H
Vous affirmez même
que Xi Jinping est le nouvel Obama…
B.L
Dans un sens, oui. Du temps d’Obama, l’Amérique s’est vue comme le leader de la lutte contre le changement climatique. Puis Trump est arrivé et a tout rayé d’un trait de plume, se retirant même de l’Unesco. Il a ainsi clairement affirmé que les Etats-Unis n’étaient plus un pays leader, voulant se recentrer sur ses propres difficultés. Laissant le champ libre à Xi Jinping, qui s’est emparé des thématiques majeures du moment. La Chine se comporte en adulte qui prend à bras-le-corps la question du changement climatique, des accords globaux nécessaires pour parvenir à l’endiguer. Evidemment, cela est fait avec beaucoup d’arrière-pensées politiques. Mais elle s’est positionnée comme un pays pionnier sur ce sujet. Au moment où l’Amérique bat en retraite.
Y.N.H
Ce retournement n’est-il pas l’exemple le plus ironique du monde dans lequel nous vivons ?
B.L
Que Xi Jinping et la Chine deviennent des leaders sur la scène internationale, oui, bien sûr. Mais cela découle de la volonté américaine. Depuis deux ans, les Etats-Unis attaquent le Canada, l’Allemagne, leurs alliés historiques, et vantent les mérites de la Corée du Nord ou de la Russie. C’est une folie de s’en prendre à ses amis car vous avez toujours besoin d’amis. Je n’ai pas de réponse, on ne parle même plus de valeurs dans ce cas. Pourquoi créer des conflits avec ses partenaires ? C’est une question qu’il faudrait poser à Donald Trump. Mais j’ai cru comprendre qu’il préférait Twitter ! [Il rit.]
Y.N.H
Qu’est-ce qui vous pousse encore à écrire ?
B.L
C’est pour
répondre aux questions que les gens se posent. Mon travail en tant que
scientifique est d’apporter plus de clarté sur les sujets qui agitent notre
planète. Je n’ai pas de réponse à donner sur tout, je ne sais pas comment
juguler la crise économique en France, par exemple. Mais je tente de faire un
peu la lumière sur tous ces problèmes. Car, quand on pose les bonnes questions,
on a déjà fait la moitié du chemin
Y.N.H
Etes-vous optimiste sur l’évolution de l’humanité ?
B.L
Je ne sais pas. Je ne peux que constater que l’humanité a réussi à surmonter de nombreuses crises. Dans les années 1960, tout le monde craignait la guerre froide, qui aurait pu se transformer en guerre nucléaire, éradiquant une bonne partie de la population. La paix a fini par triompher. L’homme est capable de prendre les bonnes décisions. La famine a longtemps semblé un fléau insurmontable. Depuis deux générations, on meurt plus de trop manger que de ne pas assez se nourrir. Les famines ne sont hélas que le résultat de politiques publiques, comme c’est le cas au Yémen. On ne manque pas de nourriture au Yémen, mais le gouvernement préfère voir son peuple mourir de faim. Nous ne pouvons pas dire qu’il nous est impossible de surmonter ces problèmes. Nous avons les moyens d’y parvenir.
Le danger de l'intelligence artificielle
Ces super-humains dans les films
A lire : « Sapiens. Une brève histoire de l’humanité », « Homo deus. Une brève histoire du futur », « 21 leçons pour le XXIe siècle », de Yuval Noah Harari, éd. Albin Michel.
Lire aussi :.Intelligence artificielle: la nouvelle frontière
Mon chat n'est pas un robot (Philippe d'Hennezel)
