pourquoi l'intelligence humaine est inégalable ?
la philosophie met l'intelligence artificielle au défit
« Si nous ne voulons pas devenir les victimes de la numérisation, si nous refusons de nous muter en junkies désespérés de l'info ou en zombies technologiques, il faut que nous exorcisions nos gadgets technologiques et les dépouillions de cette croyance en leur toute-puissance. »
Qu'est-ce que penser ? Cette interrogation, aussi vieille que la philosophie,
est plus actuelle que jamais, à l'heure où pensée et intelligence artificielle
sont souvent associées. Une représentation erronée et dangereuse, soutient
Markus Gabriel, qui explique pourquoi la pensée humaine ne sera jamais remplacée
par les machines. A travers ce livre incisif, qui mêle théories philosophiques
et références culturelles populaires, le philosophe prend part à un des débats
majeurs de notre époque.
Né en 1 980, Markus Gabriel est titulaire de la chaire de philosophie de l'université Je Bonn et dirige le Centre international de philosophie. Dans ses ouvrages, Pourquoi le monde n'existe pas (Lattès, 2014) et Pourquoi je ne suis pas mon cerveau (Lattès, 2017), il aborde les grandes questions philosophiques d'un point de vue contemporain.
Traduit de l'allemand par Georges Sturm, avec la collaboration de Sibylle M. Sturm.
EXTRAIT pages 142 à 151
De l'intelligence émotionnelle et des valeurs dissimulées dans la jungle numérique des signes
Grâce notre sensibilité, à nos modalités sensorielles, à chaque instant de notre vie consciente (y compris quand nous rêvons), nous sommes en contact étroit avec le réel. Par bonheur, nos sensations, notre contact ce qui existe réellement ne nous confrontent pas qu’aux seuls ennuis et contrariétés de la vie. Par nature, l’homme est un être social. Durant les premiers mois années de notre vie, nous ne survivons que grâce à l’amour d'autres humains qui prennent soin de nous et nous protègent. Dans ses Principes de la philosophie futur publié en 1843, Ludwig Feuerbach en vient l'essentiel :
« Ainsi l'amour est-il la vraie preuve ontologique de l'existence d'un objet autre que notre esprit — et il n'y a pas d'autre preuve d'être que l'amour, la sensation des sensations. La seule chose qui existe est celle dont l'être te prépare de la joie, le non-être de la peine. La différence entre l'objet et le sujet, entre être et non-être est une différence elle aussi tout aussi réjouissante que douloureuse . »
C’est avec ce genre de réflexions que la psychologie des profondeurs est née au XIXe siècle. Inutile ici de revisiter la gestation et l'histoire de la psychanalyse, née de l'idéalisme allemand et du romantisme. Ce qu'il faut retenir de cette tradition, c'est cette idée fondamentale qu'on peut entendre ainsi : en tant qu'être pensant, nous nous faisons une idée de nous-mêmes, nous avons un point de vue sur nous-mêmes. Nous vivons toujours nos actes de penser et leurs contenus (nos pensées donc) selon un certain mode — et donc aussi une certaine couleur émotionnelle.
Il n'est pas de conscience intentionnelle sans conscience phénoménale : nous ne pouvons pas penser à quelque chose sans qu'en même temps nous ressentions des émotions, quelle que soit la manière dont nous les ressentions. À tout instant, le dispositif de notre esprit est une combinaison d'émotions, de sensations et de pensées, sans pourtant que nos sensations vécues et nos états d'esprit soient eux- mêmes en relation avec la réalité. La conscience
phénoménale, c'est-à-dire la manière dont on sent qu'on est soi-même, est toujours accompagnée d'intentionnel — ce qui ne veut pas dire que toute pensée, qui vise un objet qui n'est pas lui-même une pensée, est gouvernée par nos sensations.
Nous ne ressentons pas toujours toutes les pensées de manière très claire. Plus précisément, notre conscience phénoménale est notre état d'esprit du moment, le bruissement de fond de tout notre organisme. Beaucoup d'éléments y concourent, entre autres notre second cerveau, celui qu'on appelle le cerveau abdominal, c'est-à-dire le système nerveux entérique logé dans notre système gastro-intestinal. Notre expérience vécue (das Erleben) est comme une chambre d'écho de notre organisme, un organisme dans lequel nos divers états sont traités en interne et auxquels j'accède par un acte intentionnel. Si j'ai mal à la tête, j'apprends quelque chose sur l'état de mon organisme, et je peux réagir grâce à ma conscience intentionnelle, prendre un cachet par exemple. On le sait : les informations intentionnelles proposées par nos sensations, ces informations dont nous avons besoin pour savoir exactement ce qui se passe dans notre organisme, ne se laissent pas décoder facilement. Les sensations ne sont pas des pensées linguistiquement codées.
Il y a évidemment une interaction entre conscience phénoménale et conscience intentionnelle, ce qu'on appelle suivre son instinct, son flair, son intelligence intuitive, das Bauchgefühl, ce sentiment, cette sensation venue de l'estomac, notre boussole intérieure. Frege ne dit pas autre chose quand il parle de « couleur et de lumière » d'une pensée. Il y a des mots (des interjections comme « hélas ! », « malheureusement ! » etc.) qui ne changent en rien la vérité des pensées, ils expriment une émotion, indiquent comment nous nous sentons.
Pendant que nous pensons à propos de notre pensée, nous n'avons absolument pas laissé notre personnalité au vestiaire. Même quand nous pensons à propos de notre pensée, nous exprimons dans le même temps une attitude envers elle selon l'image de nous-mêmes que nous aimons présenter, à nous-mêmes et à autrui. Les pensées que nous pensons ne nous viennent pas seulement à l'esprit parce que nous nous intéressons à leur vérité. Il y a trop de pensées vraies et de pensées fausses (de manière transfinie, c'est-à-dire infiniment, et infiniment beaucoup), pour que la vérité soit le seul facteur qui expliquerait nos processus de pensée. Notre forme de vie en tant qu'être humain et notre vie personnelles sélectionnent les pensées qui nous viennent à l'esprit, les choisissent dans la trame de nos expériences vécues conscientes.
C'est ce procès qu'on appelle l'intelligence émotionnelle. Néanmoins, elle ne se forme pas du tout dans notre organisme — comme une sorte d'auto- observation du système nerveux —, mais bien plutôt dans le contexte de notre niche écologique et sociale. Nos états organiques sont littéralement façonnés par l'éducation de la petite enfance, ce moment où notre système nerveux se forme en réponse aux expériences que nous faisons de notre environnement — sans oublier l'effet rétroactif de celui-ci sur nos états intérieurs, qui se construit par l'intermédiaire de notre expérience motrice.
C'est dans ce contexte que Freud postule un conflit entre notre principe de réalité et notre principe de plaisir. Le principe de réalité est notamment attribué à notre perception. Grâce à nos sens, nous sommes en contact avec un réel que nous n'avons pas créé. Mais ce réel n'est pas conçu à l'aune de nos besoins. C'est ainsi que le principe de plaisir a pour fonction, du moins pour une personne au psychisme intact, d'adapter le réel à nos besoins, afin que nous puissions ainsi, en principe, faire la différence entre le réel et nos besoins.
Il ne faut surtout pas dissocier l'intelligence de la couleur émotionnelle de l'expérience vécue. Nous disposons d'un argument philosophique pour pallier cette erreur. Replaçons-nous dans une situation familière avec cette simple expérience de pensée : nous avons l'intention de partir en voyage avec des amis, Les valises sont bouclées, nous sommes à l'aéroport et nous cherchons le comptoir d'enregistrement du vol pour déposer nos valises.
Cette scène de voyage typique, que la majorité d'entre nous connaissent sous une forme ou une autre, n'est possible que parce que dans un aéroport il y a énormément de choses dont nous ne prenons pas conscience. Les voyageurs ne surveillent pas par exemple la vitesse précise des tapis roulants. Ils ignorent la matière noire de l'aéroport, dont nous ne sommes d'ailleurs même pas capables de donner un ordre de grandeur. Ils n'étudient pas non plus les différents modes de circulation des marchandises, grâce auxquels pourtant on peut acheter des croissants ou des journaux dans un aéroport.
En y regardant de plus près, cette scène de voyage typique est une fois de plus d'une complexité sans fin. Où sont les limites exactes de l'aéroport ? Et à quoi ressemble tout lieu que seule mesure la mécanique quantique, donc à des échelles bien trop petites pour notre perception ? La simple idée de tracer une limite exacte entre l'aéroport et le reste de l'univers montre à l'évidence la complexité et la singularité de cette scène.
En réalité, il n'y a pas de scène de voyage typique. Chaque voyage se passe différemment des précédents. Nous prêtons aux voyages un modèle d'après lequel nous nous orientons. C'est pour cette raison que les voyages sont si stressants : ils ne sont jamais conformes à l’idée pour laquelle nous avons vraisemblablement déboursé beaucoup d'argent. Cela dit, dans l'hypothèse en partie illusoire de modèles (Muster), nous ne pourrions absolument pas voyager. Si nous ne partions pas de l'idée qu'il est possible d'appréhender la réalité à des niveaux moins complexes que celui de l'infini, il n'y aurait ni aéroport ni voyageurs.
Ajoutons que les hommes, parce qu'ils sont mortels, ne peuvent pas vivre sans être soumis à la pression du temps. Nous n'avons jamais assez de temps pour être attentifs à toutes les informations que nous devrions connaître pour nous déplacer du mieux et le plus raisonnablement possible dans une scène de voyage. C'est pour cette raison que la dite « intelligence émotionnelle » est une composante essentielle de l'intelligence humaine. L'intuition, le Bauchgefühl, est si décisive pour toute activité qui met notre intelligence en jeu, que sans elle nous serions incapables de connaître quoi que ce soit. Sans intelligence émotionnelle, sans notre expérience vécue des scènes de notre vie, il ne nous serait pas possible de sélectionner les objets de notre réflexion dans le répertoire de l'infini, un infini auquel nous sommes constamment livrés.
L'intelligence humaine est fondamentalement émotionnelle. Nos expériences vécues se déroulent de A à Z à la lumière d'une couleur. Sans l'experience constamment renouvelée de la reconnaissance de modèles, nous ne pourrions jamais la complexité plus ou moins docile de notre réalité quotidienne.
L'entraînement à la reconnaissance de modèles joue dans le sein maternel et au cours des années, jusqu'à l'acquisition du langage, et pour grande part dans le cadre de systèmes (acquis durant l'évolution) qui agissent de concert dans l'organisme humain, si bien que le système global de notre corps apprend à se distinguer de son environnement. Chez tous les vivants, et cela depuis l'origine, la différence originelle entre le moi et le non-moi fait partie de la constitution biologique. C'est en nous créant une niche dans laquelle nous pouvons survivre que nous nous distinguons de tout ce qui nous environne. C'est par des mécanismes d'adaptation liés à l'évolution que se crée la structure fondamentale de la différenciation entre le moi et le non-moi. Le fondement de toute intentionnalité supérieure est l'autopoiese, c'est-à-dire l'auto-organisation du vivant, comme les deux célèbres biologistes chiliens Francisco Valera (1946-2001) et Humberto Maturana ( *1928) l'ont montré dans leur ouvrage devenu un classique, L'Arbre de la connaissance — soit dit en passant, Hans Jonas (1903-1993) défendait déjà une position similaire dans un livre en (1903-1993). Les êtres vivants n'existent que parce qu'ils ont évolué durant des millions d'années et créé systèmes leur permettant d'éviter d'avoir à s’intéresser en permanence à l'infini.
Notre adaptation ne vise jamais qu'une portion très limitée du réel. Il est donc fallacieux de croire que notre notre appareil de connaissance vise une gigantesque complexité qui bombarderait nos terminaisons nerveuses d’informations que nous regrouperions ensuite grâce aux Circuits nerveux de notre cerveau, circuits qui, au cours de l'évolution, se sont adaptés à un monde à taille humaine. Nous ne sommes pas non plus bombardés de masses de données, de métadonnées, mais quand nous naviguons dans le web nous sommes en contact avec un réel physique. Notre intelligence émotionnelle est ainsi faite qu'elle nous pousse à vivre ce contact d'une certaine façon et nous pouvons ainsi continuer à traiter intentionnellement (c'est-à-dire de manière logiquement formatée) la partie du réel que nous avons sélectionnée.
En tant que vivants, nous évoluons dans des scènes depuis notre naissance. Ce qui signifie que nous n'appréhendons jamais des choses isolées, mais toujours des ensembles, et que nous développons ainsi notre faculté à étudier des détails. L'idée qu'il y aurait une réalité complexe « là-dehors », que nous traiterions « dedans » (dans notre boîte crânienne ou dans la chambre de notre conscience), n'est qu'une idée, et elle ne correspond pas nécessairement à la réalité.
Le désir illusoire de concevoir, puis de construire une forme d'intelligence libre de toute attache émotionnelle, est un élément de la discussion actuelle sur l'essence et la portée de l'IA. Un Mister Spock parfait, idéal comme dans Star Treck, et qui ne serait même plus constitué de matière biologique. Mais une telle intelligence ne serait plus une intelligence. Elle ne serait plus capable d'appréhender quoi que ce soit. C'est d'ailleurs la raison pour laquelle on a implémenté des systèmes de valeurs dans les algorithmes. Aucun algorithme ne scanne des masses de données uniquement pour y reconnaître ensuite des modèles en mettant en œuvre des calculs rapides. En tant que modèles de pensée, les algorithmes possèdent déjà une structure avec laquelle ils essaient, sur le mode quantitatif, de reconstituer l'expérience humaine qualitative.
Mais comme notre expérience qualitative a une structure granulaire très fine et individuelle, qu'elle est sans cesse connectée à une infinité de conditions jamais entièrement déchiffrables, elle est impossible à reconstituer exactement dans les moindres détails. Nous améliorons au mieux nos modèles de pensée grâce à des avancées technologiques dont nous pouvons ensuite tirer profit. En ce sens, croire que nos artefacts seraient capables de penser consciemment, comme des êtres vivants, c'est reproduire l'erreur de l'apprenti sorcier de Goethe (cf. infra, p. 265 sq.).
C'est pourquoi les systèmes d'IA sont un réel danger pour l'humanité : ils prônent implicitement les systèmes de valeurs de ceux qui les ont créés — sans jamais les dévoiler. La Silicon Valley adopte une éthique, une image de la manière dont nous devrions vivre, et c'est dans cet esprit qu'elle programme une réalité artificielle qui se manifeste comme un innocent calcul neutre de modèles dont on prétend qu'ils sont reconnaissables dans de grandes banques de données. Des modèles sur lesquels personne ne pose de question ne peuvent pas être découverts, même et y compris dans les plus grandes banques de données.
Si nous ne voulons pas devenir les victimes
De l'intelligence émotionnelle
Il n'est pas de conscience intentionnelle
L'intelligence humaine est fondamentalement émotionnelle
Benjamin Locoge (Le plus grand danger qui nous guette)
Mon chat n'est pas un robot (Philippe d'Hennezel)
