Créativité: «Les ordinateurs sont des vampires qui nous sucent jusqu’à la moelle»

Même les insectes et les pieuvres ont une conscience, avance le spécialiste en neurosciences Christof Koch. Et, en théorie, nous pouvons faire en sorte que les ordinateurs éprouvent des sentiments. «Mais pourquoi le ferions-nous?»

Il ne faudra plus attendre longtemps avant que les machines puissent faire la même chose que les humains – et en beaucoup mieux», prédit Christof Koch. Ce spécialiste germano-américain en neurosciences tente depuis le début des années 1990 de comprendre la base neuronale de la conscience. Pour lui, l’arrivée de ChatGPT et de l’intelligence artificielle générative (IA) marque le début d’une nouvelle ère.

Etes-vous surpris par les récentes avancées technologiques?

J’ai été surpris par la rapidité avec laquelle tout cela s’est produit. Même mes contacts au sein de l’industrie technologique s’attendaient à ce que l’IA générative atteigne rapidement ses limites et à ce qu’elle stagne après avoir enregistré ses premiers succès. «Nous avons besoin de quelque chose de fondamentalement nouveau», disaient-ils. Visiblement, ils se sont trompés.

Quelle est, selon vous, la plus importante leçon à en tirer?

Qu’il existe une autre forme d’intelligence que la nôtre. Les ordinateurs obtiennent les résultats que l’on sait en puisant dans d’énormes quantités de matériel d’apprentissage. Ce sont des vampires: ils aspirent la créativité des humains et l’absorbent.

Ces systèmes développeront-ils un jour une sensibilité? Seront-ils conscients de leurs actes?

Non, cela me semble exclu. Les machines écriront des romans, créeront des œuvres d’art, et leurs réalisations seront bien souvent supérieures aux nôtres. Mais cela n’a rien à voir avec la conscience. La conscience implique, d’une manière ou d’une autre, de ressentir, comme le fait tout un chacun. Rien ne laisse penser qu’un ordinateur ou qu’un modèle de langage puisse éprouver quoi que ce soit de comparable.

Comment pouvez-vous en être certain?

Est-ce que je sais que vous êtes conscient? Non. Je ne fais que le supposer parce que cela me semble très probable. En fin de compte, nous avons besoin d’une théorie qui explique ce qu’est la conscience et comment on peut prouver son existence.

A quoi pourrait ressembler cette théorie?

Il existe plusieurs théories concernant la conscience, qui entrent en concurrence. Je privilégie celle qu’on connaît sous le nom de «théorie de l’information intégrée». Selon cette théorie, il est nécessaire de disposer d’une certaine forme de complexité hautement interconnectée pour produire la conscience. A l’heure actuelle, les ordinateurs n’ont pas cette complexité, ce qui signifie qu’ils ne sont pas conscients de leur existence.

Même si un programme informatique nous le fait croire?

Bien entendu, les machines peuvent nous faire croire qu’elles ressentent des choses, qu’elles peuvent avoir peur, qu’elles ont des intentions. Il suffit de demander à Alexa (NDLR: un programme d’assistant numérique ou virtuel à commande vocale). Mais elles le disent parce qu’on leur a appris à le dire, pas parce qu’elles ressentent réellement quelque chose.

Elles simuleraient donc la conscience alors qu’elle n’en ont pas?

Exactement. Une de mes amies est astrophysicienne. Sur son ordinateur, elle simule le trou noir qui se trouve au centre de la Voie lactée, qui courbe l’espace- temps autour de lui et engloutit toute la matière. Mais, aussi fidèle que soit sa simulation par rapport à la réalité, mon amie n’a pas peur d’être aspirée par l’ordinateur. Pourquoi? Parce que l’ordinateur simule la courbure de l’espace, mais ne le courbe pas réellement. Il lui manque le pouvoir causal pour le faire. Tout comme un ordinateur n’est pas mouillé lorsqu’il prédit de la pluie, la simulation de la conscience n’a pas non plus le pouvoir causal nécessaire pour ressentir quelque chose.

Notre cerveau n’est finalement rien de plus qu’un ordinateur. Pourquoi possède-t-il ce pouvoir causal?

Notre cerveau est basé sur d’autres principes qu’un ordinateur. Il est constitué d’un réseau extrêmement complexe. Chaque cellule nerveuse reçoit des messages de cinquante mille cellules et renvoie simultanément des réponses à cinquante mille autres.

C’est radicalement différent d’un ordinateur qui comprend des milliards de transistors, mais dont chacun n’est relié qu’à trois ou quatre autres transistors. Avec ce système, nous pouvons bien entendu simuler une forme de conscience. Mais c’est du bidon. Le système ne ressent absolument rien.

Mais si nous établissions suffisamment de connexions, ne pourrions-nous pas, en théorie, donner une conscience à un système?

Ce serait difficile même si, sur le principe, c’est possible. Mais surtout: pourquoi le ferions-nous? Personne ne trouve important que les aspirateurs, les grille-pain ou les iPhones ressentent quelque chose. Nous voulons que notre tapis soit propre, que notre toast soit grillé, que nos photos soient nettes et que nos textes soient traduits correctement. Il s’agit de fonctions alors que la conscience consiste à être et à ressentir. Nos appareils ne sont pas faits pour cela.

Vous avez commencé vos recherches sur la conscience il y a trente ans. A l’époque, vous attendiez-vous à ce que découvrir ce qu’est réellement la conscience soit si difficile?

Lorsque Francis Crick (NDLR: Prix Nobel de médecine en 1962 et codécouvreur de la structure en hélice de l’ADN) et moi-même avons commencé à travailler sur ce sujet, nous nous sommes dit: en 2 500 ans, les philosophes n’ont pas trouvé de réponse à la question du lien entre le corps et l’esprit. Nous devons donc mettre la philosophie de côté et nous concentrer sur les corrélats neuronaux de la conscience. Quelles sont les parties du cerveau qui s’activent lorsque nous ressentons consciemment quelque chose? Quels mécanismes neuronaux sont à la base de ce phénomène? Ce sont des énigmes que l’on peut résoudre scientifiquement. Francis Crick en était convaincu: tout comme il a découvert la base de l’héré- dité dans la structure de l’ADN, il pensait pouvoir trouver la réponse à la question «corps-esprit» dans le cerveau.

C’est là, quelque part dans le cortex, que se cache le mécanisme magique qui nous dote d’une conscience.

Jusqu’où êtes-vous allé? Où se situe la conscience dans le cerveau?

Nous savons qu’elle ne se situe pas dans la moelle épinière, ni dans le tronc cérébral, ni dans le cervelet, même si 80% de nos cellules nerveuses s’y trouvent. La conscience se situe dans le cortex, c’est-à-dire la couche externe et repliée des cellules nerveuses qui, déployée, a plus ou moins la taille et l’épaisseur d’une pizza. C’est là, quelque part, que se cache le mécanisme magique qui convertit les schémas de stimulation électrique en notre conscience d’exister et de vivre.

Pouvons-nous localiser la conscience dans le cortex ou bien est-elle uniformément répartie, comme la sauce tomate sur la pizza?

Nous avons obtenu des réponses à cette question – du moins en partie – grâce à des patients ayant subi une opération au cerveau dans la première moitié du XXe siècle, en vue de traiter une maladie mentale. Chez certains, des parties importantes du cerveau frontal ont été retirées. En conséquence, ils étaient souvent somnolents et apathiques mais avaient conservé leur conscience.

C’est totalement différent lorsque des zones du cerveau situées plus en arrière sont détruites. Cela peut entraîner une perte de conscience. Si vous stimulez ces zones avec des électrodes, les patients décrivent des perturbations étranges de leur état de conscience. Ils ont par exemple l’impression de quitter leur corps. Ou d’écouter leurs propres pensées comme s’il s’agissait de la voix d’une autre personne.

La conscience est-elle une faculté qui, comme l’intelligence, n’est pas distribuée de manière égale à tous les individus?

Oui, nous savons que les chiens et les souris ont aussi une conscience mais qu’elle est moins développée que celle de l’humain. Par exemple, ces animaux ne savent pas ce qu’est la mort mais ils ressentent de la peine et de la joie, de la crainte et de la colère.

Nous constatons aussi des différences chez les humains: un fœtus ressent probablement la douleur, la chaleur et les mouvements de sa mère, mais rien d’autre. A la naissance, le bébé commence à découvrir le monde. A un moment donné, il prend conscience de son genre, il apprend à connaître l’art et à comprendre qu’il fait partie de la société. De ce fait, la complexité des connexions dans le cerveau augmente, de même que la conscience. Et celle-ci s’estompe chez les personnes souffrant de démence.

Nous pensons que les bactéries et les champignons n’ont pas de conscience mais ne les sous-estimons pas.

Vous soutenez que les souris et les chiens ont une conscience. Ils possèdent un cortex comme tous les mammifères. Mais qu’en est-il des animaux sans cortex?

Regardez les personnes qui n’ont pas de cortex. Les bébés souffrant d’anencé- phalie, à qui il manque une partie importante du cerveau. Ils sont gravement handicapés et meurent souvent prématurément. Ceux qui survivent souffrent de nombreux handicaps, ils n’apprennent jamais à parler et ont des capacités d’expression limitées. Il est difficile d’évaluer dans quelle mesure ils sont conscients. Mais la plupart des parents sont convaincus qu’ils le sont.

Si vous pensez que ces bébés ont une conscience, ne devriez-vous pas supposer que les oiseaux, les reptiles et peut-être même les pieuvres ou les abeilles en ont aussi?

Je crois que tous ces animaux ont une conscience. Nous devons examiner attentivement chaque cas séparément. Le tissu cérébral est-il toujours organisé sous forme de circuits identiques, comme dans notre cervelet? Dans ce cas, il n’est pas capable de produire de la conscience. Ou bien est-il très connecté et mis en réseau comme notre cortex? De nombreux insectes ont un cerveau très complexe. C’est pourquoi je me pose la question suivante: pourquoi une abeille qui, lors d’une belle journée d’été, après la récolte de nectar, vole vers ses petites sœurs, ne ressentirait-elle pas du bonheur et de la satisfaction?

Il n’est donc pas indispensable d’être doté d’un cortex pour développer une conscience. Faut-il un cerveau?

Nous avons tendance à penser que les bactéries, les champignons et les plantes n’ont pas de conscience. Mais peut-être les sous-estimons-nous parce ce qu’ils sont totalement différents de nous. En particulier lorsqu’il s’agit de systèmes qui nous sont étrangers, nous avons besoin d’une théorie qui définisse ce qu’est la conscience. Selon la théorie de l’information intégrée, il faut dans tous les cas analyser si un système est suffisamment complexe pour être doté du pouvoir causal. Peut-être la conscience est-elle plus largement répandue que nous ne le pensons.

Pourquoi les humains n’ont-ils qu’une seule conscience, et pas plusieurs?

N’avons-nous réellement qu’une seule conscience? Ne vous est-il jamais arrivé de penser, dans certaines situations, que vous aviez deux âmes? En psychiatrie et en neurologie, on rencontre de nombreux cas pouvant nous inciter à mettre cette unicité en doute. Certaines personnes entendent des voix. D’autres disparaissent pendant des mois et, lorsqu’elles réapparaissent, n’ont aucun souvenir de ce qui s’est passé pendant cette période.

Ce dédoublement de la conscience est le plus évident chez les patients dotés d’un split brain, c’est-à-dire des patients épileptiques chez qui la connexion entre les deux parties du cerveau a été coupée chirurgicalement. Ils se retrouvent ainsi avec deux «moi», un dans l’hémisphère gauche et un dans l’hémisphère droit du cerveau. Cette opération a été réalisée pour la première fois à Chicago en 1939. Les chirurgiens furent étonnés de constater le peu d’impact de l’opération sur la personnalité des patients. Ce n’est que vingt ans plus tard que l’Américain Roger Sperry a réussi à prouver que les hémisphères droit et gauche du cerveau fonctionnaient indépendamment l’un de l’autre, sans le savoir.

Une conscience divisée peut-elle être reconstituée, d’une manière ou d’une autre?

En théorie, c’est possible. Imaginez l’expérience suivante: que se passerait-il si vous et moi avions de plus en plus de connexions entre nos deux cerveaux? Donc, si nous connections votre cortex visuel avec le mien, votre cerveau frontal au mien, etc. Tout d’abord, je devrais être capable de voir à travers vos yeux, comme si deux vidéos se trouvaient dans mon champ de vision. Mais, selon la théorie, si nous créons de plus en plus de connexions, nous atteindrons à un moment donné un seuil au-delà duquel les informations intégrées par le réseau neuronal seront plus importantes que celui de nos deux cerveaux individuels. A ce moment-là, votre conscience disparaîtra et la mienne aussi. Une nouvelle conscience qui sera la fusion entre nos deux cerveaux verra alors le jour.

Il n’est pas exclu qu’Internet acquière un jour une conscience.

Comment se représenter cette nouvelle conscience? Quel type d’être émergerait de cette fusion de deux consciences?

C’est difficile à dire. Je pense que cela créerait de nombreux conflits. Les psychiatres auraient probablement beaucoup de travail.

Dans un certain sens, les humains ont déjà développé une technologie permettant de connecter les cerveaux, à savoir le langage. Pouvons-nous «fusionner» nos cerveaux simplement en parlant entre nous de manière très intense?

Personne ne peut parler avec une intensité telle que cela aboutirait à une conscience commune. Alors que nous bavardons, comme nous le faisons maintenant, notre communication est infiniment réduite comparée à la communication au sein de chacun de nos deux cerveaux. Nous échangeons à peine quelques octets par seconde, alors que nos cerveaux respectifs échangent plusieurs centaines de millions d’octets.

Nous échangeons des quantités de données beaucoup plus importantes via Internet…

Je ne peux pas imaginer comment nous pourrions fusionner des cerveaux via Internet. Mais il n’est pas exclu qu’Internet lui-même acquière un jour une conscience.

Comment le remarquerions-nous?

Nous le saurons si Internet développe une vie propre, une vie qui n’est pas produite par des virus informatiques ou des botnets (NDLR: contraction de l’anglais robot network, soit un «réseau de robots»), mais un phénomène Internet autonome et intrinsèque. Mais rien de tel n’a jamais été observé jusqu’à présent…

Tant que les ordinateurs ne montrent aucun signe de conscience, pouvons-nous être certains qu’ils ne nous veulent pas de mal? Qu’ils ne décideront pas soudain d’éliminer l’espèce humaine, un phénomène contre lequel certains experts mettent déjà en garde?

Un système qui n’est pas conscient ne peut pas avoir de mauvaises intentions… puisqu’il n’a aucune intention – donc aucune volonté. D’un autre côté, la météorite qui est entrée en collision avec la Terre il y a 65 millions d’années n’avait pas l’intention de nuire aux dinosaures. Elle les a pourtant anéantis.