Yuval Noah Harari: «L’IA a le potentiel de nous asservir»

L’historien Yuval Noah Harari met en garde contre les risques de dérives totalitaires liés à l’intelligence artificielle. Yuval Noah Harari l’Israélien, lui, explique pourquoi il considère Benjamin Netanyahou comme plus dangereux qu’une guerre nucléaire avec l’Iran.

Dans son best-seller Sapiens, traduit en 64 langues, Yuval Noah Harari retraçait l’histoire de l’humanité depuis 100.000 ans. Son nouvel ouvrage, Nexus (1), explore les enjeux, les défis et les dangers auxquels la confrontent les nouvelles technologies. En particulier l’intelligence artificielle (IA), capable du meilleur comme du pire, dont il aborde les conséquences capitales sur la médecine, le climat, la géopolitique mondiale et la diffusion de l’information. La révolution que représente l’IA est sans commune mesure avec les précédentes, avertit l’auteur, car «c’est un acteur capable de prendre des décisions de manière autonome et d’inventer de nouvelles idées».

Au regard de l’actualité chaotique au Proche-Orient, l’écrivain israélien affirme par ailleurs des positions sans équivoque à l’égard de Benjamin Netanyahou et de son gouvernement belliciste.

Selon vous, l’humanité a-t-elle déjà perdu le contrôle du monde?

Pas encore. Mais l’intelligence artificielle va radicalement transformer notre vie sur cette planète. Nous devons prendre conscience de l’ampleur de cette invention. Si nous, en tant qu’espèce, ne faisons pas attention, cela pourrait se terminer en catastrophe.

Le monde montre de grandes faiblesses. Nous assistons à des guerres en Ukraine, au Proche-Orient, et à d’importantes incertitudes face à la crise climatique. Les systèmes superintelligents ne sont-ils pas notre planche de salut?

L’IA n’est pas comparable aux technologies précédentes de l’histoire de l’humanité. Ce n’est pas comme la roue, l’écriture, l’imprimerie ou la bombe atomique. Ces inventions étaient des outils sur lesquels les humains avaient le pouvoir de décision. L’IA, en revanche, est un acteur capable de prendre des décisions de manière autonome et d’inventer de nouvelles idées. Elle a le potentiel de faire des choses inimaginables avec notre monde.

Comment décririez-vous ce moment dans l’histoire de l’humanité?

Ce sont les premiers pas d’une ère révolutionnaire. Pendant des milliers d’années, l’histoire a été une interaction entre la biologie et la culture. Tout tournait autour de ces deux forces. Biologiquement, l’humain n’est pas différent des autres animaux en ce qui concerne la faim, la sexualité, le sommeil et nos émotions fondamentales, mais nous avons été capables de créer une culture complexe qui fonctionnait en interaction avec la biologie. Maintenant, nous avons introduit un troisième ingrédient dans ce mélange historique.

C’est-à-dire?

L’IA est un acteur non biologique, mais capable de produire de la culture. Et par là, je ne parle pas simplement d’art, de textes, de musique ou d’articles de presse. Je fais référence à de nouveaux systèmes monétaires, de nouveaux matériaux, de nouvelles sciences. Avant de décider si c’est une bonne ou une mauvaise chose, nous devons prendre un instant pour réfléchir et comprendre l’ampleur de ce phénomène. C’est comme si des extraterrestres avaient débarqué. Nous ne leur confierions pas simplement le contrôle sans savoir comment ils prennent leurs décisions. L’IA a le potentiel d’asservir l’humanité.

L’histoire ne montre-t-elle pas plutôt que les nouvelles technologies de l’information peuvent engendrer beaucoup de conséquences positives? L’essor des sciences modernes n’aurait pas été possible sans l’imprimerie.

Gutenberg a inventé l’imprimerie vers 1450. Mais des philosophes comme Leibniz ou des physiciens comme Newton, ainsi que les fondements des Lumières, n’apparaissent qu’à partir de 1650. Entre ces deux dates, il y a eu 200 ans de guerres de religion et de chasse aux sorcières. Bien sûr, il y a eu des moments éclairés, notamment avec Copernic ou Galilée, mais le plus grand best-seller de cette époque était le Malleus Maleficarum. Un manuel cruel expliquant comment identifier les sorcières et les torturer «correctement».

Qu’en déduisez-vous?

Le développement de l’IA est comparable à une presse à imprimer. Elle peut produire de bonnes comme de mauvaises choses. La question est de savoir comment créer des institutions fiables, afin que nous n’ayons pas à traverser 200 ans d’obscurantisme.

Pourquoi n’y a-t-il pas de législation mondiale sur l’IA, pour en contrer les dangers?

Cela tient à la course effrénée qui se déroule à l’échelle mondiale. Récemment, j’étais dans la Silicon Valley, où l’on est bien conscient de certains dangers. Là-bas, les ingénieurs là-bas disent: «Nous aimerions ralentir le développement, mais alors les Chinois gagneraient.» C’est un aspect du problème. D’un autre côté, il est également beaucoup plus compliqué de réglementer l’IA que, par exemple, les armes nucléaires.

Pourquoi?

Les armes nucléaires sont conçues pour détruire des villes. Il est donc facile de dire: nous devons en limiter la prolifération. Avec l’IA, il faut déterminer un équilibre entre les opportunités et les risques. De plus, nous ne parlons pas d’un superordinateur gigantesque, mais de millions d’acteurs.

Dans la Silicon Valley, il se dit aussi que l’IA pourrait même résoudre le problème climatique.

Elle en a le potentiel. Mais seulement si nous l’utilisons convenablement. A court terme, elle aggravera considérablement le problème. Son développement consomme d’énormes quantités d’énergie. Aux Etats-Unis, toutes les restrictions énergétiques ont été abandonnées, et on estime que, dans le futur, 10% à 20% de l’ensemble de la consommation électrique seront consacrés uniquement au développement de l’IA. Jusqu’à présent, c’était le seul facteur limitant. Les grands acteurs se disent: «Nous devons d’abord gagner la course. Après, l’IA résoudra le problème climatique.»

Vous êtes historien et non futurologue. Votre étude de l’histoire vous a-t-elle rendu pessimiste?

Probablement. En tant qu’historien, je me méfie des révolutions. Quand on regarde l’histoire des inventions, on voit que les nouvelles technologies sont rarement mauvaises en soi, mais le problème vient du manque d’expérience. Le processus d’adaptation est dangereux, surtout lorsque les structures économiques et sociales d’une société changent rapidement. Pensez à l’industrialisation, par exemple.

Que voulez-vous dire par là?

Lorsque la machine à vapeur, le train et l’électricité ont été mis au point, ce n’étaient pas de mauvaises inventions en soi. Mais au XIX^e siècle, personne ne savait comment bâtir une société industrielle. Comment aurait-on pu? Cela ne s’était jamais produit auparavant. Alors, on a tâtonné. Cela a mené à l’appauvrissement des travailleurs et à l’avènement de l’impérialisme. Les gens pensaient que la seule manière de créer une société industrielle était de bâtir de vastes empires. Une telle société avait besoin de ressources, d’acier, de charbon, et de marchés pour écouler ses produits. Les gens se disaient: si nous ne contrôlons pas les ressources et les marchés, nos concurrents pourront nous faire chanter ou nous détruire. Aujourd’hui, nous devons tout mettre en œuvre pour éviter de répéter de telles erreurs avec l’IA.

Souhaitez-vous que l’on arrête le développement de l’IA?

Non. Premièrement, ce serait irréaliste, et deuxièmement, ce n’est pas souhaitable. L’IA a un immense potentiel positif pour l’humanité. Dans les domaines de la santé, de l’éducation, ou encore pour protéger les populations contre les accidents ou la violence.

Lorsque vous avez commencé à écrire ce livre, la situation mondiale était différente. Comment votre vie personnelle a-t-elle changé depuis le 7-Octobre, lorsque le Hamas a attaqué Israël?

Lorsque j’ai commencé à écrire le livre, en 2018, nous vivions à une autre époque. Mais pour moi, le 7-Octobre n’a pas été le plus grand choc. C’est ce qui s’est passé dans les mois précédents qui m’a bouleversé: la prise de pouvoir antidémocratique par le gouvernement israélien.

Le gouvernement de Benjamin Netanyahou a partiellement dépouillé la Cour suprême israélienne de ses pouvoirs, affaiblissant ainsi considérablement la séparation des pouvoirs en Israël.

Le système démocratique en Israël est en train de s’effondrer. L’Etat de droit, la liberté d’expression, les tribunaux – tout est en danger. En tentant de neutraliser la Cour suprême, le gouvernement cherche à éliminer son seul contre-pouvoir et est sur le point de réussir.

Vous semblez craindre davantage le cercle autour de Netanyahou qu’une guerre nucléaire avec l’Iran…

Les menaces extérieures sont très réelles et dangereuses, mais Israël peut y faire face grâce à sa puissance militaire. Selon moi, le danger intérieur est plus grand. Il est probable qu’Israël remporte la guerre contre le Hamas, le Hezbollah et l’Iran, mais qu’il ne soit plus une démocratie par la suite.

Vous critiquez Benjamin Netanyahou depuis longtemps, notamment pour ses actions militaires contre le Hezbollah au Liban. N’a-t-il pas rendu Israël plus sûr?

Les frappes contre le Hezbollah sont un succès des forces de sécurité, pas de Netanyahou personnellement.

Un Premier ministre ne peut pas aller lui-même au front.

Netanyahou refuse d’assumer la moindre responsabilité pour le désastre du 7-Octobre. Il a toujours été ce genre de politicien qui s’attribue les succès quand tout va bien, mais disparaît dès qu’il y a des erreurs. Bien sûr, on ne peut pas tenir le Premier ministre responsable de chaque mauvaise décision d’un commandant, mais il doit établir les bonnes priorités.

Quelles erreurs a-t-il commises, selon vous?

Après les dernières élections de 2022, il aurait pu se concentrer sur le Hamas, mais il a choisi de se focaliser sur la réduction des pouvoirs de la Cour suprême. Pendant des mois, Israël a été plongé dans le chaos, à cause de manifestations. Ses chefs militaires l’ont averti à plusieurs reprises: il mettait Israël en danger et divisait la nation. Mais Netanyahou a préféré limoger le ministre de la Défense. Il porte la responsabilité principale du 7-Octobre et de la guerre qui s’est ensuivie.

Netanyahou n’a certainement pas forcé le Hamas à attaquer Israël…

Bien sûr que non. La responsabilité des atrocités incombe au Hamas. Mais après le début de la guerre, il y a eu plusieurs occasions d’établir un cessez-le-feu temporaire pour libérer les otages de Gaza. Benjamin Netanyahou les a refusées, car il savait que son gouvernement serait en difficulté en cas de cessez-le-feu et qu’il devrait faire face à ses responsabilités politiques. Cette situation déchire Israël. Pourtant, en temps de guerre, la chose la plus importante serait d’unir le pays. Mais Netanyahou est la dernière personne sur Terre capable de le faire.

Comment la guerre peut-elle se terminer?

C’est difficile à dire, car personne ne sait quel est le plan politique. Israël connaît un énorme succès sur le champ de bataille, mais le rôle d’un gouvernement serait de transformer ces victoires militaires en succès diplomatiques et politiques. Mais que veut faire Netanyahou après avoir vaincu l’Iran, le Hezbollah et le Hamas? Sur ce point, il reste silencieux.

L’IA pourrait-elle contribuer à une solution de paix au Proche-Orient?

Je ne confierais pas le conflit du Proche-Orient à l’IA. Nous ne devons pas oublier que ce sont les êtres humains qui, au cours des dernières décennies, ont accompli des progrès extraordinaires pour réduire la violence. Au début du XXI^e siècle, nous avions l’ordre international le plus pacifique que l’histoire ait jamais connu. La règle fondamentale était: «Vous ne pouvez pas simplement attaquer un pays et l’annexer parce que vous êtes plus fort.» Ce qui, dans l’histoire, était la norme.

Dans quel sens?

A d’autres époques, les Etats dédiaient généralement jusqu’à 50% de leur budget à leurs armées. Au début du XXI^e siècle, ce montant est tombé en moyenne à 7%, tandis que le budget de la santé a atteint 10%. C’était une avancée remarquable dans l’histoire de l’humanité.

Cela n’a pas duré longtemps.

Exactement. Les gens ont pris cette situation pour acquise, et les systèmes de santé ont commencé à se détériorer. Aujourd’hui, nous sommes confrontés à leur effondrement. Parallèlement, les dépenses militaires mondiales ont augmenté. Récemment, le budget public de la Russie a été dévoilé: 40% des fonds sont alloués à l’armée. Si nous ne mettons pas un terme à cette tendance, ce modèle prévaudra dans le monde entier.

Quel est le lien avec l’IA?

Si les tensions internationales augmentent, nous ne pourrons pas trouver d’accord pour encadrer l’IA. Cela pourrait accélérer sa révolution et déstabiliser le monde. Elle modifiera l’équilibre des forces militaires et provoquera d’immenses chocs économiques. Des industries entières disparaîtront, et des centaines de millions de personnes perdront leur emploi. Nous faisons face à une tempête. Le système international sombre dans le chaos, au moment même où nous devons résoudre deux problèmes colossaux: l’IA et le changement climatique.

Dans l’histoire, les nouvelles technologies de l’information ont souvent donné naissance à de nouvelles sociétés. Aujourd’hui, les populistes utilisent des fake news générées par l’IA, tandis que beaucoup de gens en Occident jugent la démocratie inefficace en raison de ses processus de négociation complexes. L’IA ouvrira-t-elle la voie aux dictatures?

Nous vivons à une époque d’abondance d’informations. Mais l’information n’est pas du savoir; elle est souvent comme de la malbouffe: propagande, fake news et populisme. L’IA, elle aussi, ne nous révélera pas la vérité sur le monde, mais créera un monde nouveau, plus complexe. Ainsi, lorsqu’on réfléchit à un système politique, il faut en choisir un qui peut s’adapter et évoluer. Les démocraties sont toujours supérieures aux dictatures à cet égard.