ChatGPT, menace ou opportunité ? « Oui aux machines, à condition de faire un effort dans la pensée critique »

Avec son savoir proche de l’omniscience et son langage poussé, ChatGPT est-elle une menace ou une opportunité pour l’homme? Pour Luc de Brabandere, philosophe d’entreprise, de telles innovations l’invitent surtout à exercer la conscience et le doute, par opposition à une IA qui «ne sait pas ce qu’elle fait».

Faut-il s’inquiéter de l’émergence d’agents conversationnels automatisés tels que ChatGPT, tant ce logiciel imite le langage assez finement et propose des réponses à la fois rapides et détaillées?

La raison même d’un outil est d’être plus puissant que l’humain. Il ne faut donc pas s’en étonner. ChatGPT constitue un énorme pas en avant dans l’imitation de l’homme. Nous ne sommes pas en danger pour autant. Le vrai danger, c’est plutôt de laisser faire et de ne pas être en mesure d’assumer la gestion de ces machines. Les ordinateurs n’éprouvent ni émotions ni sentiments, mais certains peuvent les imiter. Si une banque met en place un chatbot, une loi devrait imposer qu’il répète toutes les trente secondes qu’il est une machine. De même, quand on demande une information à un robot, faut-il dire merci? Non. C’est là que se situe la différence entre l’homme et la machine. Les mots ont toute leur importance. Les voitures dites «autonomes» n’ont rien de tel, puisqu’elles dépendent d’une multitude d’objets et de logiciels. Elles ne sont pas en mesure d’édicter leurs propres règles.

Il n’y a pas à débattre: c’est l’homme qui utilise la machine, et non l’inverse.

Ce raisonnement s’applique-t-il également à la notion d’intelligence artificielle (IA)?

Le mot «intelligence» n’est devenu un sujet d’étude qu’il y a deux cents ans. A cette époque, il portait essentiellement sur le génie génétique, l’eugénisme. Le quotient intellectuel partait de l’hypothèse que l’intelligence était mathématique et logique. Après la Seconde Guerre mondiale, on a vu éclore le formidable mouvement des intelligences multiples: émotionnelle, spatiale, musicale, etc. Bravo! Et puis, patatras… Voilà qu’à cause des technologies, on remet l’intelligence au singulier. Le paradoxe, selon moi, est que l’intelligence que l’on appelle «artificielle» remplacera la logique mathématique qui avait le monopole il y a deux cents ans.

La frontière entre l’intelligence humaine et celle dite «artificielle» a-t-elle tendance à s’étioler?

Le philosophe aime les définitions. Quand une informatique devient très puissante, on a tendance à la qualifier d’intelligence artificielle. J’aimerais savoir où est la ligne. Ne perdons pas de vue qu’un ordinateur ne sait pas ce qu’il fait, qu’il n’éprouve aucune joie ni aucune tristesse, qu’il n’échappe pas à la rationalité. J’ai récemment vu une publicité pour un parking intelligent: je n’ai pas envie que l’on me dise un jour que je suis intelligent comme un parking. Ma définition personnelle est donc celle-ci: l’intelligence est l’aptitude à bien utiliser ses aptitudes. Ainsi, une personne ayant un très bon sens de l’humour doit aussi avoir la capacité d’en user de manière appropriée. Je ne pense pas, dès lors, qu’on puisse mesurer l’intelligence. Le QI, en cela, n’a aucun sens, puisqu’il consiste à mesurer la capacité d’un individu à penser comme celui qui a inventé l’exercice.

Quelles que soient les solutions d’intelligence artificielle mises en œuvre, la notion de responsabilité, elle, incombe à l’humain?

Il reste toujours un extérieur à la machine. Celle-ci va, à l’infini, dans une boîte que quelqu’un a défini. D’où cette question: qui est derrière ChatGPT, quel est leur projet de société? Outre Microsoft, des gens dangereux que je n’aime pas, comme Elon Musk ou Peter Thiel (NDLR: le fondateur de Paypal), ont investi dans OpenAI, à l’origine de ChatGPT. Imaginons que ChatGPT ait été programmé uniquement par des femmes, ou par des Ethiopiens: je suis sûr que le résultat aurait été totalement différent. La pensée critique, mon grand sujet du moment, consiste à s’interroger sur l’origine de ce qui est face à moi, sur la solidité de l’argumentation, sur le canal qui m’y a amené. Et à douter aussi de moi-même.

Est-il donc dangereux de laisser un boulevard, comme c’est le cas aujourd’hui, aux solutions d’intelligence artificielle, sans remettre fondamentalement en cause leur opportunité?

Le problème, c’est bien le fait qu’on lui laisse un boulevard. Voici quarante ans, j’avais lu l’un des tout premiers livres sur les enfants et l’ordinateur: Mindstorms, de Seymour Papert. L’une des dernières phrases est: «Finalement, quand on voit un enfant face à un ordinateur, la question est de savoir qui programme qui.» Je trouve cela génial. Utilisons-nous Internet ou Internet nous utilise-t-il? Il n’y a pas à débattre de cette question: c’est l’homme qui utilise la machine, point à la ligne. D’où l’importance d’être conscient de ce qu’il se passe. Oui aux machines, à condition de faire un énorme effort dans la pensée critique. C’est toute la force de l’étonnement, du questionnement, du doute. Sans cela, elles peuvent représenter un vrai danger. Je vois bien que l’on tente parfois de leur donner des fonctions qu’elles ne devraient pas avoir.

Peut-on concilier le questionnement philosophique sur la place que doivent ou non avoir les solutions d’IA et les régulations, comme celle que l’Europe prépare pour 2024?

Un législateur n’a pas d’autre choix que de faire des catégories. Or, un classement est nécessairement imparfait. Rappelez-vous la catégorisation des secteurs dits «essentiels» ou non durant la pandémie. Je pense que cette réglementation est nécessaire, tout en ayant conscience que, dès le premier jour, elle ne sera jamais assez bonne. Il y aura des faiblesses dans lesquelles les gens se rueront. Mais le pire serait de ne rien faire.

A côté de la responsabilité collective, qu’un législateur peut traduire en réglementation, faut-il se montrer d’autant plus vigilant à titre personnel à l’égard des logiciels d’IA?

Beaucoup de gens considèrent que l’informatique est une occasion de penser moins. Or, je trouve que c’est exactement l’inverse. C’est un leurre de croire qu’on pourra tout réglementer. C’est pourquoi il nous faut investir dans la pensée critique.