L’application ChatGPT, menace ou opportunité ? « Un levier pour des résultats d’un plus haut niveau »

Pour Yves Deville, professeur à l’Ecole polytechnique de l’UCLouvain, l’émergence de ChatGPT pourrait tirer l’apprentissage vers le haut. Tout en sachant que l’outil ne dispensera jamais la vérité absolue.

L’application ChatGPT est-elle une révolution en matière d’intelligence artificielle?

Certainement. Elle correspond à une avancée assez prévisible puisque la société qui l’a créée, OpenAI, travaille depuis de longues années sur GPT, qui en est désormais à sa troisième génération. GPT-3 était déjà connu depuis 2020 pour être l’un des meilleurs outils d’analyse du langage naturel. La technologie sous-jacente est celle-ci: la société a procuré des milliards de références de texte, qu’elle a soumis au plus grand système IA qui existe, puisque le réseau de neurones de GPT-3 compte 175 milliards de paramètres. Ensuite, elle a ajouté une couche de chat en faisant de l’apprentissage supervisé par des humains. OpenAI est aussi à l’origine d’un autre outil, Dall-E, permettant de générer des images à partir d’un texte. Un créateur a notamment reçu un prix en y recourant (NDLR: Jason Allen, avec l’œuvre Théâtre d’opéra spatial, dans une catégorie dédiée aux images numériquement manipulées).

ChatGPT remet fondamentalement en cause le modèle d’apprentissage mis en place depuis des générations.

Dans le cas de ChatGPT, son apprentissage s’arrête toutefois à la date de coupure de son dernier développement, c’est-à-dire en 2021. L’outil n’apprend donc rien des échanges avec ses utilisateurs actuels…

En effet, depuis qu’il est mis à disposition du public, il n’apprend plus. Techniquement parlant, si je lui pose une question aujourd’hui et dans cinq jours, il donnera la même réponse.

Continuer à apprendre, serait-ce la phase suivante de son développement?

Ce n’est pas dit. Rappelez-vous du chatbot Tay, de Microsoft, devenu raciste après à peine trois heures: ce système-là apprenait en fonction des dialogues avec les personnes et se corrigeait également en vue des interactions futures. Or, des utilisateurs malintentionnés lui avaient fait apprendre des discours intolérables. Dans le cas de ChatGPT, puisqu’il n’apprend plus, on ne peut pas le manipuler. Néanmoins, quand vous dialoguez avec lui, il s’adapte en fonction de ce que vous avez dit précédemment. J’ai fait le test en lui soumettant des questions techniques pour un cours d’informatique théorique. Alors qu’il répond habituellement bien, l’une des réponses qu’il m’a donnée était erronée. En dialoguant avec lui, je lui ai montré que son raisonnement était faux, suite à quoi il a reconnu son erreur. Mais si vous refaites le test, il vous redonnera la première réponse, celle qui est erronée.

Malgré ces lacunes, le logiciel a la capacité d’approfondir des sujets très précis…

Il est très, très fort. Dans différentes thématiques, ses réponses sont correctes, sinon plausibles. C’est un très bon étudiant.

Quelles conséquences positives ou négatives entrevoyez-vous de l’usage d’un tel logiciel au stade actuel de son développement?

Le plus spectaculaire en matière d’application, c’est certainement dans l’enseignement. ChatGPT remet totalement en cause les travaux individuels que l’on demande aux étudiants, du primaire jusqu’au supérieur. Les connaissances qu’il procure sont très utiles si je suis un client souhaitant, par exemple, obtenir une information sur la loi des hypothèques. En revanche, si je dois apprendre ce sujet, cet outil ne me rend pas service. Il faut donc distinguer l’utilisation par le public et l’apprentissage, cette phase de réflexion et d’appropriation. Récemment, le New York Times a mené une expérience en demandant à des enfants, puis à ChatGPT, de rédiger une rédaction, toutes corrigées par des experts. Dans certains cas, ces derniers n’ont pas pu distinguer les productions des enfants de celles de ChatGPT. Car vous pouvez aussi lui demander de vous répondre à la manière d’un enfant de 8 ans!

Est-il dangereux de disposer d’un outil d’intelligence artificielle dispensant un savoir aussi large?

Je dirais qu’il n’est pas inoffensif dans son utilisation quotidienne. Il faut faire attention au concept de normes et de vérité. Ce n’est pas parce que ChatGPT le dit que c’est vrai: on sait qu’il se trompe. Il faut plutôt le voir comme un expert parmi d’autres. Il est aussi éthiquement difficile d’accepter l’idée qu’une IA ait réponse à tout.

Vous semble-t-il nécessaire de réguler l’IA de manière plus stricte compte tenu de tels développements?

Personnellement, je pense qu’il y a bien d’autres domaines plus prioritaires que ChatGPT pour une régulation. Je pense notamment aux IA embarquées, à celles qui prennent des décisions à la place d’individus… Ici, on reste dans le registre de l’encyclopédie. En revanche, comme je l’ai dit, ChatGPT remet fondamentalement en cause le modèle d’apprentissage mis en place depuis des générations. Autour de moi, je vois des enseignants paniqués. Et j’entends certaines personnes dire que l’avancement dans tel mémoire de fin d’études va beaucoup mieux depuis l’arrivée de ChatGPT.

Faudrait-il interdire purement et simplement l’accès du grand public à cet outil?

Cela n’aurait aucun sens! Les machines à calculer n’ont jamais empêché nos enfants de continuer à apprendre. En revanche, on leur demande de comprendre le mécanisme de la multiplication. C’est la même chose ici: cela n’a plus de sens de demander à quelqu’un de faire un texte sur tel ou tel sujet. Ce qui doit changer, ce sont les objectifs d’apprentissage. Plutôt que d’écrire un texte sur la vie d’un auteur, demandons à cet étudiant d’analyser deux bibliographies d’un auteur et de les comparer.

Ce type d’IA pourrait donc tirer l’apprentissage vers le haut?

Absolument. ChatGPT est une vraie révolution, un produit fini. C’est un levier parmi d’autres pour être plus efficace, plus rapide et atteindre des résultats d’un plus haut niveau.