L’IA générative rendrait fainéant et altérerait la pensée critique

Selon une récente étude américano-britannique, accorder une trop grande confiance aux outils d’IA générative peut entraîner une détérioration des facultés cognitives et de la pensée critique des utilisateurs.

Certains craignent de la part de l’intelligence artificielle qu’elle prenne un jour le pas sur l’homme. Plutôt que d’imaginer des scénarios dignes de récits de science-fiction où les robots domineraient le monde, la question la plus appropriée est peut-être de savoir si les IA génératives n’auraient pas un impact sur les mécanismes de pensée et de réflexion humaines.

La plus connue de ces IA génératives est sans aucun doute ChatGPT. Elle peut répondre à des questions, résumer des documents, ou encore produire des textes sur des sujets parfois techniques, avec un ton prédéterminé sur base de consignes —autrement appelées prompts— de l’utilisateur. Un outil pratique qui peut toutefois avoir ses revers.

La pensée critique en péril?

Une étude de chercheurs des Universités de Carnegie Mellon (Etats-Unis) et de Cambridge (Royaume-Uni), mandatés par Microsoft, conclut de manière préoccupante que les intelligences artificielles génératives peuvent détériorer les facultés cognitives de leurs utilisateurs, de même que leur pensée critique.

Leurs recherches s’appuient sur un questionnaire adressé à 319 «travailleurs du savoir» utilisant l’intelligence artificielle au moins une fois par semaine pour les aider dans certaines tâches professionnelles comme la rédaction de mails, la préparation de présentations, ou encore la synthèse de rapports. Selon les chercheurs, la grande confiance qu’accordent certains d’entre eux aux capacités des IA génératives peut entraîner une diminution de leur réflexion critique.

Or, les contenus des intelligences artificielles ne sont parfois pas corrects, ou alors pas tout à fait. Accepter sans remise en question ce que produisent ces outils peut entraîner une adoption passive de réponses erronées ou biaisées. La pensée critique est donc essentielle. Certains travailleurs le savent, et, accordant davantage de confiance à leurs propres compétences qu’à celles des IA, mettent en doute ce que cette dernière leur répond.

Enrichir plutôt qu’automatiser

Un bon réflexe d’un point de vue cognitif, qui entraîne toutefois un changement dans les tâches des employés. Alors que les idées qu’ils formulaient étaient le fruit d’une réflexion personnelle menée de bout en bout, avec l’intelligence artificielle, leur rôle a tendance à devenir celui de simples évaluateurs.

«Ce que nous voyons, c’est une mutation du rôle de la pensée critique», indiquent les auteurs de l’étude. «L’effort investi dans la réflexion critique passe de la collecte d’informations à la vérification des informations, de la résolution de problèmes à l’intégration des réponses de l’IA, et de l’exécution des tâches à la gestion des tâches.» En outre, le recours systématique aux IA pour répondre à certaines tâches tend à uniformiser les contenus.

«Notre travail suggère que les outils d’intelligence artificielle générative doivent être conçus pour soutenir la pensée critique des travailleurs du savoir en s’attaquant à leurs obstacles en matière de sensibilisation, de motivation et de capacité», concluent les chercheurs américains et britanniques.