Serge Tisseron, psychiatre: « Les réformes consistent toujours à ajouter un peu plus de contrôle »

Dans son dernier livre, L’Emprise insidieuse des machines parlantes, le spécialiste français des rapports à la technologie met en garde contre la dépendance aux assistants et robots vocaux. Il se réjouit que le confinement ait fait découvrir à beaucoup d’adultes l’utilité des outils numériques mais déplore l’expansion progressive de la société de surveillance.

Quels sont les principaux nouveaux défis que nous lancent les assistants et robots vocaux ?

J’en vois deux. Le premier, c’est que nous allons devoir apprendre à interagir avec des machines comme avec les êtres humains tout en sachant qu’elles ne font que simuler les compétences humaines. Cela va nous obliger à pouvoir glisser très vite d’un point de vue à l’autre alors que notre culture nous a habitués, au contraire, à établir une barrière étanche entre nos façons de gérer les personnes et de gérer les objets. Le second défi, c’est que nous devrons apprendre à considérer ces machines comme nos meilleurs amis parce qu’elles nous rendront de grands services, mais qu’en même temps, nous ne devrons jamais perdre de vue qu’elles pourront être de formidables mouchards.

Quels bienfaits ces machines peuvent-elles nous apporter ?

Tout d’abord, utiliser la voix dans nos relations aux machines va rassurer de nombreux usagers, en particulier les personnes âgées et celles qui sont fâchées avec la technologie. Ensuite, les robots vont permettre de libérer du temps, dans le domaine du soin notamment. Il faudra toutefois veiller à ce qu’ils ne soient pas utilisés pour remplacer le personnel soignant, mais pour le soulager de tâches matérielles et lui permettre de disposer de plus de temps pour s’occuper des malades.

Ces machines parlantes sont-elles, réellement ou en puissance, toujours des mouchards ?

Il faudra des mesures législatives précises et sévères pour qu’elles ne le soient pas. Mais elles comporteront toujours trois risques. Le premier sera d’oublier qu’elles sont programmées par des êtres humains qui ont leur propre idéologie et leurs propres intérêts. Le deuxième risque sera d’oublier qu’elles n’ont pas d’émotions, même si elles sont capables de les simuler toutes. Le troisième risque, enfin, sera, pour certains d’entre nous, de préférer des machines toujours agréables et disponibles à des humains qui ne sont souvent préoccupés que d’eux-mêmes. Un peu comme ceux qui préfèrent accorder leur affection à un animal domestique parce qu’au moins, ils sont sûrs qu’il ne les trahira pas. Sauf qu’en l’occurrence, ils oublieront que la machine dépend d’un programmeur qui, lui, pourra les trahir.

Comment se prémunir contre les excès dans l’utilisation des données recueillies ?

La loi devrait imposer qu’elles indiquent clairement quand elles fonctionnent et enregistrent les propos de ses utilisateurs. Elle devrait aussi garantir que les usagers puissent disposer d’un délai, une période de latence, afin d’effacer ou de rectifier certaines données avant leur transmission.

Est-il dangereux qu’un humain considère un robot comme une personne ou qu’une autorité accorde une personnalité juridique à un robot ?

On a le droit de donner un prénom à sa plante verte et de lui parler tous les jours. Le problème serait que le législateur décide d’accorder une forme de personnalité à une machine et crée ainsi beaucoup de confusion auprès de son propriétaire. Il se verrait peut-être fondé à réclamer plus de droits pour sa machine, qu’on la respecte ou qu’on soit poli avec elle, sous peine de porter plainte.

Moins d’intimité pour plus de sécurité : les populations sont-elles prêtes à se soumettre à ce  » partenariat  » ?

Face aux risques récurrents, comme les attentats, les opérations de déstabilisation de l’Etat par des puissances étrangères, les épidémies, le recours au numérique paraît un très bon outil, à condition que les citoyens acceptent d’être un peu plus surveillés. Il est donc inévitable que nous soyons amenés à renoncer à un certain nombre de libertés, insensiblement, sans nous en rendre compte. Pourquoi y renonçons-nous aussi facilement ? Parce que nous sommes plus sensibles à ce que nous voyons, comme des gendarmes et des contrôles d’identité, qu’à ce que nous ne voyons pas, comme une surveillance invisible de nos déplacements, de nos achats, de nos goûts, etc.

Ce mouvement de réduction des libertés est donc progressif et insidieux ?

J’observe ce mouvement depuis cinquante ans et il m’effraie parce que les réformes vont systématiquement dans le même sens. Elles consistent toujours à ajouter un peu plus de contrôle. Lorsque la situation s’améliore, le contrôle n’est pas diminué parce que  » l’on ne sait jamais « . Lorsqu’elle se détériore, on ajoute encore un peu plus de contrôle. C’est comme un médecin qui soignerait un malade : quand celui-ci va moins bien, on lui ajoute des médicaments ; quand il va mieux, on évite de lui réduire ses médicaments de peur qu’il rechute. A chaque fois, une couche de contrôle est ajoutée. Le xxe siècle a pensé que le droit à l’intimité devait être absolu et garanti par la Constitution. On s’aperçoit de plus en plus que l’essentiel pour l’être humain n’est pas le droit réel à l’intimité, mais l’illusion de l’intimité. Une illusion structurante. Quand je rentrerai chez moi, je pourrai penser que personne ne me surveille. Mais ce ne sera pas vrai.

Qu’entendez-vous par le  » capitalisme affectif  » permis par ces machines ?

C’est un capitalisme dans lequel le levier émotionnel pour susciter un acte d’achat est de plus en plus important. On n’est plus dans un capitalisme de l’insistance récurrente en recevant constamment la même pub sur son écran. Avec la machine parlante, on joue sur la dimension affective. Elle est affable et vous parle gentiment avec une voix à vous arracher l’âme. C’est ce que j’appelle le capitalisme affectif.

Est-il plus pernicieux ?

Bien sûr, parce que l’assistant vocal connaîtra mes habitudes. Quand ces machines seront dans ma cuisine, ma chambre ou ma salle de bains, elles m’écouteront parler, utiliseront les mots que j’emploie, et pourront donc jouer sur mes émotions. Des informaticiens prévoient déjà l’étape suivante. Aujourd’hui, quand on vous fait une proposition d’achat, on vous invite à signer des formulaires de consentement. En général, on ne les lit pas parce que si on le faisait, on passerait six mois par an à les consulter. Donc, ce qui est imaginé avec les machines parlantes, c’est que le consentement puisse se limiter à un geste de la tête. Tel est le capitalisme affectif : si la machine vous fait une proposition d’achat avec suffisamment de gentillesse, vous ne pourrez pas lui résister. Elle va vous infantiliser. Elle sera pour vous comme une maman.

Comment avez-vous jugé l’usage fait des réseaux sociaux, systèmes de communication vidéo, etc. pendant la période du confinement ?

J’ai été à la fois rassuré et inquiet. Rassuré de voir que beaucoup d’adultes, y compris des enseignants qui dénigraient les réseaux sociaux pour les ados, ont vite compris l’intérêt des outils numériques. En France, l’Education nationale avait très médiocrement préparé les enseignants. Cela a cafouillé à mort. Mais ceux qui ont appris à se servir des outils numériques à cette occasion continueront à les utiliser dans le futur, d’autant que l’on va de plus en plus combiner le distanciel et le présentiel. C’est très bien. J’ai toujours affirmé que le virtuel ne s’oppose pas au réel. Les deux se prolongent. En revanche, et cela m’a inquiété, l’expérience du confinement a confirmé que, spontanément, les gens utilisent les réseaux sociaux avec ceux qui sont les plus proches d’eux, sauf exception comme quand une enseignante crée un réseau entre ses élèves. Résultat : un renforcement des liens forts et un affaiblissement des liens faibles, au risque de ne plus avoir accès à des points de vue différents.

Les autorités en démocratie sont-elles en mesure de réguler l’usage des technologies d’accompagnement de personnes dans un contexte sanitaire ou autre ? Ou la dérive vers une société de surveillance liberticide est-elle inévitable ?

Elles le peuvent, le problème est : en ont-elles envie ? Elles prétendent que oui. Mais elles savent aussi, à travers les sondages d’opinion, que la sécurité est un sujet de préoccupation prioritaire des citoyens. Pour une raison simple à comprendre. Il y a encore quarante ans, nous n’étions pas informés par le menu de tous les risques que nous pouvions courir. Les chaînes de télévision et de radio rendaient compte des phénomènes quand ils avaient pris une certaine importance. Aujourd’hui, il suffit qu’une personne soit agressée dans une rue d’une ville pour que les réseaux sociaux flambent et que les habitants réclament plus de protection. L’extrême médiatisation des plaies de notre mode de fonctionnement est le propre des sociétés démocratiques. Dans une dictature, il est impossible au citoyen de faire état des dysfonctionnements nationaux. Vous reconnaissez une dictature au fait d’être obligé de dire que c’est une démocratie. Vous reconnaissez une démocratie au fait de pouvoir dire que c’est une dictature. Mais les deux systèmes convergent. Les dictatures surveillent de plus en plus leurs citoyens pour répondre à la volonté de l’Etat de contrôler tout le monde. Les démocraties le font parce que les moindres dysfonctionnements peuvent être montés en épingle et, comme les plus bouleversants ont trait aux atteintes à la sécurité, ils suscitent une demande de protection accrue de la part des citoyens. En démocratie, le pouvoir politique doit trouver une réponse idéale sur la voie étroite entre la minimisation des dangers de la surveillance et la maximalisation des garanties de sécurité. C’est très compliqué. Je préfère être à ma place qu’à celle d’un dirigeant de gouvernement démocratique.