Antoinette Rouvroy : «On ne peut plus accepter que le monde numérique soit un no man’s land»

Comment se protéger de la prédation des algorithmes, de Twitter, Amazon ou TikTok, mais aussi de ceux utilisés par les employeurs, les banques ou les administrations? Pour Antoinette Rouvroy, philosophe à l’université de Namur, une Constitution mondiale du numérique doit défendre nos droits fondamentaux.

L’intelligence artificielle vous connaît mieux que vous-même!» Ce slogan, de plus en plus répandu, est censé convaincre de l’utilité absolue des algorithmes dans tous les domaines de notre existence. Les grandes plateformes du Web se chargent de traquer nos choix, nos clics, nos vues, pour mieux cerner nos comportements et les standardiser. Les secteurs privé et public utilisent de plus en plus les algorithmes pour nous scorer, à savoir nous évaluer, non pas en fonction de nos caractéristiques individuelles mais en exploitant le big data et les corrélations que celui-ci offre, avec l’argument d’une (pseudo-) objectivité. On ne mesure pas encore les conséquences réelles de l’ère numérique en pleine expansion sur nos modes de vie et de pensée, mais aussi sur l’action collective, nos possibilités de contester et, donc, sur la démocratie.

Twitter et Facebook ont proliféré en se greffant sur une crise existante qu’ils ont aggravée mais pas provoquée.

Le Web et ses Elon Musk, Mark Zuckerberg et Jeff Bezos assurent promouvoir la liberté, surtout d’expression. Mais c’est sans doute une énorme fake news. Pour Antoinette Rouvroy, philosophe à l’université de Namur et chercheuse FNRS, il est urgent de défendre nos droits souverains dans le monde numérique. La meilleure façon d’y parvenir est de concevoir une Constitution mondiale du numérique, pour ne plus laisser Elon Musk s’ériger lui-même en Constitution d’un réseau aussi influent que Twitter, dans une conception superficielle et partiale de la liberté d’expression. Comment parvenir à accorder la planète sur un tel texte fondateur? La philosophe est toujours en recherche de ce «comment». Mais elle a déjà bien cerné le «pourquoi» d’une telle Constitution dont le principe serait reconnaissable par tous les Etats, et leurs citoyens, qui en ont une à l’échelle nationale. La première vertu d’une Constitution est celle de l’autolimitation de ceux qui exercent le pouvoir. L’idée serait, ici, d’y intégrer les géants du numérique qui exploitent les algorithmes pour leur profit et qu’on a trop longtemps laissé proliférer sans limites. Fameux défi, surtout quand on voit avec quelles difficultés l’Union européenne tente d’introduire une dose de régulation dans le fonctionnement des Gafam. L’ enjeu est majeur: une constitution n’est pas destinée à restreindre nos libertés mais à les défendre, aujourd’hui et dans le futur.

La démocratie est-elle menacée par le monde numérique? Les réseaux sociaux sont-ils, par exemple, responsables de la remise en cause des élections aux Etats-Unis et au Brésil?

Oui et non. Il faut être nuancé. Personne ne peut prétendre avec certitude que les réseaux sociaux sont responsables de l’assaut du Capitole ou de celui de Brasilia. Le lien de cause à effet est difficile à prouver, même si l’on sait que ces plateformes, comme Facebook ou WhatsApp, peuvent être des instruments de déstabilisation importants. Quand on like ou reposte une fake news sur un candidat, on contribue à l’inflation de visibilité de celle-ci, mais cela ne signifie pas automatiquement qu’on votera pour le candidat qui en bénéficie. Il n’y a pas que ses électeurs fidèles qui suivent Donald Trump sur Twitter. Beaucoup veulent aussi simplement profiter du spectacle qu’il donne. Il faut éviter de faire des réseaux sociaux des boucs émissaires systématiques.

Pourquoi? Parce que cela évite de traiter les vrais problèmes?

Tout à fait. Il est essentiel de comprendre pourquoi on a déplacé la discussion politique sur les réseaux sociaux en désertant les lieux classiques de débat pour des raisons qui ne tiennent pas à ces réseaux sociaux. Twitter, Facebook ou WhatsApp ont proliféré de façon opportuniste en se greffant sur une crise existante – politique, sociale, institutionnelle – qu’ils ont accentuée mais pas provoquée. Le sentiment de déclassement de la classe moyenne blanche américaine qui s’est repliée sur des positions nationalistes, voire racistes, n’est pas dû aux réseaux sociaux.

L’ ère numérique pose néanmoins de nouveaux enjeux démocratiques, d’où votre réflexion sur une Constitution numérique internationale. Pour quoi faire?

L’ enjeu est, ici, différent de celui d’une Constitution liée à la population d’un Etat. La difficulté d’un texte transnational est que la compréhension des droits fondamentaux inscrits dans les Constitutions nationales, comme la liberté d’expression ou le droit au respect à la vie privée, n’est pas la même d’une partie du monde à l’autre. La conception de la liberté d’expression aux Etats-Unis est, par exemple, absolutiste: même la liberté publicitaire y est un droit fondamental. Il est donc illusoire de croire qu’on parviendra, d’un coup de baguette magique, à une Constitution internationale numérique sur des droits substantiels. Ce sera compliqué. Mais il faut, à mon sens, prendre le problème en se concentrant sur une des vertus principales d’une Constitution qui est de limiter les pouvoirs, y compris de ceux qui la conçoivent, en liant les citoyens et les institutions étatiques. Il est clair qu’ici, il faudra aussi intégrer dans ce texte les grands acteurs du numérique, comme les Gafam et leurs correspondants asiatiques qui ont acquis une puissance digne de celle d’un Etat, voire plus grande encore.

Mais pourquoi une Constitution? Une régulation ne suffit-elle pas?

Non, car il ne suffit pas de réguler un état de fait du présent. Le bouleversement numérique est tel qu’il faut autolimiter les appétits actuels en tenant également compte de l’avenir et des générations futures, soit de ceux qui n’ont pas encore de voix. La particularité d’une Constitution est d’être un texte écrit transgénérationnel qui engage les contemporains à l’égard de ceux qui ne sont pas encore là. Cette dimension est fondamentale, d’autant que la Constitution est autosubversive, pour reprendre un terme du sociologue allemand Gunther Teubner, c’est-à-dire qu’elle organise elle-même les termes de sa propre révision.

N’est-ce pas ce que l’Union européenne tente de faire avec le Digital Services Act, qui s’attaque aux propos haineux, aux fake news, etc.?

Ce texte européen vise à protéger les intérêts actuels des internautes et des citoyens, car on s’est rendu compte qu’on avait accordé énormément d’immunité aux acteurs d’Internet en encourageant à tout crin le développement de l’économie numérique. Désormais, en Europe, le Digital Services Act les oblige à organiser et gérer la modération de ce qui est publié sur les plateformes d’échange du Web. En réalité, cela signifie que les Etats sous-traitent aux acteurs privés, qui sont derrière ces plateformes, le soin d’arbitrer eux-mêmes ce qui est un discours acceptable ou non en démocratie. Ici, on est très loin d’une autolimitation constitutionnelle. Il s’agit même plutôt d’une sorte de coup d’Etat des acteurs d’Internet, car l’interprétation des règles de droit en démocratie revient normalement aux institutions étatiques.

Qui doit organiser cette Constitution? Les Etats?

C’est la grande question à laquelle il est encore difficile de répondre précisément. Le «comment» reste à inventer. Notre réflexion n’est pas encore aboutie. Le souci est qu’on vit actuellement une crise qui se traduit par le discrédit que subissent toutes les institutions étatiques. Lesquelles se sont refermées progressivement sur une sorte de technocratie. Avec une Constitution internationale, il ne faut évidemment pas reproduire ce défaut. Au contraire, un tel texte doit permettre l’unification d’une population fragmentée, en l’occurrence par l’exercice des algorithmes.

Peut-on imaginer que les internautes eux-mêmes participent au processus constitutionnel?

L’ esprit d’une telle Constitution internationale serait de parvenir à organiser une limitation de chaque système de la société, celui de l’économie, celui du droit, celui du numérique bien sûr, celui du politique, etc. Il faut faire en sorte que ces systèmes qui fonctionnent de manière autiste se parlent et inventent de nouvelles normes qui s’inscrivent à l’interface de tous ces systèmes. Chaque système a sa logique propre. Celle des acteurs du numérique est d’intensifier les interconnexions, les flux, la viralité et d’optimiser ainsi leurs profits, grâce aux recettes publicitaires que cela engendre. Cela s’est fait jusqu’ici sans limites. Or, il faut parvenir à ce que ces acteurs ouvrent leur rationalité à celle des autres systèmes, notamment la rationalité des droits fondamentaux. Comment faire, surtout à l’international? J’avoue que cela s’annonce complexe, surtout avec les Gafam. On doit bien constater la faiblesse actuelle du droit international… Mais je ne suis pas certaine qu’Internet, qui se caractérise par une évidente déterritorialisation et l’abstraction numérique, soit le meilleur outil pour cela.

Les réseaux sociaux ne sont-ils pas des espaces délibératifs, comme le dit Elon Musk?

Dans le monde numérique, on confond audience et public. Pour Elon Musk, le public, c’est l’audience. Quand il fait voter les internautes pour savoir s’il doit rester à la direction de Twitter, il se contente du nombre de likes pour prendre sa décision, mais il n’y a là rien de délibératif. Chaque «votant» réagit dans son coin, plus par réflexe que par réflexion partagée. Contrairement à ce que Musk veut faire croire, les réseaux sociaux ne sont pas des agoras où l’on délibère, car il n’y a là aucun engagement. On ne peut s’engager caché derrière un écran, sans le risque de la parole prise en public.

A vous entendre, tout reste donc à inventer, un peu comme les pères de nos constitutions nationales il y a deux siècles?

Oui, tout reste à inventer, d’autant que l’enjeu des algorithmes est crucial sur les plans spatial et temporel. Ceux-ci permettent d’appréhender des comportements – de consommateur, de fraudeur… –, donc le futur. Cela ouvre de nouveaux champs de prédation. Auparavant, on pouvait faire des calculs de probabilité, mais cela ne permettait pas, comme avec les algorithmes, d’agir par avance sur la réalisation de telle probabilité. Aujourd’hui, nous sommes face à une nouvelle temporalisation. On peut agir de façon spéculative sur les potentialités, un peu comme le trading à haute fréquence dans la finance. C’est ce qu’on appelle la «gouvernementalité algorithmique», avec la nuance que ceux qui tirent profit de ces nouvelles possibilités exploitent en réalité l’ingouvernementalité des comportements. Ils ne font pas en sorte que vous vous comportiez de telle ou telle manière mais, grâce aux algorithmes, ils peuvent être agiles et réagir quasi en temps réel à vos comportements. C’est ce que fait Amazon ou de Google en traquant nos comportements sur le Web et en réagissant avec des cookies très ciblés.

Ce n’est plus une quelconque vertu qui attire les gens, ni le savoir, mais le cynisme de la jouissance.

Cela paraît un peu flippant, cette ingouvernance…

Extrêmement flippant, parce qu’on se retrouve dans une situation d’anomie totale, c’est-à-dire une absence de règles et de valeurs communes. Nos comportements ne sont plus évalués en fonction d’une norme reconnaissable et éventuellement contestable, ils le sont en fonction de métriques hyperplastiques qui dépendent du comportement de tous les autres. C’est le reflet du néolibéralisme dans ce qu’il a de plus sauvage et dérégulé, avec une concurrence de chacun à l’égard de chacun et donc une très grande fragmentation de la société. Dans ce contexte, les individus ne sont plus obéissants ou désobéissants puisque la norme n’est plus repérable, ils sont juste assoiffés de crédit, obsédés par les likes et les vues qu’ils additionnent. L’ enjeu consiste, comme le font les influenceurs, à occuper un nœud dans ce maillage de réseaux et c’est ça, finalement, qui procure un pouvoir normatif. Le risque est alors de voir ressurgir des mouvements protofascistes. Ce n’est plus une quelconque vertu qui attire les gens, ni le savoir, mais le cynisme de la jouissance.

Ce qui est gênant dans tout ça, c’est la logique de corrélation des algorithmes, à partir du big data, ces fameuses données de masse?

Absolument. Car on ne perçoit plus les critères à l’aune desquels on est évalué. D’où l’anomie. Exemple fictif mais probable demain: je veux demander un crédit à ma banque et celle-ci utilise un algorithme pour évaluer mon risque de non-remboursement. J’ai beau avoir un bon salaire stable depuis des années, sans jamais manquer de payer la moindre dette, cela risquera bientôt de ne plus compter face à l’algorithme qui révélera que, sur les réseaux sociaux, je suis relié à un certain nombre de personnes qui ont eu des difficultés de remboursement. Mon mauvais scoring tient à ma promiscuité numérique avec des individus – que je ne connais pas forcément, d’ailleurs. Il pourrait aussi tenir à un «mauvais» code postal, comme celui de Molenbeek, par exemple, qui est très stigmatisé. C’est une sorte d’arbitraire. Dans ces corrélations statistiques à grande échelle, le sujet en tant qu’individu disparaît totalement sous la forme d’espaces spéculatifs, c’est-à-dire de profils de consommateur ou de fraudeur potentiel.

En 2020, la justice néerlandaise a, pour la première fois, invalidé un outil algorithmique, destiné à détecter la fraude à l’aide sociale, parce que cela portait atteinte aux droits de l’homme. Encourageant?

Oui, c’est le jugement SyRi (Systeem Risico Indicatie). Il est évidemment précieux que les institutions, comme ici la justice, réagissent. Le tribunal de La Haye mettait le doigt sur l’absence de transparence de l’algorithme. Cela va dans le bon sens, mais cela ne touchait pas au problème fondamental de la constitution de ces dispositifs. Peu importe la transparence même. Le plus important, dans ce genre de cas de figure, est l’absence de justification. On pourra toujours facilement démontrer que l’algorithme n’a pas d’intention discriminatoire. Cela n’absout en rien le décideur de ne pas justifier sa décision envers une personne en particulier, comme un juge qui doit motiver sa décision, qui pourra alors être contestée sur cette base. La situation singulière des personnes doit rester primordiale. Or, un algorithme ne peut en tenir compte.

La jurisprudence des tribunaux peut-elle être un premier pas vers une Constitution numérique?

Tout à fait. On a d’ailleurs sans doute davantage besoin de jurisprudence que de régulation, c’est-à-dire d’interprétation des enjeux numériques pour les droits fondamentaux dans des situations concrètes. Pour cela, il faut des juges courageux et impliqués, car ce sont des dossiers complexes. Le risque est que le monde judiciaire lui-même se fasse coloniser par des rationalités managériales, donc une algorithmisation, pour résorber l’arriéré judiciaire, accélérer le traitement des dossiers, etc. Mais, avec le numérique, il faut réinventer le droit et son interprétation, cela prend du temps, comme pour un dossier de grande fraude fiscale. L’ enjeu est, ici, d’éviter un certain conformisme judiciaire, faute de moyens, et de privilégier la créativité. On ne peut plus accepter que le monde numérique soit un no man’s land. Il ne s’agit absolument pas de restreindre nos libertés, la liberté d’expression en particulier. Il s’agit de protéger les individus que nous sommes et ceux qui ne sont pas encore nés de ce qui menace nos droits fondamentaux, donc nos libertés.