INTERVIEW. Dans « L’Intelligence artificielle en procès », Yannick Meneceur ouvre le débat sur le droit algorithmique qui, justement, évacue tout débat. Interview.
«Code is law », c’est ainsi qu’en 2000 le professeur de droit américain Lawrence Lessig intitulait un article consacré aux dangers du cyberespace pour les libertés. « Nous sommes tellement obnubilés par l’idée que la liberté est intimement liée à celle de gouvernement que nous ne voyons pas la régulation qui s’opère dans ce nouvel espace, ni la menace qu’elle fait peser sur les libertés », s’alarmait-il. Une dizaine d’années ans plus tard, Antoinette Rouvroy et Thomas Berns forgent le concept de « gouvernementalité algorithmique », « cette forme de pouvoir hors sol, sans autorité identifiée comme telle », dans lequel « les normes semblent émerger du réel lui-même », d’un réel exclusivement numérique. Ce « gouvernement algorithmique », émancipé des biais et préjugés humains, doit conduire à davantage d’objectivité, de rationalité, d’impartialité et, donc, de justice (dans une perspective qui assimile malencontreusement une certaine objectivité machinique à la justice), écrit Antoinette Rouvroy dans un article sur « la dystopie d’une justice objective ».
Basée sur des « corrélations » entre la situation d’une personne et un jeu de données, cette justice réputée plus « juste » et moins inégalitaire va peu à peu s’imposer pour décider des remises en liberté de personnes incarcérées, ou encore, évaluer les indemnités de licenciement, les prestations compensatoires ou les préjudices corporels. Né d’un décret du 27 mars 2020, l’algorithme prédictif DataJust promet d’offrir un « référentiel indicatif » pour indemniser les victimes de dommages corporels à partir de 41 critères.
Ainsi, beaucoup s’interrogent : demain, à quoi servira le juge ? C’est l’une des questions que pose Yannick Meneceur dans son ouvrage L’Intelligence artificielle en procès*. L’« État des algorithmes », porté par « des idéologies néolibérales et libertariennes », est en passe de se substituer à l’État de droit, prévient le chercheur associé à l’IHEJ. « Une nouvelle élite se charge de nous dire ce qui est bien ou mal tout en confisquant l’expression démocratique », résume-t-il. L’État de droit, la primauté de la loi et la médiation du juge, aux fondements de toute démocratie, sont donc bel et bien en danger. Est-il trop tard ? Interview.
Le Point : Vous posez sur l’IA un double regard, de juge et d’avocat, comme le souligne Antoine Garapon dans sa préface. Pourquoi faire le « procès » de l’intelligence artificielle (IA) à l’heure où la technologie nous rend tant de services ?
Yannick Meneceur : La position semble bien ambiguë, en effet ! Mais j’ai souhaité offrir aux lecteurs une vision à 360 degrés de ce sujet, la plus objective possible, avant de formuler une analyse. En magistrat, j’ai tenté d’« instruire » factuellement ce que l’on entend par le terme vague d’« intelligence artificielle » pour ensuite identifier les problèmes que pose cette technologie et me faire l’avocat d’une régulation adaptée, mais stricte. Je pense notamment à la précipitation avec laquelle on a mis sur le marché des applications commerciales de ces algorithmes que l’on qualifie d’« IA », alors qu’ils sont loin d’être matures.
Il est aujourd’hui bien connu que des biais peuvent être présents aussi bien dans les données que dans la manière dont les concepteurs construisent leurs systèmes, sans parler de la confusion trop souvent établie entre « corrélation » et « causalité », qui sont, en réalité, deux notions très différentes. Prenons l’exemple d’un juge aux affaires familiales qui fixe plus souvent la résidence habituelle d’un enfant chez la mère. On en déduira, par corrélation, un parti pris en faveur des femmes. C’est une manière simpliste d’expliquer la jurisprudence d’un magistrat dont les décisions dépendent notamment de facteurs socio-économiques et culturels propres à la population de sa juridiction, mais aussi du fait que tous les pères ne sont pas nécessairement enclins à demander au juge de fixer la résidence habituelle de leur enfant chez eux. Le lien causal entre la décision du juge et les raisons qui la justifient est remplacé par la corrélation établie entre le nombre de décisions rendues et celles qui fixent la résidence de l’enfant chez la mère. Au prétexte d’être « objectif », l’algorithme tord la réalité. Ce qui est problématique…
« Le raisonnement judiciaire est surtout affaire d’interprétation. »
Peut-on dire que l’algorithme transforme le hasard en nécessité ?
Absolument ! Non seulement les algorithmes transforment la liberté à se déterminer en destin, en nous présentant avec une autorité tout à fait particulière des projections et des probabilités, mais leur incapacité à contextualiser l’information traitée peut aussi nous conduire à des confusions. Si, par exemple, l’Alsace a un fort taux de natalité et qu’elle est aussi la région où il y a le plus de cigognes, une « IA » n’aura aucun scrupule à confirmer la légende selon laquelle les cigognes apportent les nouveau-nés dans les berceaux…
En me plaçant dans la position d’un « avocat », j’entends donc combattre cette autre idée reçue qui veut que plus on augmente le nombre de données, plus l’« IA » se perfectionnera. Or, cela n’est pas toujours vrai, car plus la masse de données analysées par l’algorithme augmente, plus le risque de fausses corrélations augmente. C’est ce que les mathématiciens Cristian Sorin Calude et Giuseppe Longo appellent le « déluge de corrélations fallacieuses dans le big data ».
Justement, concernant la justice « prédictive », vous écrivez que les risques d’explications faussées des décisions de justice sont nombreux…
En effet, l’expression à visée « marketing » de « justice prédictive » est une approche quantitative du droit, qui ignore tout du raisonnement juridique. Qu’elle se nomme « justice quantitative », « jurimétrie » ou « justice actuarielle », elle ne rend pas compte de l’intégralité du raisonnement tenu par le juge, lequel procède d’une multitude de choix discrétionnaires, non formalisables a priori, elle occulte le fait que le raisonnement judiciaire est surtout affaire d’interprétation, autrement dit d’une mise à l’épreuve des faits par le droit. C’est bien ce travail d’interprétation et de distanciation que ne peuvent – et ne veulent – pas réaliser les diverses applications de « l’IA », puisque celles-ci mélangent les faits et le droit. Leurs concepteurs espèrent seulement qu’en corrélant un très grand nombre de contextes lexicaux entre eux (parfois avec des données chiffrées comme des montants d’indemnisation), les algorithmes des « IA » réussiront à reproduire les mêmes effets que le processus décisionnel réel.
Les algorithmes livreront donc une mise en récit a posteriori de la justice plutôt qu’un véritable traitement intelligent des décisions judiciaires.
« Datajust ne donnera qu’une représentation incomplète et partielle de la réalité »
Une crainte que partage Antoinette Rouvroy lorsqu’elle souligne : « Pour l’algorithme, la justice a toujours déjà été rendue. La justice est une affaire du passé. Pour le juge, c’est exactement l’inverse : il sait très bien que la loi est injuste. Il sait parfaitement que son jugement ne sera jamais qu’une approximation d’un idéal inatteignable. Pour lui, la justice est toujours à venir, elle n’est jamais présente, elle n’est jamais dans l’échu. » Et pourtant, la technologie continue de plaider sa bonne cause. Que vous inspire DataJust, ce nouvel outil d’aide à l’indemnisation des préjudices corporels ?
J’y vois une forme modernisée et dynamique des « barèmes » qui existaient déjà en matière de réparation du préjudice corporel. Rappelons que ces barèmes sont des tableaux contenant un certain nombre de critères, comme l’âge, le taux de déficit fonctionnel, la souffrance endurée ou le préjudice esthétique, proposant des fourchettes d’indemnisation. Les juridictions, mais également tous les professionnels comme les assureurs et les avocats, ont déjà l’habitude de ce type de pratique, fondée sur une analyse statistique de la jurisprudence. Le bénéfice de ces barèmes est d’avoir limité les décisions aberrantes, au sens statistique. Mais leur effet s’est révélé plutôt limité, car les juges ont continué à exercer leur plein et entier pouvoir d’appréciation en continuant de prendre en compte des éléments non prévus dans ces tableaux.
Il est certain qu’avec DataJust, ces tableaux vont y gagner en dynamique, et cet outil est donc très attendu par les assureurs et les avocats, pour une fonction tout à fait assumée : favoriser le traitement amiable des dossiers. Autrement dit, dissuader les victimes d’aller en justice en leur montrant, avec toute l’autorité des algorithmes, qu’elles n’ont guère intérêt à se lancer dans un contentieux pour espérer grappiller quelques centaines d’euros après des mois de procès. Or, cet algorithme va influer la décision d’aller en justice sur une base potentiellement biaisée. En effet, « l’apprentissage » de DataJust ne portera que sur les décisions des cours d’appel rendues entre 2017 et 2019 dont certaines se contentent de ne viser que les conclusions des parties… Il ne donnera donc qu’une représentation incomplète et partielle de la réalité qu’il prétend restituer. Nous allons vider les tribunaux de contentieux, mais à quel prix ? Ajoutons que les juges traitant ces contentieux relatifs au préjudice corporel ont déjà des références et des réflexes ; de tels outils algorithmiques ne leur seront pas réellement utiles pour l’essentiel de leur contentieux, sauf pour des cas plus complexes ou rares. Mieux vaudrait y préférer un puissant moteur de recherche permettant de redescendre au niveau de la décision.
« Cela va conduire les opérateurs à renforcer le filtrage des contenus et à se doter de tribunaux privés. »
Malgré ces biais, malgré ces corrélations fallacieuses, « l’IA s’immisce comme un nouvel intermédiaire entre le réel et nous », constatez-vous.
Beaucoup d’experts s’alarment de cette très lente dérive, au point de constater que c’est le calcul statistique qui impose de plus en plus son autorité au détriment d’autres facteurs de décision. Le service rendu par les technologies, l’aspect « pratique », est l’une des clés de l’emprise qu’elles exercent sur nous. Pour certains, la valeur ajoutée que nous retirons des réseaux sociaux ou de moteurs de recherche mérite bien que nous y laissions quelques « plumes », mais pourquoi être aussi indifférents à la perte de notre autonomie ?
C’est parce que l’on pense pouvoir s’en défaire aisément le moment venu… mais tentez de faire l’expérience de vous dispenser de votre téléphone intelligent pendant une semaine ou même quelques jours : le sentiment diffus d’avoir raté quelque chose se transforme rapidement en anxiété. Les réseaux sociaux, conçus pour stimuler les circuits de récompense (« likes »), nous donnent à voir le monde, à hiérarchiser l’information, selon le prisme des priorités déterminées par leurs algorithmes. La compréhension des événements s’effectue pour nombre d’entre nous au travers de ces plateformes et nous enferme dans des bulles informationnelles.
Les algorithmes vont même se faire « juges » de la haine en ligne pour définir le caractère « manifestement illicite » des contenus depuis que la loi Avia a été votée… Or, comment reconnaîtront-ils la satire, l’humour et toutes les subtilités du langage humain étrangers à la « haine » proprement dite ?
Il est en effet assez effrayant de constater que cette récente loi sur les contenus haineux sur Internet, inspirée de la loi NetzDG allemande, confie aux plateformes le soin de se prononcer sur le caractère manifestement illicite de certains contenus dans les 24 heures. Cela va conduire ces opérateurs à renforcer le filtrage des contenus et à se doter de tribunaux privés, tels que le conseil de surveillance (oversight board) de Facebook qui dispose de réels pouvoirs juridictionnels sans en présenter les garanties. Non seulement les algorithmes imposent leur lecture du réel, mais leurs concepteurs se dotent en plus des attributs auparavant réservés aux États…
« Après l’ère de la primauté de la religion puis l’avènement, avec le temps des Lumières, de l’État de droit pour organiser au mieux les affaires humaines, nous entrons dans l’ère de la primauté d’une interprétation du monde par les algorithmes, et d’un État des algorithmes », écrivez-vous. La notion d’État est-elle compatible avec la mathématisation de nos sociétés par des machines qui, par hypothèse, ignorent le rapport causal entre les événements et sur lequel repose en grande partie le droit de la responsabilité ?
En effet, cet « État des algorithmes » se soucie bien peu de causalité, puisqu’il prétend appréhender les faits et en faire émerger des constantes et des lois, des lois de nature, immanentes et permanentes révélées par le traitement massif de données.
Le droit procède d’une logique différente, voire inverse : il permet de s’écarter de la norme édictée par la loi. Une sanction est encourue, mais pas certaine. Des justifications peuvent être invoquées et, sous l’angle singulier de nouveaux faits d’espèce, le juge peut décider de s’écarter de l’application de la loi en référence à une Convention internationale, par exemple. L’environnement algorithmique ne fait pas de place à cet espace de possibilités. Poussé jusqu’au bout de sa logique, il exclut même les comportements déviants. Dans ses fondements, « l’État des algorithmes » rend donc tout simplement inconcevable toute forme de désobéissance et, par un effet performatif, la rendra même innommable. Or, vouloir corriger l’imperfection originelle de l’homme est une utopie ou… un totalitarisme !
« Nous avons besoin d’une architecture juridique mondiale cohérente. »
Faut-il encadrer cette future « justice » numérique ? Croyez-vous à l’avènement d’une justice numérique globale, à l’instar de la justice climatique ?
Je plaide en faveur d’une régulation stricte, mais adaptée, de cette « IA ». Il est bien étrange que les outils technologiques les plus invasifs que nous ayons conçus soient dispensés de limites, surtout quand leur usage touche nos droits et libertés. Et cela va bien au-delà de l’éthique des concepteurs, qui peut être très subjective. Si l’on veut créer de la confiance dans ces technologies, un cadre juridique clair est indispensable. Un tel cadre, adapté et proportionné, serait même, selon moi, de nature à favoriser l’innovation et le développement. En l’état actuel de la législation, les entrepreneurs s’exposent en effet à de nombreux risques juridiques en cas de dommage créé par une « IA ».
Je ne pense pas que le numérique ait besoin d’une justice spécialisée ou d’exception. Son intrication avec notre quotidien est telle qu’il faut plutôt arriver à prendre en compte ce nouvel environnement sociotechnique dans tous les contentieux.«
Nous avons, en revanche, besoin d’une architecture juridique mondiale cohérente, utilisant au mieux chaque échelon de responsabilité : des conventions ou des conventions-cadres globales, rationalisant et explicitant de grands principes, avec l’appui d’organisations intergouvernementales comme le Conseil de l’Europe, et des dispositions nationales, adaptant ces principes aux réalités de chaque État… en investissant, pourquoi pas, un mécanisme d’expérimentation législative » dédié au numérique. Mais je ne suis pas sûr que la crise sanitaire, puis la crise économique qui est déjà là, laisse énormément d’espace politique à cela. On entend déjà certains lobbyistes de l’industrie numérique plaider pour l’abandon de toute velléité de régulation à Bruxelles afin de ne pas entraver la relance…
C’est à se demander si une prise de conscience collective des réels enjeux de « l’IA » n’éclaterait pas mieux avec un grand procès… Car la question est moins de savoir s’il y aura un scandale comme celui de Cambridge Analytica mettant en cause une « IA » que de savoir quand cela aura lieu : et on se questionnera alors sur les raisons pour lesquelles une réglementation n’a pas été édictée plus tôt !