Selon le professeur émérite d’IA, de robotique et d’éthique à la Sorbonne Raja Chatila, les biais algorithmiques pourraient être plus dangereux que ceux des êtres humains.
La justice, fruit d’un acte humain et singulier, est-elle soluble dans la logique implacable et têtue de l’intelligence artificielle (IA) ? Raja Chatila, professeur émérite d’intelligence artificielle, de robotique et d’éthique à Sorbonne Université, souligne que la question de l’utilisation « éthique » des algorithmes en matière judiciaire est chevillée à celle de l’autorité sur laquelle repose notre justice. Entretien.
Le Point : L’IA sera-t-elle synonyme d’une justice plus « juste » et plus rapide ?
Raja Chatila : La justice est rendue par des êtres humains dans le cadre d’une institution qui en assure l’équité, et de lois qui sont interprétées et appliquées en tenant compte de l’histoire des personnes impliquées et des circonstances précises des actes commis. Le gain de temps est l’argument le plus souvent avancé pour justifier l’utilisation de l’IA dans la justice. Une chose est de doter la justice de moyens plus efficaces pour travailler, comme des logiciels puissants permettant de réunir plus vite les éléments nécessaires à la prise de décision ; mais c’est autre chose de se diriger vers une justice automatisée, aux décisions toutes faites, avec le risque d’abandonner ses principes fondamentaux, notamment le principe du contradictoire. L’IA permettra-t-elle de détecter – et de corriger – des tendances ou des biais chez certains juges à partir de l’analyse des jugements rendus dans le passé ? Cela n’est pas évident, d’autant que les études qui montrent que les humeurs passagères de certains magistrats, selon le moment de la journée, influenceraient leurs décisions ont été critiquées.
La question du biais dans les données et dans les mécanismes de décision des systèmes d’IA est bien réelle ! Il peut y avoir un juge partial, ce qui n’a de conséquence que dans son tribunal, et ce type d’écart peut être corrigé à l’aide de moyens humains. En revanche, si tous les tribunaux utilisaient une IA biaisée, c’est tout le système judiciaire qui le deviendrait de manière systématique. Le logiciel Compas [Correctional Offender Management Profiling for Alternative Sanctions, ou « profilage de la gestion des délinquants correctionnels pour des sanctions alternatives », NDLR] en est la parfaite illustration. Cet outil, utilisé dans les États de New York et de Californie, vise à prédire les risques de récidive d’un condamné à partir de ses réponses à un questionnaire sur son lieu de résidence, son âge, ses antécédents judiciaires et ceux de son entourage. Or ce système a conduit à des discriminations en stigmatisant les populations noires et hispaniques. Tout cela milite en faveur de l’encadrement des usages de l’intelligence artificielle dans le domaine de la justice ainsi que de la nécessité de toujours vérifier la validité de leurs résultats.
Le rituel du procès, son espace-temps symbolique, sa solennité, son autorité et la confrontation humaine, l’émotionet l’aléa : peut-on éclipserces fondamentaux de l’audience au profit de la froideur mécanique d’une machine ?
La question de l’autorité sur laquelle repose la justice est essentielle. Qu’est-ce que la justice ? Qu’est-ce que l’exercice de la justice ? La justice n’est pas seulement un résultat, c’est aussi un processus qui définit comment la justice doit être rendue et qui garantit son respect. Sinon, la justice serait aussi banalisée que le fait de recevoir une amende de stationnement. Si l’on confie la justice à la machine, il faudra qu’elle soit infaillible, car ce sera là le socle de son autorité. Si elle venait à se tromper, c’est tout le système judiciaire qui s’écroulerait, et, avec lui, la confiance de la société dans la justice. Or la machine ne sera jamais infaillible. Si la justice ne doit pas être celle de la machine, elle ne peut pas non plus être celle de l’émotion et de l’empathie. Elle résulte de la sagesse, du discernement, elle cherche d’abord à comprendre avant de juger, de manière que le jugement soit accepté par tous. Cela, l’IA en est incapable, car elle ne « vit » pas dans le monde réel des humains.
La justice est avant tout une question d’histoires humaines individuelles. Quelles limites doit-on poser pour définir une utilisation éclairée et « éthique » des algorithmes en matière judiciaire ?
L’utilisation des algorithmes devra se limiter à collecter des informations pour établir la véracité des faits, rechercher des textes de loi et des jurisprudences – à condition d’en vérifier la réalité –, accompagner l’enquête… Mais il ne faudra en aucun cas laisser les algorithmes déterminer la culpabilité d’une personne, désigner un responsable, fixer une peine ou une indemnité, bref, fabriquer un jugement.
C’est le message qu’a voulu faire passer le président de la Cour suprême des États-Unis dans son dernier rapport annuel ?
Dans son rapport de l’année 2023, John G. Roberts estime que si l’IA peut faciliter l’accès aux informations, elle risque de « déshumaniser le droit ». Il fait une comparaison avec les tournois de tennis dans lesquels l’arbitre ne peut pas toujours déterminer avec certitude si la balle du joueur qui sert a bien atterri dans la zone autorisée. L’utilisation d’une technologie permet d’éviter ce type d’erreur. En revanche, fait-il observer, un procès au tribunal, qui comporte souvent des « zones grises », nécessite toujours du discernement humain.
L’humanité du juge est chevillée à son humilité. Remplacer la justice humaine par un outil qui manque ontologiquement d’humilité n’est-il pas, sur le principe, de l’ordrede l’utopie ?
C’est même de l’ordre de la dystopie ! La machine calcule, elle peut au mieux produire et comparer des probabilités. Alors que le doute humain est une remise en question qui est un cheminement vers la vérité. C’est précisément ce discernement humain du magistrat qui reste irremplaçable.
Justement, au-delà mêmedu cadre judiciaire, la véritéest au cœur, selon vous, de ce nouveauparadigme façonné par l’IA…
Le mécanisme de la justice, c’est de mettre tous les protagonistes d’accord sur la vérité judiciaire. C’est un fondement de la démocratie. Au-delà même du contexte de la justice, notre vie sociale repose sur le fait que dans l’ensemble nous partageons les mêmes vérités. La vérité est un socle commun sur lequel se construit une société démocratique. Or, les systèmes d’IA générative comme ChatGPT, basés sur des corrélations statistiques, peuvent produire et véhiculer des contenus qui incluent à la fois des réalités avérées et vérifiées, des contre-vérités et des opinions, en les combinant et en les mélangeant. Ces contre-vérités sont indiscernables car il est impossible de remonter à la source et de « tracer » les raisonnements de la machine. Cela nécessite donc une vérification a posteriori. L’exemple de jurisprudences inventées par de tels systèmes et utilisées par des avocats aux États-Unis est un cas significatif de l’importance de cette vérification. Ainsi, notre capacité à identifier le vrai et le faux risque d’être de plus en plus fragilisée par l’utilisation de l’IA générative. Cela pourra renforcer les réactions de défiance vis-à-vis de toute information. Le fait de ne plus partager les mêmes vérités constitue une menace grave pour la démocratie.
Retrouvez notre hors-série « Le guide de l’intelligence artificielle », 100 pages – 215 x 275 mm, 10,90 € en kiosque ou dans notre boutique en ligne