ENTRETIEN. La notation sociale par une entreprise privée était l’enjeu d’un procès fictif. Faut-il l’interdire ? Oui, selon le président de cette « cour ».
Deux étoiles sur 5 : c’est le score peu brillant du ministère de la Justice sur Google. Ce que les usagers lui reprochent ? En vrac, l’accueil téléphonique « déplorable », le placement en garde à vue de Gilets jaunes, la suppression « honteuse » des tribunaux d’instance, ou encore le refus d’un dossier d’aide juridictionnelle. Aujourd’hui, tout se note, s’évalue, se jauge : le sourire du chauffeur, la propreté de l’appartement loué, l’humanité du médecin, la facture d’honoraires d’un avocat…
La notation alimentée librement par les usagers est un joyeux amalgame d’objectivité et d’émotions, saupoudrées de l’humeur du jour et d’une éventuelle volonté de nuire. Ce type d’outil est sujet à de multiples dérives : dénigrement déguisé d’un concurrent, chantage aux commentaires, mauvaise foi, etc. Souvent, les justiciers de tous poils en font leur arme favorite. Et leurs « victimes » ne se comptent pas sur les doigts d’une main !
De la notation tout court à la notation sociale, il n’y a qu’un pas. Pour nous faire entrevoir les dangers d’un tel système, une association de juristes a organisé un procès fictif qui s’est tenu à l’Assemblée nationale le 4 décembre 2019.
Les deux « victimes » du système de notation sociale, le modeste monsieur Vigi et la talentueuse madame Jeanvieu avaient bien joué le jeu en s’inscrivant sur le site de la plateforme de notation sociale RankMyLife (RML). Et pourtant, le premier a perdu son emploi, sa femme et sa santé, après avoir vu sa note chuter en raison de sa relation adultère. La seconde, qui avait modifié drastiquement son mode de vie pour rentrer dans la « norme sociale », n’a pas obtenu le poste qu’elle convoitait. L’entreprise n’a pas apprécié sa tentative d’effacer certains aspects de sa vie « non conformes » pour hisser sa note de 98 à 100/100. Ces deux utilisateurs ont attaqué le système de notation, et la cour d’un jour, composée de magistrats, de parlementaires, d’universitaires et de personnes issues de la société civile, a tranché.
Quel est ce verdict tant attendu ? Le Google de la notation verra-t-il bientôt le jour au pays des droits de l’homme ? Quelles barrières juridiques pourra-t-on lui opposer ? Le président de cette cour d’un soir, Jean-Baptiste Crabières, magistrat, en poste au secrétariat général du ministère de la Justice, nous dévoile la décision qui sera publiée dans son intégralité, avec les plaidoiries des avocats, dans la revue Dalloz du mois de janvier.
Le Point : La cour devait se prononcer sur le préjudice des deux utilisateurs « déclassés ». La diminution de leur note sociale a-t-elle porté atteinte à leurs droits fondamentaux ?
Jean-Baptiste Crabières : Techniquement, la cour a été saisie de cinq questions : la note sociale et sa dégradation ont-elles porté atteinte aux droits fondamentaux de monsieur Vigi ? Qu’en est-il de madame Jeanvieu ? Le système de notation sociale doit-il être autorisé ? Doit-on l’encadrer ? Doit-on l’interdire ? Et c’est finalement sur cette problématique fondamentale de la notation sociale en tant que telle qu’ont porté les échanges entre les membres du jury, puisqu’elle conditionnait la réponse aux autres questions. Ce système est-il juridiquement, philosophiquement et socialement acceptable ?
Notre État de droit peut-il accueillir un système de notation sociale « privé » aux mains d’un Google de la notation (qui, dans le scénario du procès, est représenté par RankMyLife) ?
Cela soulève avant tout la question de la liberté des individus. Est-on libre d’adhérer au système de notation si de facto tout le monde l’utilise ? Si je cherche un appartement, je vais devoir trouver un propriétaire qui n’exige pas ma note sociale. Est-on si libre que ça quand on voit que la société s’est structurée autour de la notation sociale ? Les avocats des parties civiles et de la défense ont beaucoup débattu sur cette question. Pour résoudre cette problématique, la composition pluridisciplinaire du jury était précieuse. Les Jurisnautes avaient en effet invité des personnalités très diverses au sein de cette cour éphémère : juristes, universitaires, députés, hauts fonctionnaires, dirigeant d’entreprise et philosophe.
Pour répondre à cette question fondamentale « Quel doit être le statut de la notation sociale ? », comment votre cour a-t-elle raisonné ?
Nous nous sommes posé plusieurs questions. Est-ce que c’est parce que la notation existe ailleurs et notamment en Chine que notre droit doit l’entériner ? Faut-il céder à la pression sociale qui réserve un accueil positif et même enthousiaste à la notation ?
Le problème de savoir s’il faut rester sur le plan des principes ou au contraire faire preuve de pragmatisme n’est d’ailleurs pas nouveau dans la manière dont le législateur appréhende les problèmes sociétaux. Prenez la question de la prostitution, par exemple, lorsqu’en 2016 a été votée la pénalisation des clients. Une partie du débat se plaçait sur le plan des principes et de notre rapport collectif à la prostitution, en tant que société : cette loi va-t-elle compliquer le travail de personnes qui auraient librement fait le choix de la prostitution ou est-elle au contraire le seul moyen de lutter contre l’asservissement que serait par nature la prostitution ? Une autre partie du débat se plaçait sur le terrain du pragmatisme : ne serait-il pas illusoire de croire que le législateur, par la pénalisation des clients, va réussir à lutter efficacement contre ce qui serait « le plus vieux métier du monde » ? Cette oscillation permanente entre les principes et le pragmatisme que vivent les députés et les sénateurs lorsqu’ils votent la loi, mais aussi les juridictions lorsqu’elles en définissent les contours par la jurisprudence, a été un élément important dans le cadre du délibéré.
Si l’on fait le choix du pragmatisme, on peut se dire que la notation est à nos portes et que nos données récoltées ici et là sont prêtes à être agglomérées par les algorithmes et à tomber entre les mains d’entreprises privées comme RankMyLife ?
En effet, techniquement, on y est presque, c’est pour cela que nous avons situé ce procès fictif en 2028, dans moins de dix ans. Il suffirait, par exemple, de synthétiser toutes ces notes à l’aide d’un algorithme approprié, éventuellement de pondérer tout cela par des retours des utilisateurs, pour en sortir une seule et unique note… Ce n’est pas pour rien que nous avons organisé ce débat à l’Assemblée nationale : c’est bien pour que les politiques se saisissent de cette question ! Le pragmatisme voudrait qu’on encadre le système de notation sociale alors que, sur le plan des principes, on pourrait être soit fondamentalement favorable soit fondamentalement défavorable.
Justement, sur le plan des principes, on peut se demander comment une personne peut « valoir » 20/100 ou 99,9/100 selon les jours et les « normes » en vigueur sur la plateforme ? Et qui sommes-nous pour juger les autres ?
C’est justement le problème de la notation sociale. On note la personne comme si elle était un « tout », de manière holistique. N’ayons pas peur des mots : avec la notation sociale, on quantifie la personne humaine. Et on le fait à l’aide de données de toutes natures et de sources très différentes (Facebook, Airbnb, etc.) qu’il est extrêmement difficile de hiérarchiser. C’est la raison pour laquelle il nous a semblé nécessaire de définir ce que l’on entend par « notation sociale », à savoir une « note conçue pour agglomérer une quantité non limitée de données dans une logique globale et non finalisée de quantification de la personne ». On agglomère toutes les données susceptibles de contribuer à évaluer la personne : des informations sur Twitter, son profil LinkedIn, ses connexions sur Airbnb, etc. Ces données sont agglomérées sans aucune finalité puisqu’il ne s’agit pas de noter une prestation précise, un travail ou un aspect spécifique d’une prestation, comme la propreté des chambres d’un hôtel ou l’humanité d’un médecin. Imaginons une banque qui exige une note de 75/100 pour octroyer un prêt. Or, l’emprunteur potentiel n’a obtenu que 74/100. Ce point manquant peut s’expliquer par le fait qu’il manque d’hygiène de vie et mange trop de burgers ou qu’il a laissé tomber sa petite amie il y a dix ans. Cela paraît totalement absurde !
« Au nom de quel principe doit-on décider d’interdire la notation sociale ? »
Et cela est d’autant plus absurde que la note de celui qui a les moyens de faire appel à une entreprise chargée de l’optimiser sera meilleure que celui qui subira de plein fouet la logique de la notation sociale. C’est donc un système discriminatoire ?
En effet, on pourrait considérer que la note sociale doit être interdite, car elle est contraire au principe de non-discrimination. C’était un argument important dans le cadre des plaidoiries. Nous aurions pu aussi mettre en avant le principe de protection de la vie privée qui a également été évoqué. Sauf que ce principe de protection de la vie privée consacre un droit relatif, qui cède devant d’autres droits fondamentaux, par exemple le droit à l’information du public ou la liberté d’expression.
Nous nous sommes donc posé la question : au nom de quel principe doit-on décider d’interdire la notation sociale ? Et nous avons choisi celui du respect de la dignité de la personne humaine, inscrit notamment à l’article premier de la Charte des droits fondamentaux de l’UE. Notre Constitution n’en fait pas mention, pas plus que la Déclaration des droits de l’homme et du citoyen. En revanche, le Conseil constitutionnel l’a déduit du préambule de la Constitution de la IVe République et en a fait un principe à valeur constitutionnelle.
La dignité (qui interdit notamment la torture) est un droit absolu parce qu’il touche à la personne. Nous avons considéré qu’il était indigne de dire qu’une personne valait 26/100 ou 52/100. Cela ressemble au jugement dernier, à la pesée des âmes dans l’Égypte ancienne. A-t-on envie d’un jugement dernier rendu par Google ?
Auriez-vous pu placer le débat sur le terrain du droit de propriété des données, donnant à chacun la possibilité d’interdire à la plateforme de notation d’utiliser telle ou telle donnée la concernant parce qu’elle en est propriétaire ?
Cette question « Suis-je propriétaire de mes données personnelles ? » a animé les juristes notamment lors des travaux relatifs à l’adoption du règlement général sur la protection des données (RGPD). Protéger les données personnelles d’un individu en utilisant le concept du droit de propriété pose plusieurs problèmes. Cela revient à considérer ces données comme des marchandises négociables. Or, entre un simple consommateur et les grands acteurs du numérique, le rapport de force est bien trop inégalitaire. Il y aurait un risque que l’utilisateur se retrouve contraint d’accepter la fourniture du service proposé en échange de la cession pure et simple de ses données personnelles, sans aucune marge de négociation. Il est bien plus intéressant de considérer les données personnelles comme étant attachées à la personne dont elles seraient en quelque sorte le prolongement.
C’est ce que nous avons fait dans notre décision en consacrant le principe d’autodétermination informationnelle. Ce principe avait été consacré par la Cour constitutionnelle allemande et il a été choisi comme approche pour les travaux sur le RGPD, mais les hautes juridictions françaises ne l’ont pas pour le moment consacré en tant que tel comme un principe supérieur. Lors du procès fictif, la cour a considéré que ce droit était une déclinaison spécifique du principe plus large de sauvegarde de la dignité de la personne humaine, et non pas, comme on pourrait l’imaginer, une déclinaison du droit au respect de la vie privée. Cette manière de procéder, qui était également celle choisie par la Cour constitutionnelle allemande, confère au droit à l’autodétermination informationnelle une force supplémentaire.
Le procès contre RankMyLife est le troisième après celui sur l’IA et la voiture autonome et celui sur le transhumanisme à être imaginé par l’association des Jurisnautes dont vous faites partie. Le but est-il d’interpeller le législateur sur ces questions fondamentales ?
L’association des Jurisnautes est née en 2016 de la rencontre de deux juristes amoureux de science-fiction, Françoise Barbier-Chassaing, qui est magistrate, et Gérard Haas, qui est avocat. Très vite, ils ont réuni autour d’eux une équipe de passionnés dont je fais partie. Nous sommes tous convaincus que nombre de thématiques traitées par la science-fiction renvoient davantage à la science qu’à la fiction. Les nouvelles d’Isaac Azimov sont-elles si futuristes que cela au regard des progrès fulgurants et exponentiels de l’IA ? Pas vraiment… Au fond, notre perspective est résolument humaniste : il s’agit d’interpeller les citoyens et les pouvoirs publics sur les modèles de société qui se profilent à l’horizon. Et le faire au travers d’un cas fictif, sous la forme d’un scénario qui donne lieu à un procès fictif, alliant le ludique à la rigueur juridique, est le moyen le plus sûr d’y aboutir. Si cette démarche engage les citoyens et politiques à réfléchir en amont à ces questions et aux difficultés qu’elles posent, alors, nous aurons gagné notre pari !
LIRE AUSSI : Voitures autonomes : vers un carambolage des responsabilités ?