ENTRETIEN. Les géants du Web désormais responsables des actes liés aux contenus qu’ils recommandent ? C’est l’enjeu de l’audience de ce mardi aux États-Unis, explique l’avocat Dan Shefet.
C’est une question inédite qui sera soumise, mardi 21 février, à la sagacité des juges de la Cour suprême américaine : l’article 230 C du « Communications Decency Act » (CDA), qui confère une immunité juridique aux réseaux sociaux, les protège-t-il aussi lorsque les contenus proposés l’ont été à l’aide d’algorithmes de ciblage ?
En cause, l’assignation des héritiers de Nohemi Gonzalez, victime américaine des attentats du 13 novembre 2015. Ils réclament des dommages et intérêts à Google au motif que YouTube recommandait essentiellement des vidéos du groupe État islamique à certains utilisateurs par le biais de ses algorithmes. Ces vidéos de propagande terroriste auraient ainsi permis de recruter et de radicaliser des combattants, responsables des actes ayant causé la mort de la jeune femme.
« YouTube fournit un outil de communication unique et puissant qui permet à Isis [Islamic State of Iraq and the Levant, État islamique en français, NDLR] d’atteindre [ses] objectifs […] », argumentent les plaignants. Pis, affirment-ils, Google a « approuvé les vidéos de l’organisation terroriste […] en vue de leur monétisation […] par le placement d’annonces sur ces vidéos, acceptant ainsi de partager les revenus avec Isis et les utilisateurs affiliés » à l’organisation terroriste.
En 2021, la cour d’appel californienne du « Neuvième circuit » a jugé les plaintes irrecevables en raison de l’immunité que les plateformes tiennent de l’article 230 C du CDA de 1996. Ce texte, très contesté, qui a suscité plusieurs débats au Congrès, protège les médias sociaux contre toutes procédures portant sur la diffusion de contenus illicites.
Algorithmes de ciblage
Le combat des plaignants n’est pas vain pour autant. L’affaire a été portée devant la Cour suprême fédérale qui va être amenée à interpréter l’article 230 C dans le contexte des dernières évolutions technologiques. Les plaignants estiment que ce texte, conçu pour empêcher les plateformes d’endosser une responsabilité liée à l’hébergement de contenus tiers, ne s’applique pas aux cas dans lesquels ces mêmes plateformes utilisent des algorithmes de ciblage pour recommander aux internautes des contenus préjudiciables.
Autant dire que l’audience, historique, de ce 21 février, où se retrouveront les ONG les plus influentes sur la question de la liberté d’expression et les plus grands cabinets d’avocats américains – environ 80 intervenants – porte des enjeux juridiques majeurs.
Une décision en défaveur de Google pourrait avoir des effets dévastateurs sur le modèle économique des géants du Web, fait observer l’avocat Dan Shefet, membre de Coalition for a Safer Web, auteur d’un rapport de l’Unesco sur les droits humains et la radicalisation sur Internet.
Le Point : Votre combat porte depuis longtemps sur les contenus haineux et les fausses informations. Qu’attendez-vous de l’audience de la Cour suprême des États-Unis qui va examiner l’article 230 C du « Communications Decency Act » (CDA), pierre angulaire de l’immunité des plateformes ?
Dan Shefet : Il n’est plus concevable, à notre époque, avec les drames que nous avons connus, de s’interroger sur la responsabilité des réseaux sociaux qui véhiculent les contenus haineux. La Coalition for a Safer Web (CSW), dont je fais partie, mène ce combat depuis des années. Son rôle est de mettre en garde Twitter, Facebook et YouTube contre les images et contenus qui ont pu déclencher des attaques contre des minorités sur les réseaux sociaux.
Le vice-président de CSW, Eric Feinberg, a développé des algorithmes en différentes langues pour détecter des contenus illicites. Cette veille oriente le projecteur sur le nombre inimaginable de contenus de radicalisation et antisémites, et nous engageons à chaque fois des actions auprès des plateformes pour faire cesser leur diffusion.
À LIRE AUSSI : Haine sur Internet : à qui profite-t-elle (vraiment) ?
Et pourtant, la Cour de San Francisco a rejeté la plainte du père de Nohemi Gonzalez, victime des attentats du 13 Novembre à Paris…
La juridiction a considéré que l’article 230 C protégeait YouTube de toute responsabilité pour les vidéos produites par des tiers, et que le partage des revenus s’inscrivait dans le cours normal des affaires et ne visait pas à soutenir un groupe ou une idéologie spécifique. Jusqu’à présent, les plateformes ont toujours obtenu gain de cause sur le fondement de ce que j’appelle « la Bible des médias sociaux », cette loi fédérale de 1996 – Section 230 of the Communications Decency Act – qui confère une immunité absolue aux plateformes.
C’est précisément cet article 230 C qui va être soumis à l’interprétation de la Cour suprême ce 21 février ?
Oui. Il lui est demandé si l’article confère une immunité aux médias sociaux lorsqu’ils utilisent un système de recommandations ciblé. Je m’explique : aujourd’hui, les médias sociaux et moteurs de recherche ont développé, à l’aide de l’intelligence artificielle, des systèmes de ciblage ou de recommandations, qui n’existaient pas en 1996 lorsque la loi a été votée.
La question posée à la Cour suprême est la suivante : que prévoit la loi concernant les informations ciblées ? Cette question est d’autant plus cruciale que le ciblage a un impact direct sur le modèle économique des plateformes, en leur permettant d’attirer des annonceurs et de générer des revenus publicitaires colossaux.
À LIRE AUSSI : Haine sur Internet : les lois françaises et européennes privées d’effet ?
Les plateformes se retranchent-elles derrière la liberté d’expression pour prétendre que l’article 230 C serait contraire au premier amendement de la Constitution ?
Bien sûr, mais cet argument est fallacieux puisque le premier amendement interdit à l’État – et non aux sociétés privées – de limiter la liberté d’expression. De plus, ce n’est pas la question posée puisqu’il ne s’agit pas de limiter l’expression, autrement dit, le contenu déjà illicite, mais de contrôler les effets préjudiciables du ciblage.
Quels sont les conséquences prévisibles de cette affaire ?
Les enjeux sont colossaux ! Car si la justice tranche en faveur d’une responsabilisation des réseaux sociaux, une plateforme pourrait être poursuivie en justice si des personnes sont victimes de violences ou en viennent à se suicider à la suite de la diffusion de contenus ciblés.
Les plateformes devront donc, juridiquement, mettre en place un système de modération efficace, ce qu’elles font déjà volontairement. Elles devront surtout vérifier que lorsqu’elles utilisent un système de ciblage, celui-ci ne risque pas de provoquer des actes de violence contre soi ou contre des tiers.
Les grandes sociétés investissent actuellement des milliards pour développer des Chatbot comme ChatGPT basés sur l’intelligence artificielle (IA). Si la Cour suprême venait à responsabiliser les plateformes, et qu’à l’aide de ce type d’outil, en faisant une recherche sur la radicalisation, un internaute obtenait des vidéos et des contenus radicalisant – qui ne seraient le résultat que d’une « interprétation » de l’IA –, il s’agirait alors d’un ciblage susceptible d’engager la responsabilité de la plateforme si ces informations menaient à des actes de violence.
Cette responsabilité pourrait aussi s’appliquer à des fausses nouvelles incitant à la violence imminente dans la mesure où elles seraient diffusées de façon ciblée par l’algorithme.
À LIRE AUSSI : Internet : de l’utopie au cauchemar