ENTRETIEN. L’éducation et l’autorégulation sont les meilleurs remparts aux vidéos trafiquées à des fins de propagande et de désinformation, estime l’avocate Merav Griguer.
Taylor Swift dans des positions sexuellement suggestives, le pape François en doudoune blanche, Emmanuel Macron en éboueur dans les rues de Paris, Volodymyr Zelensky tenant un discours par lequel il annonce la capitulation de l’armée ukrainienne… Ces deepfakes ont récolté des millions de vues sur les réseaux sociaux. Les photos, vidéos ou voix modifiées grâce à l’intelligence artificielle se propagent au rythme du déploiement des outils « grand public » qui permettent de les créer. Or, en la matière, l’humour et la parodie côtoient les atteintes graves à la réputation et à la démocratie.
À la veille des Jeux olympiques de Paris et dans le contexte politique agité, ces trucages aux finalités diverses présentent des dangers inédits. À quoi s’apparentent-ils juridiquement ? Sur quels terrains juridiques peut-on attaquer leurs auteurs et diffuseurs ? Comment prévenir les manipulations de l’opinion ? Les réponses de Merav Griguer, avocate associée du cabinet Franklin, responsable du département data & cyber.
Le Point : Que vous inspire cette déferlante de deepfakes ?
Merav Griguer: Le deepfake, qui vient de l’expression deep learning (« apprentissage profond ») et de fake (« faux »), est le fruit d’une évolution technologique très sophistiquée. Reposant sur l’intelligence artificielle, cette technique vise à modifier l’image et la voix d’une personne sans que cette altération soit identifiable à l’œil nu. La guerre et la pornographie en sont les principaux leviers. Ces dernières années, le deepfake a connu un essor considérable à des fins politiques puisqu’il est utilisé comme un instrument de propagande. Je pense, par exemple, à ce journal télévisé fictif visant à promouvoir les intérêts du Parti communiste chinois. L’affaire Taylor Swift illustre l’essor des deepfakes dans l’industrie de la pornographie…
Dans le cas de Scarlett Johansson, l’objectif est plutôt commercial. L’année dernière, l’actrice avait accusé OpenAI et Sam Altman d’avoir créé une voix similaire à la sienne dans un spot publicitaire…
Ce qui est intéressant dans cette affaire, c’est que le spot publicitaire n’a pas utilisé la voix de l’actrice mais qu’il a cru pouvoir librement créer une voix qui s’inspire de celle de l’actrice. Quand une personne s’inspire significativement d’une œuvre, sans même la contrefaire, elle doit néanmoins s’assurer de l’accord de l’auteur et, le cas échéant, de ses ayants droit. Aussi, même si on n’a pas capté et utilisé la voix de Scarlett Johansson, la création d’une voix similaire à celle de l’actrice et son exploitation à des fins commerciales ont des conséquences juridiques.
En l’espèce, le directeur général d’OpenIA ne pourrait pas valablement prétendre qu’il s’agit d’une coïncidence car l’actrice avait été préalablement sollicitée par l’entreprise pour prêter sa voix à la publicité, ce qu’elle avait expressément refusé. Il s’agit donc d’une violation caractérisée des droits de l’actrice sur sa voix, usurpée, reproduite ou inspirée, mais, en toute hypothèse, destinée à créer la confusion dans l’esprit du public afin d’en tirer un avantage commercial évident.
D’ailleurs, Sam Altman s’est lui-même joué de cette confusion volontaire. Il a, dans un message publié le 14 mai dernier sur le réseau social X, fait ainsi référence au film Her, dans lequel Scarlett Johansson prête sa voix à l’ordinateur qui vit une histoire d’amour avec le personnage principal du film, interprété par Joaquin Phoenix. L’actrice serait donc parfaitement légitime à demander un dédommagement important.
Il est regrettable que le législateur n’ait pas choisi de faire figurer les deepfakes à caractère pornographique dans les infractions relatives aux agressions sexuelles. En effet, les victimes de ces deepfakes subissent un préjudice équivalent aux agressions sexuelles.
À quoi le deepfake s’apparente-t-il juridiquement ? Peut-on parler de contrefaçon ? D’atteinte au droit à l’image et à la vie privée ? D’usurpation d’identité ? D’appropriation illégale d’un attribut de la personnalité (s’agissant de la voix, par exemple) ? Etc.
Le fait d’altérer un contenu vidéo ou une photographie sans l’autorisation de son auteur peut être constitutif d’une contrefaçon, sauf si cette altération relève de la liberté d’expression ou de l’exception dite de parodie, comme la caricature. C’est le cas des deepfakes humoristiques et satiriques représentant le président Emmanuel Macron dans des postures incongrues et loufoques.
Le deepfake peut aussi constituer une atteinte au droit à l’image et à la voix, attributs de la personnalité, qui peut être sanctionnée, selon les cas de figure, civilement ou pénalement (articles 9 du Code civil et 226-1 du Code pénal). Plus généralement, cette technique caractérise une atteinte à la vie privée ou à l’intimité de la vie privée.
Le deepfake est, dans bon nombre de cas, constitutif d’une usurpation d’identité ou de l’usage de données identifiantes troublant la tranquillité d’une personne ou portant atteinte à son honneur ou à sa considération, une infraction punie d’un an d’emprisonnement et de 15 000 euros d’amende (article 226-4-1 du Code pénal). Il pourrait aussi constituer une tromperie à l’égard du consommateur qui aurait été abusé sur les vertus d’un produit ou d’un service promu via un deepfake (article L.441-1 du Code de la consommation).
En revanche, il est regrettable que le législateur n’ait pas choisi de faire figurer les deepfakes à caractère pornographique dans les infractions relatives aux agressions sexuelles. En effet, les victimes de ces deepfakes, à commencer par Taylor Swift, subissent un préjudice équivalent aux agressions sexuelles, par ces montages qui créent certes une réalité virtuelle mais une agression sexuelle réelle.
Cependant, le législateur a préféré créer, le 21 mai 2024, un délit spécifiquement dédié aux deepfakes, qui punit les montages voix ou image ainsi que les contenus sonores ou visuels générés par des traitements algorithmiques sans le consentement de la personne. Le caractère pornographique de ces contenus fait encourir une peine pouvant aller jusqu’à deux ans d’emprisonnement et 60 000 euros d’amende (articles 226-8 du Code pénal).
Ce bouclier juridique est-il suffisant et dissuasif ?
L’effectivité de ces peines et sanctions est relative en raison de la difficulté d’identifier les auteurs des deepfakes. Leur localisation est souvent dans des contrées judiciairement inaccessibles. De plus, à ce jour, aucune loi ne sanctionne spécifiquement l’usage des deepfakes à des fins de désinformation, et qui portent donc atteinte au droit du public à l’information. L’injure et la diffamation ne permettent pas de lutter efficacement contre ces nouveaux outils de propagande qui se déversent sur les réseaux sociaux. Or l’effet de ces deepfakes à usage politique peut être dévastateur, comme le traduit le climat social actuel. Le public le plus vulnérable, à savoir les mineurs, en est tout particulièrement affecté.
« Nous manquons cruellement d’une “smart justice” avec des voies de recours spécifiques et adaptées. »
La responsabilité des réseaux sociaux et des plateformes peut-elle être mise en cause ?
C’est l’éternelle question de la responsabilité des réseaux sociaux et des plateformes… Oui, la responsabilité du réseau social peut être mise en cause s’il ne retire pas promptement les contenus manifestement illicites qui lui seraient notifiés. Encore faut-il que les outils de notification permettent d’assurer l’effectivité de cette obligation, ce qui n’est pas toujours le cas. Les plateformes ont, en parallèle, déployé des systèmes de modération de plus en plus sophistiqués, lesquels demeurent à ce jour insuffisants à combattre la désinformation.
La justice est-elle équipée pour répondre aux dommages causés par les deepfakes ?
Hélas, non ! On ne s’est toujours pas donné les moyens d’avoir une justice efficace sur des sujets qui bouleversent la société et les individus dans leur quotidien. Nous manquons cruellement d’une « smart justice » avec des voies de recours spécifiques et adaptées assurant une plus grande célérité dans la réponse judiciaire et la protection des droits fondamentaux.
En attendant que la justice se perfectionne sur ces sujets complexes, quels conseils donneriez-vous aux potentielles victimes pour se protéger ou anticiper ces manipulations ?
Le législateur se penche sur ces sujets au niveau national et européen. L’AI Act, adopté par le Parlement européen en mars 2024, tend à réguler les développements et les usages des solutions d’intelligence artificielle. Il prévoit un certain nombre d’obligations de transparence à la charge des fournisseurs de ces solutions, ce qui est nécessaire mais pas suffisant.
Dans l’attente des travaux de régulation en la matière, l’éducation et l’autorégulation apparaissent comme les meilleurs remparts aux abus dans l’usage des IA et donc des deepfakes. Les avocats devraient se voir confier le devoir civique d’enseigner dans les écoles, collèges et lycées. L’État devrait investir dans des campagnes publicitaires sur les réseaux sociaux, à l’instar de celles pour la sécurité routière.
Les réseaux sociaux devraient accompagner leurs utilisateurs, et tout particulièrement les mineurs, pour un usage serein de leurs plateformes, par des animations percutantes les invitant à faire preuve de prudence et de vigilance dans les contenus qu’ils consultent. Il est urgent pour ces acteurs de mettre aussi leur créativité au service de la protection de la société et de la démocratie !