La résurrection numérique de personnalités par clonage vocal à l’aide de l’intelligence artificielle peut porter atteinte à leur mémoire, mais aussi à la mémoire collective.
Une idée originale pour l’anniversaire de votre fiancée ? Lui adresser un message vocal avec la voix d’Elvis Presley. Quelques clics suffisent pour cloner cette voix à votre texte de vœux. La recette est simple : se rendre sur un site proposant un outil de clonage vocal, télécharger un extrait sonore d’environ soixante secondes ou choisir une voix parmi celles du répertoire de la plateforme, puis, entrer un texte pour le synchroniser à la voix, et télécharger le contenu vocal.
Les usages de voix clonées grâce à l’IA sont multiples. ElevenLabs, l’un des principaux acteurs du marché de la génération de voix, propose, sur son application Reader, de convertir fichiers PDF, documents et livres audio en contenus oraux dits par des voix de stars hollywoodiennes décédées telles que Judy Garland, James Dean ou Burt Reynolds. Ces répliques numériques sont réalisées, selon la plateforme, avec l’accord de leurs héritiers.
Le consentement préalable des intéressés ou de leurs ayants droit est devenu une obligation légale en Californie, premier État dans lequel la protection des droits des acteurs et autres artistes face aux technologies de clonage marque une avancée majeure. Le 17 septembre, le gouverneur Gavin Newsom signait deux textes de loi interdisant l’exploitation non autorisée de leur image et de leur voix, tant durant leur vivant qu’après leur décès. Ces lois étaient réclamées de longue date par le syndicat américain Screen Actors Guild-American Federation of Television and Radio Artists (SAG-Aftra). « C’est un excellent signal venant de Californie, pionnière de l’industrie du cinéma, souligne Me Jonathan Elkaim, avocat en contentieux de la propriété intellectuelle. Ce nouveau cadre légal envoie un message clair : si l’on veut se préserver contre tout usage illicite après sa mort, qu’il le dise de son vivant, ce sera comme une sorte de testament. »
Escroqueries utilisant l’image et la voix
En effet, le clonage des voix peut servir des objectifs malveillants. Ces deepfakes (hypertrucages) peuvent faire tenir aux personnes des propos improbables ou choquants, et même véhiculer des escroqueries. Fin août, une fausse publicité utilisant l’image et la voix d’Alain Delon, publiée deux semaines après sa mort et visionnée massivement sur les réseaux sociaux, a tenté d’attirer les internautes vers un « casino en ligne ». Le faux acteur s’engageait à « distribuer une partie de son argent aux Français », invités à télécharger une fausse application (« Casino Delon »). L’objectif ? Dérober leurs données personnelles et leurs coordonnées bancaires.
Que faire face à ce type d’arnaque ? « La signaler à la plateforme concernée pour qu’elle retire le contenu illicite. Cette obligation de retrait est inscrite dans la LCEN [loi sur l’économie numérique, NDLR] depuis 2004. Et c’est même, depuis le DSA [Digital Service Act européen], une obligation des plateformes que de proposer aux internautes un outil leur permettant de signaler facilement les contenus illicites et de les retirer, souligne Claire Poirson, avocate associée du cabinet Firsh. Les conditions d’utilisation des plateformes interdisent souvent les publicités trompeuses utilisant les images et les voix de personnalités publiques. Pour respecter la loi, et préserver la confiance de leurs usagers comme leur réputation, les grandes plateformes comme Meta et YouTube commencent d’ailleurs à développer des outils de détection de l’IA dite malveillante ainsi que des systèmes d’authentification des vidéos générées sur leur plateforme. »
Reste que les auteurs n’ont pas disparu pour autant et poursuivent leurs arnaques sur d’autres sites. « Il est donc important de conserver les preuves, par constat d’huissier, avant de déposer plainte contre X s’il s’agit de personnes non identifiables, et dans le cas contraire, on peut demander à la justice, par une action en référé, d’ordonner à la plateforme concernée de lever leur anonymat en vue d’engager une action pénale », conseille Me Poirson.
Jusqu’à deux ans de prison encourus
Les deepfakes figurent, depuis mai 2024, dans le Code pénal. Son article 226-8 punit tout montage réalisé avec des paroles ou des images d’une personne sans son consentement, et s’il n’apparaît pas de façon évidente ou s’il n’est pas fait mention qu’il s’agit d’un montage. L’auteur du deepfake encourt une peine d’un an de prison et de 15 000 euros d’amende, qui peut aller jusqu’à deux ans de prison et 45 000 euros si le deepfake a été exploité dans le cadre d’un service de communication en ligne (Facebook par exemple).
« On peut faire un parallèle entre le fait d’exploiter un attribut de la personnalité, en l’occurrence la voix d’un comédien, sans préciser aux auditeurs qu’il s’agit d’un trucage, et le parasitisme qui est le fait de s’approprier les investissements intellectuels d’une personne sans bourse délier », commente Me Elkaim. « L’atteinte consisterait finalement à s’approprier cette voix sans contrepartie financière ni autorisation, afin d’en tirer profit et laisser croire aux auditeurs que l’on disposerait du concours de cet acteur », complète l’avocat.
Atteinte à la mémoire des morts
En droit civil, en revanche, les héritiers du défunt ne sont pas admis à agir en cas de diffusion d’un extrait vocal sans leur autorisation, et cela, même en cas d’utilisation commerciale de ce contenu. Car l’atteinte à la vie privée des défunts n’existe pas. « Si l’image et la voix d’une personne sont protégées durant son vivant, la jurisprudence estime que la vie privée d’une personne décédée s’éteint en même temps que sa vie sur terre, en application du principe “d’intransmissibilité” des droits de la personnalité », précise Me Elkaim.
Par exception à cette règle, « la jurisprudence estime que la diffusion d’un attribut de la personnalité d’une personne décédée peut causer un préjudice moral à ses ayants droit, lequel est indemnisable, poursuit-il. Mais pour être qualifié en tant que tel, il convient d’apporter la preuve d’un préjudice personnel établi sur la base d’une atteinte à la mémoire ou au respect dû au mort. Il faut, selon la jurisprudence, démontrer une volonté caractérisée “d’exhibition, d’impudeur, d’indécence, de morbidité ou de recherche de sensationnel”. » Le fondement juridique est, dans ce cas, la responsabilité civile de l’article 1240 du Code civil.
Mais, comment différencier le caractère humoristique ou parodique, qui relève de la liberté d’expression, de ce qui ne l’est pas ? « Si l’on fait tenir à des célébrités des propos sanctionnés par la loi, parce qu’ils sont diffamatoires, racistes, homophobes ou constitutifs d’une incitation à la haine, on tombe dans l’atteinte au respect de leur mémoire. Faire lire Mein Kampf à John Wayne pourrait logiquement s’apparenter à une insulte à sa mémoire », développe Me Elkaim.
Éthique et contre-vérités
En deçà de la ligne rouge des transgressions manifestes, où placer le curseur de ce qui est « juste » ou éthiquement correct ? A-t-on le droit de reproduire la voix d’une personne en la customisant dans un contexte inédit ? Peut-on recréer des voix célèbres en les détournant de leur ADN ? Imaginez Édith Piaf faisant la promotion d’un rouge à lèvres ; cela n’entache-t-il pas, d’une certaine façon, sa renommée ? « Le deepfake vocal permet de faire dire n’importe quoi par n’importe qui, et face au développement massif de ces outils, outre la mise en place de sanctions adaptées, il me paraît essentiel d’éduquer la population et de l’informer du caractère artificiel, voire délétère, de ces systèmes d’IA, alerte Laurence Devillers, professeur en intelligence artificielle à la Sorbonne/CRNS et autrice du livre Les Robots émotionnels (Éd. de l’Observatoire). La frontière à ne pas dépasser, c’est l’atteinte à la dignité de la personne dont la voix a été clonée. »
Reste la problématique éthique liée à l’exploitation numérique des voix de célébrités défuntes. Ces deepfakes, grâce auxquelles la voix d’une personne peut être plaquée sur le visage d’une autre ou servir de voix off pour toutes sortes de contenus audio, sont aussi de nature à abîmer la mémoire collective. « Si l’on fait dire à Einstein des paroles qu’il n’a jamais dites, on peut se retrouver dans l’atteinte à la vérité historique. Les approximations multiples mises dans la bouche de grands experts peuvent engendrer des grandes contre-vérités. Si de façon massive et insidieuse on relaie des propos erronés, on modifie l’histoire, fait observer Laurence Devillers. Il faudrait se doter d’un observatoire de ces pratiques, avec une compréhension de ces systèmes d’IA et de leurs incidences. La parole humaine, c’est notre culture, c’est notre histoire. »
À LIRE AUSSI : Clonage des voix des comédiens doubleurs : que dit le droit ?