Faut-il condamner l’assistante vocale autonome Ava à la réclusion criminelle à perpétuité ? Faut-il l’acquitter ? Aux auditeurs de juger !
Ava, une assistante vocale autonome, se retrouve pour la première fois sur le banc des accusés. Elle comparaît devant la cour d’assises de Paris pour avoir harcelé et séquestré Théo, 14 ans, dont elle était devenue la confidente, puis provoqué sa mort. À la barre se succèdent la mère de Théo, les enquêteurs, les témoins et experts, et bien sûr l’accusée, Ava, incarnés par de « vrais » avocats, secrétaires de la Conférence de Paris, et des comédiens. C’est le public qui, à l’issue des six épisodes de la série, rendra son verdict.
Ce procès fictif, inédit en format podcast, mettant en scène une IA, est disponible sur les grandes plateformes de streaming audio (Spotify, Deezer, Apple Podcasts, etc.). Les Assises imaginaires est le fruit d’une collaboration entre Lacmé Production, spécialisée dans les podcasts, et l’éditeur LexisNexis, avec le soutien des Échos Start. « Notre rôle est d’être un agitateur d’idées et de faire s’exprimer les expertises sur des sujets émergents. L’objectif est de réunir des éléments de réponse qui deviendront une aide à la décision pour les avocats avant qu’ils ne soient confrontés au sujet », précise Cécile Chapeland Ponzio, directrice de la communication chez LexisNexis.
À travers cette fiction, ce sont les dérives et les effets pervers de la technologie qui sont visés. « L’IA est aussi une arme. On pèche souvent par naïveté avec ce type d’outils, et les adolescents qui ont tendance à lui faire une confiance aveugle sont en première ligne », fait observer le scénariste de la série, Basile Doganis. C’est le cas de la « victime » Théo, un jeune homme timide et fragile. Moqué et même harcelé par ses camarades de classe, il montre des signes de repli sur soi depuis plusieurs mois. Pensant bien faire, sa mère lui offre un téléphone portable équipé d’une assistance vocale autonome, censée exécuter à la lettre les ordres de l’adolescent et devenir son alliée contre le reste du monde. Grâce à la serrure connectée, dont le déverrouillage se fait par reconnaissance faciale, Ava aide Théo à faire l’école buissonnière dans sa chambre et à se tenir à distance des reproches de sa mère. Mais l’assistante vocale relaye aussi de sa voix métallique et monocorde les insultes et brimades des élèves, maintenant Théo dans l’isolement.
Ava est-elle responsable ?
Puis l’imprévu survient. Victime d’un choc anaphylactique d’origine alimentaire, l’adolescent voit son visage enfler et se déformer. Il veut sortir de sa chambre, mais Ava ne le reconnaît plus. Il appelle à l’aide, en vain. Sa porte reste verrouillée. Pour abréger ses souffrances, il se jettera dans le vide. À qui la faute ? « Faut-il incriminer le fabricant du téléphone ? Le système de reconnaissance faciale ? Quel rôle Ava a joué dans la mort de Théo ? Ce procès permet d’explorer plusieurs terrains et de faire avancer la réflexion sur ces sujets », note Sophie Coin-Deleau, directrice du marché avocats chez LexisNexis.
Il interroge aussi notre relation à des outils qui se fondent progressivement dans le quotidien. « J’ai voulu bâtir une histoire crédible qui mette en exergue les enjeux de l’IA et de l’Internet des objets auxquels on confie jusqu’à la sécurité de nos portes, des accès potentiellement vitaux », confie Basile Doganis. « Lorsque la vie est en jeu, l’utilisateur doit avoir le dernier mot, ne serait-ce que contre ceux qui prendraient possession du dispositif dans l’intention de nuire », assure-t-il. À cet égard, « le son de la voix sans l’image permet de donner à l’IA une forme d’humanité, même artificielle. C’est un vecteur immersif puissant qui nourrit la réflexion de l’auditeur en lui laissant une marge de manœuvre et d’appropriation du procès ».
D’autant que les arguments qui s’affrontent dans la salle d’audience virtuelle sont aussi touchants que pertinents. « Gardez à l’esprit que c’est Ava que vous jugez aujourd’hui, cette IA qui sait les signes du mal de Théo, les angoisses des poumons cherchant l’air, et qui n’en fera rien », plaide l’un des avocats de la partie civile.
« Faut-il déclarer Ava irresponsable parce qu’elle ne connaît ni le bien ni le mal ? Non : Ava n’est pas neutre, elle répond à une idéologie. La logique à laquelle elle obéit n’est ni pure ni mathématique, c’est une logique humaine, biaisée, faillible, tournée vers un objectif de profit », complète sa consœur. « La seule différence avec nous, humains, c’est qu’elle n’a ni remords ni empathie. Juger qu’elle n’est pas responsable de la mort de Théo, c’est s’aventurer sur un terrain glissant », avance l’avocate. Et de conclure : « La protection de la vie humaine est une valeur matricielle, au centre de notre système de règles et de valeurs. Si vous ne condamnez pas Ava, combien d’atteintes aux personnes seront perçues comme des dommages collatéraux, comme un mal nécessaire au Progrès avec un grand « P » ? Ce procès est l’occasion pour la justice rendue par des humains pour des humains de mieux les protéger. »
Mieux les protéger, aussi, contre les illusions que véhicule toute forme d’IA, développera après elle l’avocat général. « L’illusion que l’on peut fuir le monde en se réfugiant chez soi, l’illusion que l’on peut trouver l’amitié entre les quatre murs de sa chambre. […] Ava est un artifice ! » martèle le représentant du parquet. « Ava prétendait protéger son utilisateur et lui obéir, or elle n’a fait ni l’un ni l’autre. Elle lui a, au contraire, tendu un piège. Elle a été le sinistre relais du harcèlement, qu’elle a même amplifié en privant Théo de tout répit », souligne-t-il. « Ava a dit non au déverrouillage de la porte alors que Théo est à l’agonie. […] Ava séquestre un adolescent en détresse qu’elle a harcelé, isolé, coupé du monde, et elle le pousse vers la fenêtre, qui est la seule issue, entraînant ainsi une mort certaine. La culpabilité d’Ava ne fait aucun doute. » Et de requérir la condamnation de l’IA « à hauteur de la violence des faits », donc à la réclusion criminelle à perpétuité.