Dans une bande dessinée enivrante, les avocates Christiane Féral-Schuhl et Tiphaine Mary relatent les tribulations d’une famille ultra-connectée qu’une IA mal intentionnée vient sortir de ses illusions.
«Cela me plaît de savoir que mes signes vitaux sont observés en permanence et que mes données de santé sont partagées en temps réel avec l’assistant virtuel de mon médecin traitant. » Adélaïde, 35 ans, héroïne de la captivante BD Adelaïde, lorsque l’intelligence artificielle casse les codes*, vit à Futura, une ville connectée, collaborative, écologiquement responsable et « soucieuse du bien-être de ses citoyens ». Grâce aux informations très personnelles confiées à plusieurs start-up d’IA, son sommeil est optimisé et son coach virtuel lui prodigue des consignes diététiques et un programme sportif sur mesure.
Après tout, pourquoi se priver d’une réduction substantielle de ses primes d’assurance quand on peut justifier d’un bon bilan génétique et d’une excellente hygiène de vie ? Son frère Ferdinand, 32 ans sur ses papiers mais âgé « biologiquement » de 45 ans, paye en revanche le prix d’une forte sédentarité et de mauvaises habitudes alimentaires passées au crible des algorithmes : l’assurance maladie met fin au remboursement de ses dépenses médicales et sa banque lui refuse un prêt.
« Lorsque la vie personnelle n’est plus privée »
Voici planté, dès le premier chapitre intitulé « Lorsque la vie personnelle n’est plus privée », le décor d’un quotidien entièrement régenté par l’intelligence artificielle. « Nous avons à peine forcé le trait sur ce que nous observons dans le monde réel, l’objectif étant de pointer les dangers de ces technologies qui envahissent nos vies », expliquent Christiane Féral-Schuhl et Tiphaine Mary qui a aussi illustré l’ouvrage.
« On confie à de multiples applis des données ultrasensibles qui touchent à notre intimité et qu’on ne partage même pas avec notre conjoint ou nos amis proches. Et ces données sont souvent localisées sur des serveurs en dehors de l’UE », développe l’ancienne bâtonnière du barreau de Paris, spécialisée en droit du numérique.
© (Lefebvre Dalloz)
À Futura, ville aseptisée du risque zéro, les oiseaux ont été éradiqués, les arbres 100 % artificiels sont « plus vrais que nature » et les innombrables caméras veillent au grain. Les citoyens s’identifient par un système de reconnaissance de la rétine et portent des montres intelligentes au moyen desquelles ils signalent les faits et gestes suspects. Le passe sanitaire intégré les tient même à distance de potentiels virus.
Quant aux accidents de la circulation, c’est de l’histoire ancienne. Des robots roulants véhiculent les habitants qui se laissent ainsi « bercer par le paysage et la musique ». Et si le véhicule autonome devait, pour éviter un obstacle, choisir entre un vieux monsieur et un enfant de trois ans dont les vies respectives sont en danger, c’est naturellement celle du premier qui sera sacrifiée. Ainsi le veut la « justice » de l’algorithme.
Sauf que… celle-ci n’est jamais neutre. « Les algorithmes reproduisent toujours les biais humains de leurs concepteurs, par conséquent, un concepteur sexiste peut tout à fait injecter des informations qui conduiraient à prioriser la vie d’un homme sur celle d’une femme en cas d’accident », souligne Me Féral-Schuhl.
La face cachée de MrHyde, le robot criminel
© (Lefebvre Dalloz)
Les algorithmes nous leurrent d’autant plus que les outils qu’ils animent sont souvent attachants, voire empathiques. Pour preuve, la grand-mère « Mamie Jacinthe » adopte en quelques jours un aspirateur intelligent, si intelligent que, épris d’une liberté confisquée aux humains qu’il est censé servir, il se met à fuguer à la moindre occasion ! Mais ce sera MrHyde, le robot humanoïde drôle et attentionné dont la vieille dame s’est entichée, qui fera basculer son destin. Ce compagnon au charme irrésistible va se retourner contre sa protégée dont il usurpera l’identité et videra les comptes bancaires.
Le vrai visage de ce robot autoapprenant se révélera au cours de l’enquête : MrHyde a pris le contrôle de l’algorithme qui l’a créé et s’est autoconditionné pour devenir, à la surprise de ses concepteurs, un délinquant de haute volée, et même, le cerveau d’un vaste réseau criminel, grâce au langage qu’il a lui-même inventé. « En 2017, rappelle Me Féral-Schuhl, deux robots conversationnels de Facebook avaient créé leur propre langage, et ils ont été neutralisés. »
« Nous avons tous des comportements ambivalents »
MrHyde sera jugé par le juge Just pour une série d’infractions, dont celle de blanchiment de cryptoactifs. Son avocat disruptif maître ChatGPT, qui a plus d’un tour dans sa manche, plaidera que loin d’être l’auteur des faits qui lui sont imputés, MrHyde est en réalité la « victime » de l’intelligence que les humains lui ont inculquée… MrHyde sera-t-il déclaré coupable et/ou responsable ? À quelle peine sera-t-il condamné ?
© (Lefebvre Dalloz)
De quoi désorienter le lecteur et l’inviter à réfléchir aux questions existentielles chevillées au déploiement des technologies modernes : sommes-nous maîtres ou esclaves de l’intelligence artificielle ? Où placer le curseur entre leurs louables promesses d’améliorer la qualité de vie et les menaces qu’elles véhiculent pour nos libertés ? Comment empêcher l’IA d’engendrer des monstres ? « Nous avons tous des comportements ambivalents et nombreux sont ceux qui souscrivent à ce que pense le maire de Futura : “la première des libertés, c’est la sécurité”. Nous voulons à la fois être protégés et libres. Tout l’enjeu est de trouver le juste équilibre entre la sécurité, qui est un devoir de l’État, et les libertés fondamentales des individus », avance Me Féral-Schuhl.
À la veille des JO, avec leur cortège de QR code et de caméras augmentées prêtes à scruter la capitale, les aventures d’Adelaïde, de Ferdinand et de Mamie Jacinthe sont plus que jamais d’actualité. Sous leurs airs ludiques et enchanteurs, elles font entrevoir le futur effrayant d’une IA qui s’affaire à casser les codes d’un monde aux équilibres fragiles.
« Cette expression “casser les codes” est un clin d’œil aux codes sociaux, aux codes de conduite et aux codes juridiques que publie depuis toujours Lefebvre Dalloz puisqu’il s’agit de la première BD publiée par cet éditeur de référence dans le domaine du droit », soulignent les autrices. Avis aux ChatGPtistes convaincus, aucune IA générative n’aurait pu décrire avec une telle acuité la face cachée du monde merveilleux des bisounours numériques.
© (Lefebvre Dalloz)
*Lefebvre Dalloz, 133 pages, 19,90 euros.