VIDÉO (@Anne-Sophie Jahn). Est-il nécessaire de créer une « personne robot » avec des droits et des obligations ? À vous de juger et de voter !
Et si l’on rendait les robots responsables de leurs actes ? Cette question iconoclaste est au cœur d’une résolution adoptée par le Parlement européen le 16 février 2017, invitant la Commission à définir un cadre éthique et juridique pour la robotique civile. Les eurodéputés partent du constat selon lequel « la nouvelle génération de robots est équipée de capacités d’adaptation et d’apprentissage qui entraînent une certaine part d’imprévisibilité dans leur comportement ». Or, plus ces machines seront autonomes, plus elles échapperont au contrôle du fabricant, de l’utilisateur, de l’opérateur, etc., et moins les responsables des dommages causés par ces machines seront identifiables. D’où l’importance de les doter d’une « boîte noire » et d’une immatriculation, mais aussi, face aux lacunes du droit en vigueur, d’établir des normes visant à assurer la sécurité et le respect de la vie privée des utilisateurs.
Part d’imprévisibilité dans le comportement des robots
Les questions éthiques véhiculées par ces machines censées cohabiter avec nous sont tout aussi vitales. Lequel, du piéton qui traverse ou du passager de la voiture autonome, doit être sauvé si celle-ci est placée devant le choix de sacrifier l’un des deux ? Peut-on imposer à une personne âgée d’être prise en charge par un robot ? Faut-il poser des limites à l’emprise émotionnelle des robots ? Etc.
Seules références « normatives » en la matière, les « lois de la robotique » imaginées par l’écrivain de science-fiction Isaac Azimov en 1942, pourraient, selon les eurodéputés, s’appliquer aux « concepteurs, fabricants et opérateurs de robots ». Que prévoient-elles ? Qu’un robot ne peut porter atteinte à un être humain ni permettre, en restant passif, qu’un être humain soit exposé au danger (première loi). Qu’un robot doit obéir aux ordres que lui donne un être humain, sauf si ces ordres entrent en conflit avec la première loi (deuxième loi). Qu’un robot doit protéger son existence tant que cette protection n’entre en conflit ni avec la première ni avec la seconde loi (troisième loi). Enfin, qu’un robot ne peut par son action mettre l’humanité en danger, ni, restant passif, laisser l’humanité en danger (loi zéro, rajoutée plus tard, prioritaire sur les trois autres).
« Personnes électroniques »
En effet, c’est bien dans ce rapport fragile de domination servile homme-machine, hanté par le mythe du Golem et les mises en garde apocalyptiques de Stephen Hawking contre les dangers de l’intelligence artificielle, que réside le défi majeur de la révolution robotique.
D’où l’urgence de définir des « principes éthiques fondamentaux à respecter lors de la conception, de la programmation et de l’utilisation de robots et d’intelligences artificielles ». Les parlementaires envisagent même, à terme, de considérer les robots autonomes les plus sophistiqués comme des « personnes électroniques responsables » dotées d’un numéro d’immatriculation, d’un système d’assurance obligatoire et d’un capital visant à garantir le dédommagement total des victimes.
Peut-on concevoir que ces machines, aussi attachantes et autonomes soient-elles, puissent devenir comme les êtres humains des sujets de droit ? Doit-on, comme au Japon, leur reconnaître une âme ?