Quel cadre juridique pour des robots toujours plus nombreux et autonomes ? Quelles responsabilités ? Éléments de réponse avec l’experte Nathalie Nevejans.
La création d’une personnalité juridique pour les robots est-elle une bonne idée ? Non, car cela conduirait à déresponsabiliser les fabricants de ces machines intelligentes, estime Nathalie Nevejans, maître de conférences en droit à l’université d’Artois, auteur du Traité de droit et d’éthique de la robotique civile. D’autant, explique-t-elle, que notre droit est suffisamment riche pour y trouver réponse à tout. Entretien.
Le Point : Les eurodéputés, dans une résolution du 16 février 2017, proposent de créer une « personne robot » responsable de ses actes. Qu’en pensez-vous ?
Nathalie Nevejans : La résolution européenne évoque en effet la mise en place d’une personnalité juridique spécifique pour les robots autonomes les plus sophistiqués, qui seraient alors considérés comme des personnes électroniques. Je ne partage pas ce point de vue pour deux raisons. Tout d’abord, une telle solution risquerait de déresponsabiliser le fabricant du robot à chaque fois que celui-ci cause un dommage. Il ne serait plus tenu d’indemniser lui-même les victimes. Ensuite, ce serait envoyer un signal fort d’un changement de paradigme, puisque le robot passerait d’un statut d’outil – dont l’homme dispose librement – à celui d’acteur juridique. D’une manière générale, je trouve que le fait de s’attarder sur la personnalité juridique du robot risque de nous faire passer à côté des grandes problématiques…
Les robots les plus évolués sont maintenant capables de prendre des décisions tout seuls, parfois imprévisibles… Dans ce cas, qui portera la responsabilité d’une décision dommageable ?
Il me paraît important de rappeler qu’en robotique, la notion d’imprévisibilité est très relative. Un robot « matériel » n’est techniquement pas en mesure de prendre des décisions « imprévisibles », c’est-à-dire en rupture avec celles proposées dans la liste des choix figurant dans son programme. Ainsi, un robot chargé de délivrer des médicaments une fois par jour peut se tromper et le faire toutes les heures, mais il ne pourrait pas par exemple tuer le patient en lui donnant délibérément une dose mortelle. Il est inconcevable, en l’état actuel de la technique, sauf à être piraté, qu’un robot puisse avoir une conduite ou une réaction sans rapport avec sa tâche.
Il n’est donc pas anormal de faire supporter la responsabilité de telles « erreurs » au fabricant ou à l’utilisateur qui aurait fait un mauvais usage du robot ?
En effet, et d’ailleurs la responsabilité en robotique se résout d’ores et déjà à l’aide de nos règles de droit. Alors, appliquons-les ! Si le robot cause un dommage en raison d’un défaut (par exemple, un défaut du système de détection d’un robot cuisinier qui, en coupant des carottes en rondelles, viendrait à trancher le doigt d’une personne) on peut lui appliquer la responsabilité du fait des produits défectueux. Le fabricant doit être déclaré responsable du dommage, sauf s’il a pris soin d’indiquer qu’il ne fallait pas utiliser le robot de telle ou telle manière pour éviter de se blesser. Si, en revanche, le robot cause un dommage alors qu’il ne présente aucun défaut, il faudrait alors faire peser la responsabilité sur son utilisateur, en application de la responsabilité du fait des choses. Par exemple, un robot tondeuse qui irait blesser le chien du voisin, en dehors de tout défaut du robot.
Certains préconisent de calquer la responsabilité des robots sur celle du fait des animaux, qu’en pensez-vous ?
C’est aussi mon avis. Cette solution permet d’ailleurs de répondre à la problématique plus complexe de la responsabilité des robots autonomes. Un robot autonome n’est pas une machine qui est dotée d’une intelligence au sens humain ou d’une conscience, mais est capable d’agir, de se déplacer, voire de décider en dehors de toute intervention humaine. Un robot aspirateur est un robot autonome, par exemple. Toutefois, en poussant au maximum cette autonomie, surtout dans un contexte où le robot serait capable d’auto-apprentissage, il deviendrait plus difficile de déterminer l’auteur du dommage. On pourrait donc dans ce cas calquer la responsabilité du robot sur celle du fait des animaux. Si un chien échappe au contrôle de son maître et mord quelqu’un, le droit considère que son propriétaire est responsable des dommages causés par son animal. Si l’on adapte cela au robot autonome, on pourrait alors dire que s’il échappe au contrôle de son utilisateur, ce dernier serait responsable ses dommages causés. Cette solution aurait le mérite d’être simple.
L’autre piste serait de transposer aux robots le modèle de la loi sur les accidents de la circulation ?
Tout à fait. Ainsi, dès lors que le robot autonome de l’utilisateur serait impliqué dans un accident, ce dernier serait automatiquement responsable. Une assurance spécifique devrait alors être mise en place pour couvrir ces dommages. Cependant, je pense que cette assurance ne devrait pas être imposée pour tous les robots ni même pour tous les robots autonomes. Tout dépendrait de leur dangerosité.
Il est néanmoins permis de craindre que la robotique ne conduise à une dilution de la responsabilité. Quelles en seraient les conséquences à long terme pour le financement des risques ? On ne peut pas mettre une telle charge sur le dos de la société !
Ce n’est pas la robotique en elle-même qui va complexifier la question, mais surtout la combinaison entre la robotique, l’intelligence artificielle, le big data et les technologies telles que la blockchain. Dans ce cas, à long terme, la question de la responsabilité pourrait devenir vraiment plus épineuse, car il faudrait revoir notre façon de penser. Quant à savoir qui paierait, c’est l’éternelle question lorsqu’un nouveau progrès/risque apparaît !
Le droit de la robotique sera chevillé aux questions éthiques liées à la « cohabitation » de ces machines avec les humains. Confondre la machine avec un humain, y projeter des affects, cela est problématique non ?
Déjà, il faut savoir que les Occidentaux ont plus de difficultés à interagir avec une machine que les Extrême-orientaux, puisque culturellement, en écho au mythe du Golem, nous tendons à nous méfier de la Créature. Or, les robots offrent parfois des services extraordinaires aux personnes. Par exemple, la robotique humanoïde apporte une aide précieuse pour les soins aux enfants atteints de troubles autistiques. Pour lutter contre notre aversion naturelle, les chercheurs ont joué sur nos émotions pour rendre certains robots plus acceptables et faciliter les interactions homme-robot. D’adorables bébés phoques robotisés sont facilement acceptés par les personnes âgées. De petits robots humanoïdes qui rappellent les petits enfants inspirent également davantage confiance. Il est vrai qu’un certain nombre de robots sont destinés à inspirer de l’empathie à l’homme, et le psychiatre français Serge Tisseron en a pointé les dangers, notamment celui de la « robot dépendance ». L’empathie artificielle fait courir le risque que l’homme développe avec le robot des liens tels qu’il puisse ne plus s’intéresser aux rapports humains. Il est essentiel de garder à l’esprit que la machine ne ressent rien, même si ses paroles ou ses gestes disent le contraire.
Des personnes sont déjà tombées amoureuses de leur robot et la presse rapporte qu’en Chine, un homme a épousé son robot… Comment éviter de brouiller les frontières entre l’homme et la machine ?
Il me semble indispensable que le législateur intervienne pour fixer un socle fort de principes éthiques en robotique. Car au-delà de ce problème d’empathie artificielle, l’homme est face à d’autres risques : la perte de sa liberté face au robot, la surveillance de ses faits et gestes par sa propre machine, son isolement social, ou encore, la question de la fusion de l’homme et de la machine. La société se trouve dans une période charnière où elle doit s’interroger sur son devenir. Les choix d’aujourd’hui poseront les bases du monde de demain et il sera très difficile de revenir en arrière. Si nous ne voulons pas vivre dans un monde déshumanisé, nous devons instaurer des règles pour contenir les dérives afin de ne retenir que les bienfaits apportés par la robotique, à l’image des prothèses bioniques qui révolutionnent la vie des personnes handicapées.
VOIR aussi VIDÉO : Au tribunal de l’internet # 61 ! Faut-il un droit pour les robots ?