ENTRETIEN. L’IA peut contribuer à réduire les inégalités et à relever le défi climatique, assure Laurent Félix, le directeur général France d’Ekimetrics.
Intrusifs, sexistes, discriminants… Les dérives éthiques des systèmes basés sur l’intelligence artificielle (IA) sont de plus en plus pointées du doigt. Des réseaux sociaux au monde du travail en passant par la justice, les algorithmes enracinent les préjugés et stéréotypes, et génèrent erreurs et inégalités, met en garde un récent rapport du Défenseur des droits sur les technologies biométriques et le respect des droits fondamentaux. « Une technologie de reconnaissance des émotions dans le cadre d’une procédure de recrutement peut déterminer à tort qu’un candidat est “nerveux” et lui assigner une note lui retirant toute chance d’être embauché. Un dispositif d’authentification par reconnaissance vocale déployé pour contrôler l’accès à un compte bancaire en ligne peut commettre une erreur dans la vérification de l’identité de la personne », détaille-t-il.
L’IA peut aussi favoriser l’édification de sociétés justes. Promouvoir une IA éthique, fondée sur le bien-être de l’humanité, est au cœur d’une recommandation historique adoptée par l’Unesco en novembre 2021. « Nous avons besoin d’une IA centrée sur l’humain, qui servirait l’intérêt supérieur des citoyens, et non l’inverse », précise l’organisation sur son site. La recommandation proscrit toute utilisation de l’IA à des fins de notation sociale et de surveillance de masse et invite les États à instaurer des « mécanismes de gouvernance des données » qui permettent aux individus de garder le contrôle de leurs données personnelles et de demander réparation.
Ce premier cadre juridique mondial, non contraignant pour les États, aspire ainsi à devenir une « boussole éthique » pour le respect de l’état de droit dans le monde numérique. « L’Unesco fait le choix novateur de dicter les usages que l’IA doit accomplir pour servir l’environnement, la lutte contre les inégalités, et plus globalement, l’intérêt général », souligne Laurent Félix, directeur général France d’Ekimetrics, spécialiste européen en data science et en intelligence artificielle.
Le Point : En quoi cette recommandation historique peut-elle changer la donne ?
Laurent Félix : Malgré son caractère non contraignant, la recommandation de l’Unesco pose, à mon sens, un cadre normatif essentiel sur l’IA, abordée sous l’angle des droits de l’homme. Le parti pris de l’Unesco, afférant à sa mission, est de placer les droits de l’homme au-dessus de tout. Dans 11 domaines stratégiques, le texte fournit des orientations à destination des acteurs économiques publics et privés. Elle édicte les principes de base d’une évaluation de l’impact éthique des systèmes basés sur l’IA, sur l’ensemble du cycle de vie d’un système de production. Pour une fois, on n’aborde pas l’IA sous l’angle de ses dangers et de ses risques, mais on dit ce que l’IA doit faire, comme, dans le domaine de l’environnement, où il est précisé qu’elle doit participer au développement des modes de consommation et de production durables. En cela, cette recommandation est une référence mondiale en matière d’éthique de l’IA.
Le texte de l’Unesco prend-il néanmoins en compte les dangers et les dérives de l’IA ?
Oui, la recommandation pointe le fait que l’humanité est potentiellement en danger si l’on ne régule pas le cycle de vie des algorithmes. Elle anticipe les dangers qui sont devant nous si l’ensemble des parties prenantes, à savoir l’ensemble des acteurs, publics et privés ainsi que la société civile, n’en prennent pas conscience et ne se coordonnent pas pour les éviter. Elle insiste sur l’importance de la coopération et du partage des données entre toutes les parties prenantes d’un écosystème, y compris entre les États, ce qui est un point essentiel.
L’IA, en particulier quand elle est utilisée dans des domaines sensibles comme l’éducation, la santé ou la sûreté, doit être surveillée comme le lait sur le feu, car si on ne fait pas attention avant que le danger ne se réalise, elle peut dériver… Tous les acteurs de la chaîne doivent assurer cette vigilance ; c’est l’affaire de tous de bien surveiller les utilisations de l’IA et de faire en sorte qu’elle serve l’intérêt de l’humanité. Par exemple, l’Unesco considère les systèmes de reconnaissance faciale dans les espaces publics comme une menace.
Justement, ce cadre normatif vous paraît-il plus ambitieux que le projet de règlement européen sur l’IA, sous-tendu par des logiques de marchés ?
La démarche de l’Unesco est plus holistique que celle de l’Union européenne dans le sens où elle replace l’humain et ses intérêts en tête des valeurs à promouvoir. Le texte de l’UE veut réguler l’IA sous l’angle de la conformité et du développement du marché. En revanche, l’Unesco ne cherche pas à contraindre l’IA, mais à faire en sorte qu’elle soit mise au service de l’intérêt général. Placer la sauvegarde de l’humanité au cœur de ses priorités est loin d’être une approche fantaisiste ! Par exemple, les systèmes d’IA qui permettent de détecter les risques de discrimination (dans les écoles, dans certains métiers…) permettent aussi de réduire les discriminations envers les femmes et les jeunes filles dans certains pays.
Ce qui différencie aussi le texte de l’Unesco de celui de l’UE, c’est l’accent mis sur la collaboration entre les pays avancés et les pays en développement au sujet de l’IA. L’Unesco a cette perspective unique de vouloir développer cette coopération. Ainsi, l’IA doit avoir des librairies d’algorithmes en open source de façon par exemple à ce que tel acteur sache que s’il veut réduire l’empreinte carbone de sa chaîne logistique, il doit utiliser telle ou telle famille d’algorithmes d’apprentissage renforcé. Cette approche « open source » supranationale de l’IA promue par l’Unesco est d’ailleurs un enseignement que l’UE devrait intégrer à son projet de régulation.
L’IA deviendra-t-elle, comme le climat, un projet mondialement engageant ?
Le sujet qui mobilise aujourd’hui la communauté internationale est en effet le défi climatique. En la matière, le fait que les COP existent et rassemblent les pays du monde entier est déjà une source d’avancées. Pourquoi ne pas dédier une COP à l’IA, ou faire des COP annexes à celles sur le climat ? La COP26 a beau avoir été perçue comme un échec, elle reste tout de même un projet mondial engageant. Les initiatives autour de l’IA gagneraient à supporter les engagements pris pendant la COP26. C’est en servant ces objectifs que l’IA pourra se servir elle-même. Mettre l’IA au service du développement durable, c’est lui donner une dimension mondiale.
Les entreprises sont-elles prêtes à jouer le jeu d’une IA « éthique » ?
Les textes internationaux (Unesco, UE, OCDE etc.) ne donnent pas les clés pour que les acteurs économiques puissent agir de manière concrète. Pour que les entreprises se saisissent du sujet, il me paraît important de mettre en place une gouvernance de l’IA dont l’un des piliers est celui de l’éthique, mettant en œuvre par exemple des outils de mesure des biais et des dérives, ou des systèmes d’alerte. Des labels attestant de la mise en place de dispositifs d’une IA éthique au sein de l’entreprise commencent à émerger sur le marché. Pour l’heure, les entreprises feraient bien de s’inspirer de la recommandation de l’Unesco qui a le mérite d’être bien structurée et accessible à tous, et pas seulement aux juristes.