INTERVIEW. Dans « Voyage au bout de l’IA », Axel Cypel nous met en garde contre une approche simpliste des biais et plaide pour une éthique des usages de l’intelligence artificielle.
Dans son dernier essai, Voyage au bout de l’IA, Axel Cypel, professeur expert en intelligence artificielle (IA), emmène son lecteur dans les coulisses de ChatGPT, du machine learning et des data, le pétrole de l’industrie numérique. Avec pédagogie et humour, il décrypte les fondamentaux de l’IA et balaye fantasmes et idées reçues. Entretien.
Le Point : « Rien n’est plus éloigné de l’intelligence que l’intelligence artificielle », soulignez-vous dès les premières pages de votre livre, comme une sorte de mise en garde…
Axel Cypel, professeur expert en intelligence artificielle. © (DR)
Axel Cypel : En effet. L’intelligence humaine entend expliquer le monde de façon causale, alors que l’IA naît des corrélations établies grâce à des algorithmes sur de grandes masses de données, récoltées du fait de la numérisation croissante du monde. C’est une forme de statistiques très élaborées dont la constitution découle de capacités de calcul qui ont fortement progressé ces dernières années.
La corrélation – qui ne signifie pas la causalité – permet de prédire mais pas d’expliquer. Le sens de ce que la machine manipule est donné par l’homme et par lui seul. Bien sûr, les constructeurs d’IA exploitent à fond l’illusion des réponses données par elle, en particulier avec une IA comme ChatGPT, dont j’explique le fonctionnement et commente quelques conséquences. Nous avons tendance à humaniser les animaux ou les machines, et une machine qui affiche notre langage en proposant des réponses qui nous paraissent sensées entretient naturellement cette illusion de la vérité par des raisonnements en trompe-l’œil.
Qu’est-ce ce qui fait la singularité de l’IA générative ? Vous insistez sur la fonction de « mémoire » de cet outil.
D’un point de vue technique, l’IA générative ne se singularise pas de l’IA tout court. C’est toujours un modèle qui a été formé à partir de grandes bases de données. La différence réside dans le fait que ces IA sont des outils directement accessibles au grand public. Elle réside aussi dans l’interprétation que nous avons de son output – ses résultats –, qui ne relève pas seulement de la prédiction – par exemple, prédire des cours de Bourse – mais qui se présente comme un nouveau contenu, comme une image ou un poème.
Pour les IA génératives de textes, type ChatGPT, plusieurs points sont d’ailleurs remarquables : l’assistant conversationnel donne l’illusion de comprendre la question ou le contexte pour proposer un texte adapté, syntaxiquement juste presque tout le temps, et qui réussit à donner l’impression d’une certaine forme de mémoire, ce qui permet au chatbot de simuler un véritable dialogue. C’est une vraie différence avec l’informatique traditionnelle qui montrait, dans le dialogue, presque immédiatement ses limites.
Vous écrivez : « L’IA est perçue à juste titre comme un objet de pouvoir dont on ressent le côté angoissant. » Est-ce parce qu’on ne la comprend pas ? Est-ce parce qu’elle nous dépossède de notre libre arbitre et menace nos libertés d’évoluer, de douter, d’aimer, etc. en nous rangeant dans des cases ?
Pour toutes ces raisons, en effet, mais surtout parce que les entreprises les plus puissantes de tous les temps, ces monstres économiques que sont les Gafam, se sont arrogé une place de choix au sein de cette technologie et que leurs annonces y font la pluie et le beau temps. Une telle concentration d’argent et de technique, avec les meilleurs chercheurs du monde qui y travaillent, avec une capacité de dialoguer directement avec les décideurs politiques et les législateurs, pouvant influencer par là même l’orientation des sociétés humaines, voilà qui ne peut laisser de marbre.
Par ailleurs, le fait que cette technique soit à même de reproduire des capacités cognitives, parce qu’elle est capable de prendre en charge des tâches que l’on croyait réservées à l’être humain, fait naître un sentiment d’étrange : quoi, une machine peut prétendument remplacer mon intellect ?
Vous évoquez l‘« impossible neutralité de la technologie » qui est, de fait, toujours au service d’un but économique ou politique… Quel serait le mot juste pour la qualifier ?
Je fais partie des gens qui pensent que la technique n’est pas neutre. Ceux qui prétendent le contraire nous disent que c’est seulement l’usage que l’on en fait qui porte en lui un caractère bon ou néfaste. Dire que la technique est neutre revient à donner une forme de blanc-seing à la recherche, toujours sous-tendue par des intérêts, financiers et autres. « Intentionnelle » pourrait être le mot juste pour qualifier cette technologie, voire toutes les technologies.
De plus, l’IA du deep learning – les réseaux de neurones, une technique communément utilisée de nos jours – ne s’explique pas. Elle construit certes des modèles, mais ne propose pas d’explications, elle n’ouvre pas naturellement, comme en sciences physiques, à la compréhension d’un phénomène. Dans ce dénivelé s’est insérée la graine possible de la non-équité, voire de l’inégalité.
Vous pointez le fait que les décisions prises par les algorithmes le sont sur un corpus incomplet de données, ce que vous qualifiez de « fléau éthique ». Quelles pourraient être les conséquences ?
L’IA actuelle est celle de l’apprentissage machine : les données qu’elle ingère jouent donc un rôle essentiel. On insiste beaucoup sur les biais, mais le premier biais d’une IA lui vient de la constitution même de son jeu de données d’apprentissage. Comment ont-elles été captées ? Quelle interprétation leur a-t-on conférée ? Un des biais originels de l’IA est ici.
Pour l’illustrer : si l’on vise à créer une IA qui détecterait le bonheur sur la foi d’un cliché de votre visage, une photographie d’une personne souriante peut-elle être étiquetée comme « cliché d’une personne heureuse » pour construire la base d’apprentissage ?
De manière plus générale, croire qu’un modèle d’IA, sous prétexte qu’il est basé sur un ensemble de données réelles – de mesures, si l’on veut –, décrit la réalité et permet de prendre des décisions en toutes circonstances est une erreur ! Une IA construite sur les données n’aura jamais un taux de performance de 100 %. Que se passe-t-il si elle se trompe sur votre cas alors même que, probabilités obligent, vous ignorez qu’elle se trompe ? Il est important d’avoir à l’esprit ces limites et ces dangers.
Vous éveillez l’attention sur le fait que vouloir supprimer des biais suppose d’introduire dans la « machine » d’autres jugements de valeur que vous nommez les « biais des biais »…
Le biais des biais, c’est de croire à sa propre objectivité et, s’agissant de l’IA, de croire que les data sont neutres et que le réel s’y reflète tout entier. Or les données sont une construction. La notion simpliste du biais, parce qu’elle est facile à comprendre, laisse croire qu’il suffit d’en prendre conscience pour le corriger. Par ailleurs, on n’est biaisé que par rapport à une situation de référence qui est peut-être, elle aussi, biaisée. La définition d’une norme sociale n’est pas universelle. N’étant jamais sans préjugés, la correction d’un biais peut cacher des motivations autres. Il y a presque là une aporie.
« L’éthique de l’IA reste bien souvent saturée de bons sentiments », écrivez-vous. Donc, selon vous, on se trompe de référent normatif en parlant d’éthique ?
Le vrai problème de l’éthique est, à mon sens, un discours un peu vain, un verbiage destiné à convaincre l’auditoire de son sens des responsabilités sans qu’il soit trop engageant. Le problème fondamental inhérent à l’éthique est qu’elle ne s’aventure pas vraiment au-delà des intentions.
Non seulement il y a plusieurs éthiques, en fonction des cultures, mais en plus la règle que l’on se donne est souvent opposée à la logique capitalistique. Le véritable usage de l’éthique est une éthique des usages : nous devons refuser les systèmes d’IA qui façonneraient une société dont nous ne voudrions pas. A-t-on envie d’une éducation dans laquelle les élèves seraient bardés de capteurs ? A-t-on envie d’une surveillance capable de nous tracer en permanence ?
« Le chirurgien confronté à un événement inconnu pourra être assisté en temps réel par un appareil de diagnostic qui aurait emmagasiné l’ensemble des situations connues à ce jour. »
Vous semblez dire que les Européens font œuvre de bonne conscience avec l’AI Act ; pour quelle raison ? Quels reproches faites-vous à ce projet très ambitieux de réglementation de l’intelligence artificielle ?
Je suis très partagé à son sujet. D’un côté, il me semble nécessaire de réguler. De l’autre, ce texte me paraît un facilitateur qui avantage les monopoles déjà constitués. Texte empreint de tout le lobbying entrepris et rédigé par des personnes allergiques à la technique et qui ne font probablement qu’ânonner ce qu’elles ont compris de ce que des experts leur ont raconté.
Mais c’est surtout sur la mise en œuvre du texte que j’ai des doutes. Censé protéger le citoyen – ne vise-t-il pas plutôt le consommateur ? –, il réclame, en fonction de la typologie d’IA conçue, une quantité importante de documentation à produire, comme si l’épaisseur en centimètres des rapports que publierait le concepteur d’un système d’IA qu’il souhaiterait mettre sur le marché était un rempart efficace contre les dérives que le texte cherche à éviter ! La gestion des risques par un formalisme bureaucratique, en somme.
Le texte milite en faveur d’une IA vertueuse, c’est bien, mais on n’y retrouve que les poncifs vertueux du moment… D’un autre côté, les politiques poussent pour développer à fond l’IA – et il est vrai qu’elle est un enjeu technologique et qu’il en est attendu de grands bénéfices – et mettent des milliards sur le tapis. Qui l’AI Act protège-t-il vraiment ? Et de quoi, au juste ? Ce sont des questions qui, hélas, ne traversent pas assez les débats.
Vous êtes récemment intervenu lors d’un colloque sur le thème « L’IA et le scalpel : un mariage de raison ? ». La santé est-elle l’un des domaines qui bénéficieront le plus des avancées de l’IA ?
La santé est un des secteurs où l’on promet et attend beaucoup de l’IA. Mais la santé, c’est aussi un domaine excellent pour une technique en quête d’acceptabilité. Le pied-de-biche classique pour légitimer toutes les recherches aux conséquences les plus douteuses… Mais, du moment qu’elle promet de soigner des maladies incurables, comment s’y opposer sans passer pour un misanthrope ?
En réalité, ce domaine ne se distingue pas des autres. Partout où il y a de la donnée en quantité et où des situations sont modélisables, l’IA peut apporter ses bienfaits. Le colloque interdisciplinaire dans lequel j’intervenais avait pour titre « Les coulisses de l’activité opératoire. Regards croisés sur les transformations de la chirurgie ».
La visée à long terme de l’IA en chirurgie est bien sûr le robot-chirurgien autonome des films de science-fiction, petit-neveu de la – véritable – voiture autonome. Mais à plus court terme, et sans doute de manière plus réaliste, l’IA pourra être une aide à la décision en cas de situation compliquée, où le chirurgien confronté à un événement inconnu pourra être assisté en temps réel par un appareil de diagnostic qui aurait emmagasiné l’ensemble des situations connues à ce jour.
L’IA générative interroge le sens : vous soulignez que l’homme entend toujours donner du sens à ce qu’il dit, alors que la machine ne dispose d’aucune intentionnalité. Sauf qu’on est facilement pris au piège de sa formidable capacité à imiter cette intentionnalité, car la machine dialogue avec nous et produit des réponses parfaitement construites. Quels sont les risques d’une telle duperie ?
Je vous rejoins : le fait que, malgré les limites des corrélations, malgré l’incapacité de la machine à saisir la complexité du réel, de « simples » combinaisons de probabilités arrivent à produire des résultats aussi probants, en particulier pour les IA génératives de textes, interpelle. Et, pour ajouter à la duperie, la machine et la science mathématique sur laquelle elle est basée véhiculent un caractère de froideur et d’objectivité, du genre de celui qui ne se trompe jamais, qui a forcément toujours raison.
Le risque est d’y croire : croire à la neutralité des « réponses » d’une machine ; croire que la machine est « sensée » en oubliant que c’est nous, en tant que sujets, qui donnons sens aux événements ; croire, enfin, que des algorithmes seraient toujours plus efficaces que la réflexion ou la création humaine. C’est pourtant le cas dans certains domaines, illustrés par les succès magnifiques de l’IA. Étendre ces succès particuliers à l’ensemble des activités de la pensée est une duperie – bien humaine, celle-là – qui prolonge le risque lié à la seule machine.
Vous assimilez les prédictions sur une prochaine « IA générale » à un « concert de simulacres ». Pour quelle raison ?
Pour répondre à cette question, je vais faire écho, même si cela me fait l’entretenir quelque peu malgré moi, à une information, qui s’est récemment répandue, voulant que les errements dans la direction d’OpenAI – le rapide aller-retour de son DG, Sam Altman – pourraient tenir à l’existence d’un projet secret, une sorte de ChatGPT capable de bâtir des raisonnements mathématiques, qui conduirait très vite à l’IA générale !
Terminator serait dans les tiroirs et, pour l’instant – on ne sait pas très bien pourquoi –, mis sous le boisseau. Que penser de cette confusion entretenue à des fins sensationnalistes, activant les ressorts les plus vulgaires de mystères dignes de polars à deux sous : la valse des « heureux du monde » interprétée à la lumière d’une sacralisation des hommes et des choses, établie sur la méconnaissance de ce dont on parle. Comment mieux définir un « concert de simulacres » ?
« Voyage au bout de l’IA », d’Axel Cypel, De Boeck Supérieur, octobre 2023, 192 pages, 17,90 euros.