ENTRETIEN. Plusieurs États ont suspendu l’utilisation de DeepSeek et de ChatGPT par les agents publics. Explications avec Me Schéhérazade Abboub.
Rédiger un courrier administratif en quelques secondes, synthétiser un rapport volumineux, traduire un document en langage clair et accessible… Les atouts des assistants numériques d’IA générative (IAG) sont indéniables. Mais, s’ils sont utilisés sans cadre ni autorisation, ils ouvrent la porte à des risques majeurs.
Imaginons que, pour gagner du temps, un greffier débutant demande à ChatGPT de générer un acte judiciaire et injecte dans sa requête les données du procès, sans anonymiser le texte : il mettrait en péril la confidentialité de ces informations, qui, de plus, pourraient être utilisées pour entraîner des modèles d’IA. Imaginons qu’un agent public demande à l’IA de décider des modalités d’attribution d’aides sociales et qu’il en déduise des résultats erronés au détriment de familles en situation de pauvreté : le principe d’égalité devant le service public serait alors rompu. Si France Travail générait des offres d’emploi à partir d’un outil reproduisant les stéréotypes de genre, c’est le principe d’égalité d’accès à la fonction publique qui serait, cette fois, menacé.
Ces exemples illustrent une partie des risques liés au « shadow IA », autrement dit à l’usage spontané, voire clandestin, par les agents publics (ou les salariés d’entreprises) dans le cadre de leurs tâches quotidiennes. « Dans les rares collectivités ayant sondé leurs agents, 20 à 30 % d’entre eux utilisent ponctuellement ou régulièrement un outil d’IA en dehors de toute recommandation de leur employeur, voire à son insu », relève La Gazette des communes dans un article du 19 juin 2025.
Le 1er juillet 2025, une étude de l’Inria et du club des data scientists Datacraft pointait les risques juridiques et éthiques de ces usages spontanés de l’IA, qui exposent dirigeants et entités publiques à des poursuites. Cette étude citait notamment un rapport de la société Harmonic Research, paru fin 2024, affirmant qu’un prompt sur douze contient des données sensibles (données clients, données sur les employés, données financières…).
Face à ces risques, plusieurs États ont limité ou interdit l’utilisation par les administrations publiques d’assistants virtuels tels que DeepSeek (le ChatGPT chinois). « Ces restrictions s’inscrivent dans une stratégie plus large visant à encadrer l’utilisation de l’IA de manière éthique et responsable. Le règlement européen sur l’IA fixe lui aussi des lignes rouges à l’utilisation d’agents conversationnels, qui s’appliqueront à partir du 2 août 2025 », commente Schéhérazade Abboub, avocate associée au sein du cabinet Alerion.
Le Point : Pour quelle raison l’IA générative est-elle surveillée à la loupe dans les administrations ?
Schéhérazade Abboub : Plusieurs études menées en France pointent leurs dangers. Le Conseil économique, social et environnemental, la Défenseure des droits, la Cour des comptes, la Commission de l’IA et la direction générale de l’administration et de la fonction publique ont livré, en 2024 et en 2025, leurs premières analyses : tous plaident pour une approche commune de l’utilisation de l’IAG dans les services publics, qu’il s’agisse de l’État ou des collectivités territoriales. La force de persuasion d’IA telles que ChatGPT peut amener à renforcer les phénomènes de discrimination, voire être à l’origine de catastrophes politiques ou sociétales. Ce fut le cas aux États-Unis avec le logiciel Compas, utilisé pour décider de la libération des détenus en fonction du risque de récidive, devenu un vecteur de discriminations raciales. Ce fut aussi le cas aux Pays-Bas avec l’usage, par le service d’allocations familiales, d’un algorithme discriminatoire ayant ruiné des milliers de familles accusées à tort de fraudes.
Pourtant, l’IA apparaît plutôt comme un levier d’amélioration des politiques publiques, notamment en matière d’accès aux droits et aux services publics. Par exemple, France Travail l’utilise pour déterminer l’éligibilité des chômeurs à l’allocation chômage d’aide au retour à l’emploi.
Il est évident que l’IA présente de nombreuses opportunités pour les administrations (en accélérant les prises de décision, les réponses en ligne et en assurant une meilleure allocation de fonds publics), pour les usagers (en fluidifiant les démarches comme le passage aux frontières) et, plus largement, pour nos politiques publiques (réduction de la consommation d’eau et d’énergie des bâtiments, optimisation de l’arrosage des espaces publics, amélioration des flux de mobilité…). Mais ces usages ne respectent pas toujours le cadre posé par les différentes réglementations.
Que vous inspirent les décisions de certains pays de suspendre le recours par les agents publics aux assistants virtuels s’appuyant sur l’IA générative ?
Le Canada, les États-Unis, l’Italie, Taïwan, la République tchèque, la Corée du Sud, le Royaume-Uni, l’Inde ou encore l’Australie ont interdit le recours à des IAG, en particulier DeepSeek. Ces interdictions ne sont pas définitives. Elles ont été prises le temps d’évaluer l’impact de l’IAG sur la protection des données personnelles, la sécurité nationale de l’information et les risques liés au partage des informations avec les autorités chinoises. Il s’agit aussi d’en évaluer le coût budgétaire et environnemental, qui est loin d’être négligeable…
La Nouvelle-Zélande, et plus particulièrement son ministère des Affaires, de l’Innovation et de l’Emploi, a également interdit à ses agents d’utiliser ChatGPT. Selon le gouvernement néo-zélandais, ce type d’IA pourrait désavantager de manière disproportionnée les Maoris si elle implique des systèmes étrangers conçus (et formés) pour d’autres populations.
En tout état de cause, de nombreux États réfléchissent ou ont déjà développé leurs propres outils internes d’IAG souverains pour leurs administrations afin de se passer du recours à un outil tel que ChatGPT ou DeepSeek. C’est le cas de la France avec Albert, une IA dont l’objectif est d’aider les agents de l’administration dans leurs tâches quotidiennes, comme rédiger des réponses aux demandes des usagers, retranscrire les audiences judiciaires ou préinstruire un dossier de permis de construire.
Concernant les interdictions posées par les États, gardons à l’esprit que le droit n’est pas une réponse absolue ni exclusive : qu’il s’agisse de règles très strictes ou d’interdictions, elles ne tiendront pas longtemps face aux pratiques des agents et aux exigences des usagers…
Les pratiques abusives et contraires à nos valeurs pourraient-elles devenir la « norme » ?
Je pense que la priorité doit être l’acculturation et la sensibilisation des agents publics qui sont soumis à des exigences supérieures en termes de confiance, de souveraineté et de sécurité des données, mais aussi du grand public. Le problème n’est pas propre à l’IAG, il existe depuis l’apparition des géants du big data ou Gafam (Google, Apple, Facebook, Amazon et Microsoft). Ces Gafam, de la même manière que ChatGPT, ont vu le jour aux États-Unis. Or, en Europe, nous ne partageons pas tout à fait la même vision de la protection des libertés fondamentales et encore moins de la protection des données personnelles. Il n’y a aucune réglementation équivalente à notre RGPD européen ou à notre loi informatique et liberté française aux États-Unis.
Cela montre à quel point la technologie exacerbe les différences culturelles. Une incitation pour renforcer la souveraineté numérique de l’Europe ?
Absolument. Dès son arrivée au pouvoir, le président Donald Trump a annulé le décret 14110, signé par son prédécesseur, Joe Biden, en octobre 2023, qui établissait des directives de sécurité pour l’IA et rappelait le nécessaire respect des principes fondamentaux de la vie privée. Trump a justifié cette abrogation par le fait que les régulations précédentes entravaient l’innovation et qu’il souhaitait « renforcer la domination des États-Unis dans l’IA ». Plus récemment, l’administration américaine a indiqué vouloir remettre en question le privacy shield, l’accord régissant le transfert de données entre l’Union européenne et les États-Unis. Nos données – y compris celles qui sont stockées par les administrations – sont probablement déjà dans l’ordinateur de Trump !
Ces éléments confirment la nécessité pour l’Europe de réaffirmer sa souveraineté sur les données de ses citoyens. Pour mettre fin à la dépendance de l’Europe à l’égard d’entreprises américaines, il serait temps de passer à l’action et de prôner l’indépendance technologique de l’UE vis-à-vis d’acteurs qui ne respectent ni nos principes ni nos valeurs. C’est la décision qui a été prise par un collectif d’élus français en avril dernier en initiant un projet appelé « Trajectoire d’indépendance européenne numérique » (Tie Break) et visant à réduire la dépendance des territoires aux technologies numériques extraeuropéennes. Il est donc urgent de développer des IA souveraines, garantes des droits fondamentaux des citoyens.