Les régulateurs peuvent-ils faire confiance aux données scientifiques générées par l'IA ?

Pendant des décennies, la relation entre une agence de régulation et les données scientifiques qui lui sont soumises reposait sur une hypothèse simple : un humain a réalisé l'expérience, un humain a enregistré le résultat, et un humain pouvait être tenu responsable si ce résultat s'avérait erroné.

L'intelligence artificielle a discrètement démantelé cette hypothèse. Les modèles d'IA génèrent désormais, analysent, résument et, dans certains cas, produisent directement les données scientifiques que les entreprises pharmaceutiques soumettent pour appuyer les autorisations de médicaments, les conceptions d'essais cliniques et les décisions relatives à la qualité de la fabrication.

La question que cela soulève n'est plus théorique ou hypothétique. Elle devient rapidement le défi réglementaire central de la décennie en cours : une agence peut-elle réellement faire confiance à un résultat scientifique qu'aucun humain n'a directement produit, vérifié ou constaté ?

L'ampleur de ce changement est déjà substantielle :

1. La FDA rapporte plus de 500 soumissions réglementaires comportant des composants IA depuis 2016, avec une utilisation décrite en interne comme en hausse « exponentielle "
2. Près de 950 dispositifs médicaux intégrant l'IA ou l'apprentissage automatique avaient été approuvés par la FDA en août 2024, contre seulement 520 en janvier 2023
3. Une enquête intersectorielle de 2025 a révélé que 44 % des organisations ont subi des conséquences négatives liées à l'utilisation de l'IA générative, avec des pertes financières moyennes de 4,4 millions de dollars par incident
4. Des recherches indépendantes 2025–2026 ont trouvé que même les modèles de grande taille avancés présentent des taux d'hallucination de 15–20 % sur des tâches de citation factuelle, atteignant 35–55 % sur des sujets de niche ou récents

Ces chiffres encadrent une tension réelle et croissante au sein de la communauté scientifique : l'IA s'intègre structurellement au pipeline des données réglementaires au moment même où sa propension à produire des fabrications convaincantes et plausibles est de mieux en mieux documentée et devient plus difficile à ignorer.

La réponse de la FDA : un cadre de crédibilité fondé sur le risque

Plutôt que d'ignorer le problème ou de tenter d'interdire l'IA dans les soumissions réglementaires, la FDA a agi délibérément pour construire une structure d'évaluation formelle. En janvier 2025, l'agence a publié un projet d'orientation intitulé « Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products (FDA-2024-D-4689) " — le premier document d'orientation de l'agence traitant spécifiquement de l'IA utilisée pour générer ou analyser des données soumises à l'appui d'une décision réglementaire.

Le concept central introduit dans cette orientation est la « crédibilité du modèle » — définie comme la confiance dans les performances d'un modèle d'IA pour un Contexte d'Utilisation (Context of Use, COU) spécifique. De façon cruciale, la FDA ne considère pas la crédibilité de l'IA comme un jugement binaire oui/non.

Elle est évaluée par rapport à la manière précise dont la sortie du modèle sera utilisée et au risque associé à cet usage spécifique. L'orientation propose un processus d'évaluation de la crédibilité fondé sur le risque en sept étapes :

1. Définir la question d'intérêt à laquelle le modèle d'IA est utilisé pour répondre
2. Définir le contexte d'utilisation, le rôle et la portée spécifiques du modèle au sein de la soumission réglementaire
3. Évaluer le risque du modèle d'IA, en tenant compte à la fois de l'influence du modèle sur la décision réglementaire et des conséquences en cas d'erreur du modèle
4. Élaborer un plan d'évaluation de la crédibilité, adapté au niveau de risque identifié
5. Exécuter le plan d'évaluation de la crédibilité, en générant les preuves nécessaires pour étayer la confiance dans le modèle
6. Documenter les résultats dans un format transparent et auditable, adapté à l'examen réglementaire
7. Déterminer l'adéquation, c'est‑à‑dire si les preuves de crédibilité soutiennent suffisamment l'utilisation prévue du modèle dans la soumission

Ce cadre représente une philosophie réglementaire fondamentalement différente des exigences de validation uniformes appliquées de manière systématique. Un modèle utilisé pour trier les rapports d'événements indésirables en vue d'un examen humain comporte un risque différent d'un modèle utilisé pour générer le critère d'efficacité primaire d'un essai pivot, et le cadre de la FDA est explicitement conçu pour exiger proportionnellement plus de preuves à mesure que les enjeux augmentent.

Le cadre de crédibilité de la FDA fixe la norme.

Voici comment l'IA transforme déjà les soumissions réglementaires pharmaceutiques en pratique.

→ IA dans les produits pharmaceutiques | Transformer la réglementation

Pourquoi l'hallucination est-elle le problème central de confiance ?

La menace la plus conséquente pour la confiance réglementaire dans les données générées par l'IA n'est pas le biais ou un dysfonctionnement technique au sens conventionnel, mais l'hallucination : la tendance des modèles génératifs à produire des informations fabriquées énoncées avec la même assurance que des informations exactes. Ce n'est pas un cas limite rare. C'est une caractéristique structurelle de la façon dont les grands modèles de langage génèrent des sorties.

Les preuves de la gravité de ce problème couvrent de multiples domaines scientifiques :

1. Une analyse de janvier 2026 par GPTZero de 4 841 articles acceptés à NeurIPS 2025, l'une des conférences AI les plus compétitives et rigoureusement évaluées par les pairs, a identifié au moins 100 citations hallucinéess confirmées couvrant 53 articles, malgré l'examen par trois à cinq évaluateurs experts par soumission
2. L'hallucination se manifeste non seulement par des citations fabriquées, mais aussi par des résumés de données inventés, des résultats expérimentaux inventés et des manuscrits entiers de type paper‑mill
3. Dans les domaines médical et juridique en particulier, les taux d'hallucination peuvent dépasser 28 % sans techniques d'ancrage appropriées, même avec des systèmes de génération augmentée par récupération conçus pour réduire le problème
4. Une analyse de l'industrie pharmaceutique a constaté que 44 % des organisations utilisant l'IA générative ont rapporté des conséquences négatives, l'apparition de sorties hallucinéess ou fabriquées présentées avec une confiance injustifiée étant identifiée comme la principale barrière à la confiance clinique

Ce qui rend l’hallucination particulièrement dangereuse dans un contexte réglementaire, c’est qu’elle ne ressemble pas à une erreur. Un résumé de données cliniques halluciné, une citation fabriquée soutenant une affirmation de sécurité, ou un résultat expérimental inventé peut passer une revue superficielle précisément parce qu’il est généré pour paraître plausible, bien présenté et cohérent en interne, des qualités exactes qui rendent les données scientifiques légitimes dignes de confiance.

L’hallucination dans les données réglementaires ne s’arrête pas à la soumission.

Lorsqu’elle atteint la pratique clinique, elle devient un risque pour la sécurité des patients.

→ Hallucinations de l'IA en pharmacie | Le risque pour la sécurité des patients

Données synthétiques : une catégorie différente de problème de confiance

Un défi distinct mais lié concerne les données synthétiques — des ensembles de données générés par des modèles d’IA (souvent des Generative Adversarial Networks ou des modèles de diffusion) pour augmenter des données réelles limitées ou soumises à des restrictions de confidentialité, en particulier dans la conception d’essais cliniques et l’imagerie médicale. 

Les données synthétiques ne sont pas le même problème que l’hallucination ; elles sont générées intentionnellement, pas fabriquées de manière spontanée. Mais elles soulèvent leurs propres questions de confiance distinctes pour les autorités réglementaires.

Les préoccupations centrales auxquelles les régulateurs sont actuellement confrontés incluent :

1. Changement de distribution et réalisme non vérifiable — des dossiers patients ou des données d’essais synthétiques peuvent ressembler statistiquement à des populations réelles sans pour autant capturer les pathologies rares, les cas limites ou les nuances démographiques présentes dans les données cliniques authentiques

2. Amplification des biais — des recherches en imagerie mammaire ont montré que les données synthétiques peuvent atténuer ou, si elles sont mal appliquées, amplifier activement les biais entre des sous-groupes de patients, y compris l’âge, la densité tissulaire et l’ethnie

3. Traçabilité et auditabilité — les régulateurs doivent pouvoir retracer exactement comment les données synthétiques ont été générées, quelles données réelles ont servi à leur entraînement, et si ces données d’entraînement contiennent elles-mêmes des biais ou des problèmes de qualité intégrés

4. Score de fidélité — la meilleure pratique émergente exige que les données synthétiques comportent des scores de fidélité documentés, les systèmes d’IA signalant explicitement ou rejetant automatiquement les prédictions qui reposent sur des entrées synthétiques de faible fidélité plutôt que de les présenter avec une confiance injustifiée

Une revue de 2025 sur les données synthétiques dans l’IA en santé a conclu que l’utilisation responsable exige un changement fondamental de la quantité vers une qualité vérifiable — un principe de plus en plus repris à la fois dans les orientations de la FDA et de l’EMA, les deux agences convergeant vers des attentes partagées pour l’IA en science réglementaire.

L’infrastructure réglementaire en cours de construction pour répondre à la question de la confiance

Reconnaissant qu’aucun document d’orientation unique ne peut résoudre pleinement ce défi, la FDA a développé une infrastructure organisationnelle dédiée pour gérer la supervision de l’IA de façon continue. Cela inclut :

1. The Digital Health Center of Excellence (DHCoE), hébergé au sein du Center for Devices and Radiological Health, qui coordonne la politique sur l’IA et la santé numérique au sein de l’agence
2. The Digital Health Advisory Committee (DHAC), un comité d’experts externe qui a tenu sa réunion inaugurale en novembre 2024 pour fournir des orientations sur les questions d’IA à évolution rapide
3. Deux nouveaux conseils inter-agences créés en 2025 : un External Policy Council définissant des principes pour l'IA dans les produits réglementés, et un **Internal Use Council supervisant la manière dont la FDA elle-même utilise l'IA dans ses propres processus d'examen
4. Principes directeurs conjoints FDA-EMA, visant à harmoniser les attentes réglementaires internationales pour l'évaluation de la crédibilité de l'IA d'ici début 2026

La période de consultation publique sur l’ébauche d’orientation de la FDA de janvier 2025 s’est close en avril 2025, l’agence signalant que l’orientation finale — intégrant de nombreux retours des parties prenantes sur la manière de traiter l’IA générative et les grands modèles de langage en particulier, est attendue en 2026.

Conclusion : confiance conditionnelle, pas confiance aveugle

La réponse honnête à la question de savoir si les régulateurs peuvent faire confiance aux données scientifiques générées par l’IA n’est ni un simple oui ni un simple non. Elle est conditionnelle, fondée sur des preuves et soigneusement proportionnée au risque. 

Les régulateurs ne construisent pas de cadres pour exclure complètement l’IA de la génération de données scientifiques — la valeur de la technologie pour accélérer la découverte et améliorer sensiblement la qualité des données est déjà bien établie dans plusieurs domaines thérapeutiques. 

Ils construisent plutôt des cadres qui exigent de la même rigueur et responsabilité d’un modèle d’IA que ce qu’ils ont toujours exigé de la science générée par des humains : des revendications clairement définies, une méthodologie transparente et des preuves proportionnelles aux conséquences d’une erreur.

Les agences qui réussiront finalement ne seront pas celles qui font confiance aux données d’IA sans condition, ni celles qui les rejettent par réflexe par prudence. 

Ce seront celles qui construiront une infrastructure durable telle que des cadres de crédibilité, des scores de fidélité, la détection des hallucinations et une évaluation du risque proportionnée, nécessaire pour distinguer de manière fiable la science générée par l’IA qui mérite réellement la confiance de celle qui n’en a que l’apparence.

FAQ

1) Les régulateurs peuvent-ils faire confiance aux données scientifiques générées par l’IA ?

Les régulateurs peuvent faire confiance aux données scientifiques générées par l’IA uniquement lorsqu’il existe des preuves suffisantes démontrant que le système d’IA est fiable pour l’utilisation prévue. Les cadres réglementaires modernes se concentrent sur la validation de la crédibilité, de la transparence et des performances des modèles d’IA plutôt que d’accepter leurs résultats sans examen. Le niveau d’examen augmente généralement avec l’impact potentiel des données générées par l’IA sur la sécurité des patients ou les décisions réglementaires. Cette approche basée sur le risque aide à garantir que la confiance est méritée par des preuves plutôt que présumée.

2) Qu’est-ce que l’hallucination de l’IA et pourquoi est-ce une préoccupation pour les régulateurs ?

La hallucination de l'IA se produit lorsqu'un système d'intelligence artificielle génère des informations qui semblent exactes et convaincantes mais qui sont en réalité incorrectes ou entièrement fabriquées. Dans les contextes scientifiques et réglementaires, les hallucinations peuvent inclure des citations inventées, des résumés de données inexactes ou des conclusions non étayées. Parce que ces résultats sont souvent présentés avec assurance et dans un format professionnel, ils peuvent être difficiles à repérer lors des contrôles de routine. Cela fait de l'hallucination l'un des défis les plus importants lors de l'évaluation de contenus scientifiques générés par l'IA.

3) Qu'est-ce que les données synthétiques et comment sont-elles utilisées dans la recherche en santé ?

Les données synthétiques sont des informations générées artificiellement par des modèles d'IA pour reproduire les caractéristiques des jeux de données réels sans exposer les informations réelles des patients. Elles sont souvent utilisées pour soutenir la recherche, entraîner des modèles d'apprentissage automatique et compléter des données cliniques limitées. Bien que les données synthétiques puissent améliorer la protection de la vie privée et la disponibilité des données, les autorités réglementaires doivent s'assurer qu'elles reflètent fidèlement les conditions du monde réel. Une validation appropriée est essentielle pour confirmer que les jeux de données synthétiques n'introduisent pas de biais cachés ou ne déforment pas les résultats scientifiques.