Au-delà du battage médiatique autour de l'IA : Construire une transformation numérique digne de confiance dans la pharma

Introduction

Au cours des dernières années, l'intelligence artificielle est passée des présentations de conférences aux budgets de la plupart des grandes entreprises pharmaceutiques. Ce qu'il est beaucoup plus difficile de prévoir, selon moi, c'est si la façon dont elle est adoptée rendra ces organisations plus fiables, ou simplement plus rapides. Dans le secteur pharmaceutique cette différence compte, car presque toutes les décisions prises par une entreprise aboutissent finalement chez un patient. 

Mesurer la mauvaise chose 

Une grande partie de ce que l'on appelle transformation numérique relève, en pratique, de l'approvisionnement en technologie. Les progrès sont souvent rapportés en nombre de pilotes en cours, ce qui mesure l'activité plutôt que le changement. Le véritable changement se manifeste dans la manière dont les décisions sont prises et qui en assume la responsabilité. Un modèle produisant des résultats impressionnants au sein d'un processus inchangé, sans que personne ne soit clairement responsable de sa sortie, ajoute une capacité sans accroître beaucoup la fiabilité. 

Les autorités de régulation semblent avoir compris cela plus tôt que beaucoup d'acteurs de l'industrie. En janvier 2025, la US Food and Drug Administration a publié des orientations provisoires sur l'IA utilisée pour soutenir les décisions réglementaires concernant les médicaments et les produits biologiques. Elle propose un cadre basé sur le risque pour établir si un modèle d'IA est crédible pour un contexte d'utilisation défini. La préoccupation de la FDA, en d'autres termes, est de savoir si un modèle particulier peut être approuvé pour un but précis, ce qui est une question plus étroite et bien plus utile que de savoir si le modèle est bon en général. Les lignes directrices sont encore provisoires, mais je pense que le cadrage est pertinent. 

La responsabilité reste avec l'entreprise 

Les autorités européennes évoluent dans une direction similaire. En juillet 2025, la Commission européenne a ouvert une consultation des parties prenantes sur des versions révisées du chapitre 4 des BPF de l'UE et de l'annexe 11, ainsi que sur une nouvelle annexe 22 sur l'intelligence artificielle. L'annexe 22 est encore à l'état de projet et n'est pas encore en vigueur, de sorte que sa rédaction peut changer. Dans le projet de consultation, l'IA utilisée dans des applications BPF critiques nécessiterait une finalité d'utilisation clairement définie, des données de test séparées des données utilisées pour entraîner le modèle, et des critères de performance convenus à l'avance, avec une surveillance continue. Les commentateurs ont également noté que l'externalisation de l'IA à un fournisseur ne retirerait pas la responsabilité réglementaire au fabricant. 

Un modèle peut éclairer une décision, mais il ne peut pas en être responsable. ICH Q10, la directive sur les systèmes qualité pharmaceutiques, a depuis longtemps placé la responsabilité ultime d'un système qualité efficace auprès de la direction. Lorsque le raisonnement interne d'un système ne peut pas être facilement inspecté, la responsabilité dépend de détails pratiques : savoir exactement où le modèle s'insère dans un processus, qui examine ce qu'il produit, si ce réviseur a l'autorité de le contredire, et comment sa performance est vérifiée au fil du temps. À mon avis, une IA responsable se résume en grande partie à bien gérer ces détails. 

L'annexe 22 est encore un projet, donc la question est ce qu'il faut financer avant qu'elle ne soit finalisée. Voyez quels sont les sept investissements que les sites pharmaceutiques devraient faire maintenant, quelle que soit la date finale.
Lire : L’annexe 22 n’est pas encore loi. Dans quoi investir maintenant

Ce que la surveillance humaine exige réellement 

En janvier 2026, l'Agence européenne des médicaments et la FDA ont publié conjointement dix principes directeurs pour une bonne pratique de l'IA tout au long du cycle de vie des médicaments. L'un d'entre eux, qui, selon moi, est beaucoup moins discuté, stipule que la performance doit être évaluée pour le système complet, y compris l'interaction entre les personnes et l'IA, plutôt que pour le modèle isolément. 

Ceci est important parce que les personnes ne sont pas des réviseurs neutres des sorties automatisées. Une revue largement citée par Parasuraman et Manzey a montré que le biais d'automatisation, la tendance à trop se fier aux aides à la décision, affecte aussi bien les experts que les novices et n'est pas de manière fiable prévenu seulement par la formation ou des instructions. Un réviseur qui approuve presque chaque recommandation sans disposer du temps ou du contexte pour la remettre en question donne l'apparence d'une surveillance plutôt que sa substance. Une revue significative nécessite quelqu'un qui comprend pourquoi le système a été construit et où il est susceptible d'échouer, avec le temps nécessaire pour examiner correctement et un milieu de travail qui considère le fait de passer outre le système comme de la diligence plutôt que comme un retard. Ce sont des décisions de gestion plutôt que techniques. 

La littératie est une responsabilité de la direction 

Je pense aussi que la littératie en IA est devenue un enjeu de direction autant qu'un enjeu de formation. Un dirigeant approuvant un investissement en IA devrait être à l'aise pour demander pour quel contexte d'utilisation le système a été validé, sur quelles données il a été développé et testé, et comment l'entreprise remarquera une dérive de performance. Les principes de l'EMA et de la FDA exigent des informations en langage clair sur la performance et les limites d'un système d'IA, ce qui n'est utile que si les responsables peuvent s'y engager plutôt que de le laisser aux spécialistes. 

Construire la confiance dans le temps 

Une culture de qualité demande des années de pratique documentée pour se construire, et une seule défaillance d'intégrité des données peut anéantir une quantité surprenante de cette culture. Je soutiens que l'adoption de l'IA mérite d'être jugée sur une échelle de temps similaire. Les attentes des régulateurs en matière de gouvernance des données et de réévaluation périodique des modèles sont parfois présentées comme un frein à l'innovation. À mon avis, elles sont ce qui permet à une entreprise d'expliquer et de défendre une décision lorsqu'un inspecteur ou un patient finit par demander comment elle a été prise. Pour la même raison, je pense qu'une entreprise qui commence par des applications étroitement définies et bien gouvernées et qui n'élargit que lorsque les preuves s'accumulent aboutira à quelque chose de plus durable que celle qui privilégie d'abord l'échelle puis la gouvernance. 

Commencer par le strict nécessaire et s'étendre au fur et à mesure que les preuves s'accumulent dépend d'une gouvernance instaurée dès le premier jour. Voyez comment les dirigeants pharmaceutiques peuvent déployer une IA gouvernée sans compromettre la qualité ou la responsabilité.
Lire : Le prochain modèle opérationnel de l’industrie pharmaceutique : une intelligence gouvernée, pas l’automatisation pour elle-même

Où cela laisse l'industrie 

Je ne m’attends pas à ce que l’IA remplace l’expertise pharmaceutique. Le scénario le plus probable est un changement progressif de la façon dont les spécialistes passent leur temps, le logiciel prenant en charge une plus grande partie de la recherche d’informations et les personnes accordant davantage d’attention aux jugements nécessitant un raisonnement scientifique et éthique. 

Ce que j’aimerais voir, c’est que les sociétés pharmaceutiques accordent au volet organisationnel de l’IA la même importance qu’au volet technique, en traitant la responsabilité et la surveillance comme faisant partie de l’investissement plutôt que comme de la paperasserie qui en découle. Dans une industrie réglementée, je suppose que l’IA qui s’avérera la plus utile sera celle qu’une entreprise peut expliquer et qu’elle est prête à soutenir. 

Références 

1. U.S. Food and Drug Administration. Considerations for the Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products (Draft Guidance), janvier 2025. https://www.fda.gov/regulatory-information/search-fda-guidance-documents/considerations-use-artificial-i ntelligence-support-regulatory-decision-making-drug-and-biological 

2. Commission européenne, DG Santé et Sécurité alimentaire. Consultation des parties prenantes sur le volume 4 d’EudraLex, Lignes directrices GMP : Chapitre 4, Annexe 11 et nouvelle Annexe 22 (consultation close le 7 octobre 2025). https://health.ec.europa.eu/consultations/stakeholders-consultation-eudralex-volume-4-good-manufacturin g-practice-guidelines-chapter-4-annex_en 

3. Arnold & Porter (via Mondaq). L’UE consulte sur de nouvelles règles GMP pour l’IA dans la fabrication pharmaceutique, 15 juillet 2025. https://www.mondaq.com/new-technology/1650932/eu-consults-on-new-gmp-rules-for-ai-in-pharma-man ufacturing 

4. ICH. Q10 Pharmaceutical Quality System (Step 4), 2008. https://database.ich.org/sites/default/files/Q10%20Guideline.pdf 

5. Agence européenne des médicaments et U.S. FDA. Principes directeurs de la bonne pratique de l’IA dans le développement de médicaments, janvier 2026. https://www.ema.europa.eu/en/documents/other/guiding-principles-good-ai-practice-drug-development_en .pdf 

6. Parasuraman, R. et Manzey, D. H. Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381-410, 2010. https://doi.org/10.1177/0018720810376055