Statique, déterministe, explicable : lecture du projet d'annexe 22

Introduction

La fabrication pharmaceutique est devenue discrètement l’un des plus grands terrains d’essai pour l'intelligence artificielle. Des modèles de maintenance prédictive signalent des pompes défaillantes avant qu'elles ne tombent en panne. Des systèmes de vision détectent des défauts sur les lignes d'emballage. Des modèles de procédé prédisent les résultats de lots avant qu’un produit n’atteigne les tests finaux. Cette croissance a dépassé les règles censées la régir, laissant les équipes qualité décider, en grande partie seules, quels outils d'IA il est sûr de laisser prendre des décisions affectant la sécurité des patients.

Les régulateurs ont suivi de près cette évolution et, en juillet 2025, y ont répondu par un nouveau manuel : le projet d’Annexe 22 des lignes directrices EU GMP. Son idée centrale peut se résumer en trois mots : statique, déterministe, explicable. Cet article explique ce que signifient ces mots, pourquoi ils comptent et ce qu'ils indiquent pour le choix des modèles d'IA dans la fabrication réglementée.

Ce qu’est réellement le projet d’Annexe 22

Annexe 22 est un nouvel ajout à EudraLex Volume 4, le manuel qui régit la Bonne pratique de fabrication (GMP) dans l'Union européenne. Il a été rédigé conjointement par le groupe de travail des inspecteurs GMP/GDP de l'Agence européenne des médicaments et par le Pharmaceutical Inspection Co-operation Scheme (PIC/S), dont l’adhésion s'étend bien au-delà de l'UE. Le projet a été publié pour consultation publique le 7 juillet 2025, parallèlement à une Annexe 11 révisée sur les systèmes informatisés et à une mise à jour du Chapitre 4 sur la documentation. 

À la date de rédaction de cet article, l'Annexe 22 reste un projet. Elle n'a pas été publiée en tant qu'orientation finale EU GMP, et la page officielle d'EudraLex Volume 4 répertorie encore uniquement les versions antérieures du Chapitre 4 et de l'Annexe 11. Les estimations pour la publication finale varient selon les sources industrielles, allant du milieu de 2026 à plus tard dans l'année, mais aucune date confirmée n'a été annoncée. Les fabricants devraient considérer le texte actuel comme une orientation, et non comme une loi, tout en se préparant à sa forme probable.

La règle expliquée en trois mots

La restriction de portée centrale de l'Annexe 22 repose sur trois idées liées :

1. Statique signifie que les paramètres internes du modèle sont figés une fois déployés. Il n'apprend pas continuellement à partir de nouvelles données en production.

2. Déterministe signifie que la même entrée produit toujours la même sortie. Il n'y a pas d'aléa intégré au résultat.

3. Explicable signifie que le raisonnement derrière la sortie d'un modèle peut être retracé et justifié en des termes compréhensibles pour un relecteur qualité ou un inspecteur, plutôt que laissé à l'intérieur comme une "boîte noire".

Ensemble, ces trois propriétés décrivent un modèle qui se comporte comme un logiciel bien validé : prévisible, reproductible et vérifiable, même s'il a été construit à l'aide de l'apprentissage machine plutôt que par du code écrit à la main.

Ce qui est autorisé et ce qui est exclu

La portée de l'Annexe 22 est délibérément étroite. Elle s'applique uniquement aux modèles d'IA et d'apprentissage automatique utilisés dans des applications critiques pour les GMP, c'est‑à‑dire des usages ayant un lien direct avec la qualité du produit, l'intégrité des données ou la sécurité des patients.

Cela signifie que les outils conçus pour le raisonnement ouvert ou la génération de contenu, aussi utiles qu'ils soient ailleurs dans une entreprise, ne sont pas conçus pour le type de comportement fixe et testable qu'exige l'Annexe 22 pour les rôles critiques.

Pourquoi les régulateurs ont tracé la ligne ici

La logique découle directement de la façon dont les BPF ont toujours fonctionné. Un système validé doit se comporter de manière cohérente chaque fois qu'il reçoit la même entrée. C'est le fondement de la validation des procédés, de la validation des systèmes informatiques et des décisions de libération de lots selon l'Annexe 11. Un modèle qui continue de s'adapter après le déploiement rompt cette hypothèse, car un exercice de validation réalisé le mois dernier peut ne plus décrire le comportement actuel du système.

L'explicabilité résout un problème connexe. Dans le cadre des BPF, quelqu'un, habituellement une Personne Qualifiée, doit être capable de justifier une décision de libération de lot. Si un modèle d'IA contribue à cette décision, sa logique doit être suffisamment traçable pour qu'un humain puisse la défendre lors d'une inspection. L'Annexe 22 exige que les modèles consignent les attributions de caractéristiques et les scores de confiance, afin que la base d'une prédiction soit visible plutôt que cachée.

Vues ensemble, les trois exigences ressemblent moins à une interdiction de l'IA moderne qu'à une tentative d'étendre la réflexion familière sur la validation au machine learning. L'Annexe 11 a été rédigée pour des logiciels basés sur des règles qui se comportent de manière constante à chaque exécution. L'Annexe 22 cherche à soumettre les modèles plus récents, entraînés sur des données, au même standard, plutôt que d'inventer un ensemble d'attentes totalement distinct.

L'Annexe 22 n'est pas le seul endroit où la gouvernance de l'IA remodèle les BPF ; voyez comment la gouvernance de l'IA elle-même devient la nouvelle référence de conformité.

→ Lire : La gouvernance de l'IA dans l'industrie pharmaceutique est-elle la nouvelle BPF ?

Qu'est-ce qui compte comme usage « critique »

Toutes les applications d'IA dans une usine pharmaceutique ne relèvent pas de l'Annexe 22. L'annexe distingue entre :

1. Applications critiques, où une sortie d'IA affecte directement la qualité du produit, la sécurité du patient ou l'intégrité des données — par exemple, un modèle décidant si un paramètre de lot est conforme aux spécifications.

2. Applications non critiques, où l'IA soutient le travail sans piloter directement une décision de qualité — par exemple, la rédaction d'une première version d'un rapport, qu'un humain relit ensuite et finalise.

Les usages non critiques bénéficient de plus de flexibilité, y compris l'utilisation limitée d'outils génératifs, à condition qu'une personne qualifiée révise la sortie avant qu'elle ne soit appliquée. Les usages critiques n'ont pas cette flexibilité ; le modèle lui-même doit répondre à la norme statique, déterministe et explicable.

Une liste de contrôle avant déploiement

Les fabricants se préparant à l'Annexe 22 sont invités à vérifier les éléments suivants avant de confier à un modèle d'IA un rôle critique sous BPF :

1. Confirmer que le modèle n'apprend ni ne se met à jour après le déploiement.

2. Confirmer que les résultats sont reproductibles : même entrée, même résultat, à chaque fois.

3. Documenter l'attribution des caractéristiques et l'évaluation de la confiance pour chaque type de prédiction.

4. Utiliser des données de test indépendantes des données ayant servi à entraîner le modèle.

5. Définir des critères d'acceptation et un plan de test documenté avant la mise en production.

6. Attribuer une équipe pluridisciplinaire : assurance qualité, experts des procédés, data scientists et informatique, avec une responsabilité claire.

7. Prévoir une voie de secours vers la revue humaine si la confiance tombe en dessous d'un seuil défini.

8. Conserver une documentation complète de la piste d'audit prête pour l'inspection.

Où en est encore le débat

Tout le monde n'est pas d'accord avec le tracé exact de la limite tel que proposé par l'Annexe 22. Des groupes industriels ont résisté à l'exclusion totale de l'IA générative et des grands modèles de langage des usages critiques, soutenant qu'une approche plus étroite et basée sur le risque pourrait être préférable à mesure que la technologie mûrit. Cela s'inscrit dans une vague plus large de politique pharmaceutique de l'UE, évoluant en parallèle.

Le Critical Medicines Act, visant à renforcer les chaînes d'approvisionnement en médicaments, n'a atteint qu'un accord politique provisoire entre le Conseil et le Parlement le 12 mai 2026 ; il nécessite encore une adoption formelle et une révision linguistico-juridique avant d'entrer en vigueur. L'Annexe 22 se situe à un stade similaire : discutée politiquement, rédigée techniquement, mais pas encore loi. Pour l'instant, considérez les deux comme des signaux d'orientation plutôt que comme des obligations de conformité définitives.

L'Annexe 22 n'est pas encore loi, mais cela n'exempte pas les fabricants de se préparer — voyez dans quoi il vaut la peine d'investir maintenant.
→ Lire : Annexe 22 : pas encore loi, dans quoi investir

Conclusion

Le projet d'Annexe 22 trace une frontière claire, bien que prudente, autour de l'IA dans les travaux critiques relevant des BPF : la maintenir statique, la garder déterministe et s'assurer que chaque décision puisse être expliquée. Cette limite exclut des rôles critiques les outils d'IA les plus médiatisés d'aujourd'hui, tout en laissant de la place pour des modèles plus stables et bien compris, déjà utiles en maintenance prédictive et en surveillance de la qualité. La règle est toujours un projet, mais l'orientation est suffisamment claire pour que les fabricants gagnent peu à attendre le texte final avant de se préparer.

FAQs

Q : Annex 22 est-il juridiquement contraignant pour le moment ?

A : Non. Il reste un projet. La consultation publique s'est clôturée le 7 octobre 2025, et aucune version finale n'a été publiée à la date de rédaction.

Q : Une entreprise pharmaceutique peut-elle utiliser des outils de type ChatGPT en production ?

A : Pas pour les décisions critiques en GMP selon le projet actuel. Les tâches non critiques peuvent utiliser de tels outils à condition d'une revue humaine avant toute action.

Q : Que signifie « static » pour un modèle d'IA dans le cadre de l'Annexe 22 ?

A : Cela signifie que les paramètres du modèle sont figés après le déploiement et ne changent pas par apprentissage continu lors de l'utilisation.

Q : L'Annexe 22 s'applique-t-elle à tous les outils d'IA dans une entreprise pharmaceutique ?

A : Non. Elle s'applique spécifiquement aux modèles utilisés dans des applications critiques pour les GMP liées à la qualité du produit, à l'intégrité des données ou à la sécurité des patients.

Q : Quand l'Annexe 22 sera-t-elle finalisée ?

A : Aucune date de publication confirmée n'a été annoncée. Les estimations de l'industrie évoquent un moment en 2026, mais les fabricants doivent consulter directement EudraLex Volume 4 pour la publication officielle.