Gouvernance de l'IA dans l'industrie pharmaceutique : devient-elle la nouvelle GMP ?

Table des matières

1. Qu'est-ce que la gouvernance de l'IA, au juste ?
2. Pourquoi les BPF sont-ils devenus la référence en premier lieu ?
3. Les parallèles entre la gouvernance de l'IA et les BPF
4. Où la gouvernance de l'IA prend-elle encore du retard ?
5. Que font déjà les autorités de régulation ?
6. Construire un cadre de gouvernance de l'IA : un point de départ pratique
7. Un scénario réel : quand la gouvernance aurait-elle aidé ?
8. Qu'est-ce que cela signifie pour les perspectives concurrentielles de l'industrie pharmaceutique ?
9. Pour conclure !
10. FAQ

Pendant des décennies, les Bonnes Pratiques de Fabrication, ou BPF, ont été la colonne vertébrale de la confiance dans le secteur pharmaceutique. C'est la raison pour laquelle un comprimé fabriqué dans un pays fonctionne exactement de la même manière qu'un comprimé fabriqué dans un autre, et la raison pour laquelle les autorités, les médecins et les patients peuvent faire confiance à un médicament sans vérifier personnellement chaque lot.

Aujourd'hui, alors que l'IA occupe discrètement des fonctions décisionnelles autrefois exercées par des humains, une nouvelle question se pose : l'IA a-t-elle besoin de sa propre version des BPF ? Décomposons ce que signifie réellement la gouvernance de l'IA, pourquoi elle devient urgente et si elle mérite une place aux côtés des BPF comme pilier central de la qualité pharmaceutique.

Qu'est-ce que la gouvernance de l'IA, au juste ?

La gouvernance de l'IA est simplement l'ensemble des règles, contrôles et responsabilités qu'une entreprise met en place pour s'assurer que ses systèmes d'IA se comportent de manière sûre, équitable et prévisible. Pensez-y comme au manuel qui détermine combien de confiance un algorithme peut gagner avant qu'un humain ne doive intervenir.

Dans le domaine pharmaceutique, cela se manifeste dans des domaines tels que :

1. Les algorithmes de découverte de médicaments qui suggèrent quelles molécules méritent d'être testées.
2. Les modèles d'essais cliniques qui prédisent les résultats pour les patients ou signalent des signaux de sécurité.
3. Les systèmes de fabrication qui ajustent les paramètres de production en temps réel.
4. Les outils de soumission réglementaire qui aident à rédiger des documents pour les autorités sanitaires.

Chacune de ces utilisations entraîne des conséquences réelles si l'IA se trompe, ce qui explique précisément pourquoi la gouvernance est si importante ici.

Pourquoi les BPF sont-ils devenus la référence en premier lieu ?

Pour comprendre pourquoi la gouvernance de l'IA est comparée aux BPF, il aide de se rappeler ce que les BPF ont réellement résolu. Avant leur existence, la qualité des médicaments variait énormément entre les fabricants, et il n'existait pas de moyen cohérent de garantir la sécurité. Les BPF ont réglé cela en exigeant :

1. Des processus documentés pour chaque étape de la fabrication.
2. Des contrôles qualité cohérents à des points définis de la production.
3. La traçabilité, afin que tout problème puisse être retracé jusqu'à sa source.
4. La responsabilité, avec des personnes nommées responsables de chaque étape.

La gouvernance de l'IA commence à suivre exactement la même logique, appliquée aux algorithmes plutôt qu'aux lignes d'assemblage.

Les parallèles entre la gouvernance de l'IA et les BPF

La comparaison n'est pas qu'un titre accrocheur, elle tient étonnamment bien quand on y regarde de plus près :

a) Les deux exigent une documentation : Les BPF exigent des enregistrements de lots ; la gouvernance de l'IA exige une documentation des modèles montrant comment un système a été entraîné et validé.

b) Les deux exigent une validation avant utilisation : Un processus de fabrication doit être validé avant d'être lancé à grande échelle, et de plus en plus, un modèle d'IA doit être validé avant qu'il n'influence une décision réelle.

c) Les deux nécessitent une surveillance continue : Les BPF incluent des contrôles qualité continus ; les systèmes d'IA nécessitent une surveillance continue des performances pour détecter la dérive ou les erreurs au fil du temps.

d) Les deux attribuent une responsabilité claire : Tout comme une Personne Qualifiée approuve un lot de médicament, quelqu'un doit désormais approuver les sorties d'un système d'IA.

e) Les deux existent pour protéger les patients : Au cœur, les BPF empêchent que des lots défectueux parviennent aux personnes, et la gouvernance de l'IA vise à empêcher que de mauvaises décisions algorithmiques fassent de même.

Où la gouvernance de l'IA accuse-t-elle encore du retard ?

Malgré les parallèles, la gouvernance de l'IA n'est pas aussi mature que les BPF, et quelques lacunes méritent d'être soulignées :

1. Pas de norme universelle pour l'instant Les BPF bénéficient de décades de lignes directrices reconnues au niveau mondial ; les cadres de gouvernance de l'IA sont encore en cours de rédaction et varient selon les régions.
2. Plus difficile à auditer car le processus de fabrication peut être inspecté physiquement, alors que la logique interne d'un modèle d'IA est souvent difficile à expliquer complètement, même à ses propres développeurs.
3. Rythme de changement plus rapide puisque les modèles d'IA sont mis à jour beaucoup plus fréquemment que les équipements de production, ce qui rend la validation statique et ponctuelle moins utile.
4. Pénurie de compétences puisque peu d'auditeurs ou d'inspecteurs possèdent actuellement les compétences techniques nécessaires pour évaluer les systèmes d'IA comme ils évaluent les lignes de production.

Ces lacunes ne sont pas des raisons de rejeter la gouvernance de l'IA. Ce sont des raisons pour qu'elle mûrisse rapidement.

L'UE n'attend pas une norme universelle ; l'Annexe 22 précise déjà à quoi ressemble l'AI-GMP pour les fabricants.

Voici ce qu'elle exige.

→ Lire : Annexe 22 de l'UE : Le guide AI-GMP pour les fabricants pharmaceutiques

Que font déjà les autorités réglementaires ?

Les organismes de réglementation n'ont pas ignoré ce changement. Plusieurs initiatives façonnent déjà l'apparence de la gouvernance de l'IA en pharma :

1) Des documents d'orientation des principales autorités sanitaires commencent à traiter de l'utilisation de l'IA et de l'apprentissage automatique dans le développement et la fabrication de médicaments.

2) Des cadres fondés sur le risque sont proposés, où les applications d'IA à risque plus élevé, comme celles affectant la sécurité des patients, font l'objet d'une supervision plus stricte que les applications à moindre risque, comme les outils de planification.

3) Les attentes en matière de contrôle des changements sont étendues pour couvrir les modèles d'IA qui sont réentraînés ou mis à jour après l'approbation initiale.

4) La collaboration intersectorielle augmente, avec des régulateurs, des entreprises et des fournisseurs de technologies travaillant ensemble pour définir des normes communes avant que des problèmes n'imposent des règles réactives.

Cela reflète la façon dont les BPF elles-mêmes ont évolué au fil du temps : par un mélange de pratiques industrielles et de réactions réglementaires, et non par une règle unique rédigée d'un seul coup.

Élaborer un cadre de gouvernance de l'IA : un point de départ pratique

Les entreprises qui souhaitent anticiper ce changement n'ont pas besoin d'attendre une clarté réglementaire parfaite. Un cadre raisonnable peut commencer par quelques étapes concrètes :

1. Inventorier chaque système d'IA utilisé actuellement, des outils de découverte aux algorithmes de production, afin que rien n'opère sans supervision.
2. Classer chaque système par niveau de risque, en concentrant le plus d'attention sur les outils qui affectent directement la sécurité des patients ou la qualité du produit.
3. Attribuer une responsabilité claire, de sorte que chaque système d'IA ait une personne nommée responsable de ses performances et de ses résultats.
4. Documenter les données d'entraînement et les méthodes de validation, en créant une traçabilité similaire à un enregistrement de lot de fabrication.
5. Mettre en place une surveillance continue, en recherchant la dérive de performance de la même manière qu'une équipe qualité surveille les écarts de processus.

Il ne s'agit pas de freiner l'innovation. Il s'agit de s'assurer que l'innovation ne dépasse pas la responsabilité.

Vous n'avez pas à construire ce cadre à partir de zéro.

Le GAMP AI Guide de 290 pages de l'ISPE est déjà la feuille de route la plus autoritaire de l'industrie, voici ce qu'il contient.

→ Lire : Guide ISPE GAMP pour l'IA en pharmacie : Guide de leadership

Un scénario concret : quand la gouvernance aurait-elle aidé ?

Pour voir pourquoi cela importe au-delà de la théorie, imaginez une entreprise pharmaceutique de taille moyenne utilisant un modèle d'IA pour signaler des signaux de sécurité potentiels dans les données d'essais cliniques. Le modèle fonctionne bien lors de la validation, il est donc déployé sur plusieurs essais en cours.

Au fil du temps, la population de patients d'un essai change légèrement, et la précision du modèle décline discrètement sans que personne ne le remarque, puisqu'aucun suivi n'est effectué comme on suivrait un processus de fabrication. Un véritable signal de sécurité est manqué pendant des semaines avant qu'un examinateur humain ne remarque la divergence lors d'un audit de routine.

Dans un cadre de gouvernance de type BPF, ce scénario serait différent. Le modèle aurait un propriétaire nommé qui surveille la dérive de performance. La documentation indiquerait exactement quand et comment le modèle a été validé pour la dernière fois.

Un déclencheur de réévaluation existerait chaque fois que la population de patients sous-jacente change de manière significative. Rien de cela n’élimine complètement le risque, mais cela réduit la fenêtre durant laquelle un problème peut passer inaperçu, ce que les BPF ont toujours précisément fait pour la fabrication physique.

Qu’est-ce que cela signifie pour les perspectives concurrentielles de l’industrie pharmaceutique ?

Au-delà de la conformité, une gouvernance solide de l’IA devient un véritable avantage commercial, et pas seulement une mesure défensive. Considérez ce qui est en jeu :

1) Les entreprises disposant d’une gouvernance de l’IA mature peuvent avancer plus rapidement dans l’examen réglementaire, puisque les inspecteurs font davantage confiance aux systèmes documentés et auditables qu’aux systèmes opaques.

2) Une gouvernance faible augmente le risque d’erreurs coûteuses, comme un algorithme défaillant approuvant un lot défectueux ou manquant un signal de sécurité dans les données d’essai.

3) Les investisseurs et les partenaires intègrent de plus en plus la maturité de la gouvernance de l’IA dans leur diligence raisonnable, en particulier pour les accords de licence et les acquisitions.

4) Les premiers adoptants de cadres de gouvernance solides sont plus susceptibles de façonner les normes réglementaires émergentes, plutôt que de se précipiter pour satisfaire des règles écrites sans leur contribution.

5) La confiance du public, déjà fragile autour de l’IA dans les soins de santé, est plus facile à gagner et à maintenir pour les entreprises qui peuvent expliquer clairement comment leurs algorithmes sont contrôlés et vérifiés.

Dans une industrie où la confiance est le véritable produit vendu aux côtés du médicament, la gouvernance n’est pas une charge. C’est une partie de ce qui rend le médicament crédible.

En résumé !

La gouvernance de l’IA dans le secteur pharmaceutique suit une trajectoire qui ressemble beaucoup à celle qu’ont suivie les BPF il y a des décennies : commençant par des bonnes pratiques dispersées, se durcissant progressivement en attentes formelles, et devenant finalement indissociable de ce que signifie opérer de façon responsable.

Ce n’est pas encore totalement le cas. Les normes sont encore en formation, les audits restent difficiles et les talents pour superviser le tout demeurent rares. Mais la direction est suffisamment claire pour que considérer la gouvernance de l’IA comme optionnelle serait une erreur.

Tout comme aucune entreprise n’omettrait les BPF en espérant rester en activité, les entreprises qui prennent au sérieux la gouvernance de l’IA dès maintenant, en intégrant documentation, responsabilité et surveillance dans leurs systèmes d’IA dès le départ, sont celles qui seront les plus susceptibles d’être dignes de confiance et de réussir lorsque cela deviendra la prochaine norme non négociable de l’industrie.

FAQ

1) Qu’est-ce que la gouvernance de l’IA dans l’industrie pharmaceutique ?

La gouvernance de l’IA est un cadre de politiques, de processus et de contrôles qui garantit que les systèmes d’intelligence artificielle fonctionnent de manière sûre, éthique et fiable tout au long de leur cycle de vie. Elle aide les organisations à valider les modèles d’IA, à surveiller leurs performances et à maintenir la responsabilité des décisions pilotées par l’IA. Cela soutient la conformité réglementaire tout en protégeant la qualité des produits et la sécurité des patients.

2) Pourquoi compare-t-on la gouvernance de l’IA aux BPF ?

La gouvernance de l’IA et les Bonnes Pratiques de Fabrication (BPF) partagent l’objectif commun d’assurer la cohérence, la transparence et la confiance dans les opérations pharmaceutiques. Alors que les BPF se concentrent sur les processus de fabrication, la gouvernance de l’IA applique des principes similaires au développement, à la validation et à la surveillance des systèmes d’intelligence artificielle. Ensemble, ils aident à réduire les risques et à garantir des prises de décision fiables dans l’ensemble du secteur.

3) Pourquoi la gouvernance de l’IA est-elle importante pour l’avenir de la pharmacie ?

À mesure que l’IA est de plus en plus utilisée dans la découverte de médicaments, la fabrication et le développement clinique, une gouvernance efficace est essentielle pour gérer les risques et maintenir la confiance des autorités de réglementation. Un cadre solide de gouvernance de l’IA aide les organisations à améliorer la responsabilité, à minimiser les erreurs et à renforcer la confiance dans les processus assistés par l’IA. Il prépare également les entreprises aux attentes réglementaires évolutives et aux futures normes du secteur.