Approche pragmatique de l'IA en pharmacovigilance

Intelligence artificielle (IA) a été rapidement intégrée à divers aspects du secteur pharmaceutique — de la découverte de médicaments à la pharmacovigilance. Dans ce dernier domaine, l’intelligence artificielle générative (GenAI) présente un potentiel exceptionnel. Cependant, alors que les systèmes d’IA sont développés et largement utilisés en pharmacovigilance, il est nécessaire d’évaluer leurs implications et leur déploiement.

Il est nécessaire d’établir une compréhension commune des systèmes d’IA et de leurs implications afin de créer un paysage de confiance pour l’IA. Cela inclut l’identification et l’évaluation de leurs avantages, inconvénients et risques potentiels. L’établissement de cette compréhension commune permettra à toutes les parties prenantes de collaborer efficacement et de développer des systèmes d’IA alignés sur les valeurs et attentes de la société. L’adoption rapide de l’IA exige le développement d’une approche méticuleuse, digne de confiance et centrée sur l’humain pour garantir que les systèmes d’IA respectent la vie privée, l’équité, la transparence et la conformité lors des activités de pharmacovigilance.

Le Union européenne (UE) AI Act joue un rôle crucial en définissant des normes mondiales pour le développement responsable des systèmes d’IA. L’établissement de réglementations similaires et de normes/pratiques exemplaires internationales est tout aussi essentiel pour garantir le développement et la mise en œuvre responsables des systèmes d’IA. Toutefois, cela devrait rencontrer plusieurs défis.

Défis de l’intégration de l’IA en pharmacovigilance

Les entreprises des sciences de la vie font face à plusieurs défis pour intégrer l’IA en pharmacovigilance, comme suit :

• Attentes de la direction : La direction subit une pression immense de la part des parties prenantes pour moderniser les processus actuels avec des technologies d’IA. Cependant, cela est difficile car tous les systèmes de sécurité en pharmacovigilance contiennent des informations essentielles. Une intégration appropriée est cruciale pour garantir que l’entreprise conserve la conformité réglementaire et protège toutes les données.
• Inquiétudes de la main-d’œuvre : La main-d’œuvre dans le domaine de la pharmacovigilance comprend souvent des infirmiers/infirmières, des médecins, des pharmaciens et des scientifiques qui craignent pour la sécurité de leur emploi en raison de l’automatisation. Par conséquent, le développement des compétences et la formation sont essentiels pour assurer que le personnel actuel accepte et adopte les nouvelles technologies d’IA.
• Exigences des fournisseurs : Les fournisseurs qui proposent des systèmes/services de sécurité subissent la pression d’intégrer des outils d’IA dans leurs solutions tout en respectant des exigences juridiques et réglementaires mondiales complexes. Cependant, répondre à cette attente est difficile.

Cadre juridique

Le développement de produits pharmaceutiques est fortement réglementé car il garantit que le produit final développé et approuvé est sûr et efficace. Alors que les entreprises tentent d’intégrer l’IA, elles doivent naviguer dans les cadres réglementaires existants. Chaque cadre pose des défis uniques.

Union européenne

L’UE est à la tête de tous les cadres réglementaires en matière d’intégration de l’IA grâce à la loi AI de l’UE. Cette loi catégorise les systèmes d’IA en fonction des risques potentiels et fixe des exigences de mise en œuvre. En général, ils sont divisés en trois :

• Applications à haut risque : Ces applications sont soumises à une surveillance stricte.
• Applications interdites : Certaines applications des systèmes d’IA, telles que les technologies de reconnaissance faciale et émotionnelle, sont entièrement interdites.
• Applications autorisées/exemptions : Certaines applications d’IA, telles que l’IA en médecine pour la recherche et le développement, sont autorisées mais doivent respecter des principes de gouvernance et de responsabilité.

Le non-respect de la loi AI de l’UE peut entraîner plusieurs sanctions financières, c.-à-d. entre 3 % et 7 % du chiffre d’affaires mondial de l’entreprise. Bien que la plupart des systèmes d’IA de développement de médicaments soient peu susceptibles d’être classés « à haut risque », des orientations supplémentaires sur l’application de la loi AI apporteront clarté et certitude.

États-Unis

Les États-Unis n’ont pas de réglementation globale pour la mise en œuvre des systèmes d’IA. À la place, les réglementations sur l’IA sont mises en œuvre par diverses actions au niveau fédéral et des États. Certaines actions clés incluent :

• Décret exécutif 14110 : Publié en octobre 2023, le décret exécutif 14110 encourage la collaboration de toutes les agences fédérales pour élaborer des lignes directrices pour l’utilisation sûre de l’IA dans des industries et technologies spécifiques.
• Cadre RMF du NIST : Celui-ci a été développé par plus de 240 membres des industries privées, du monde universitaire et du gouvernement. Il fournit un cadre pour le développement digne de confiance des systèmes d’IA. Il vise à aider les organisations à adresser et gérer les risques liés à l’IA.

Il existe diverses législations émergentes en matière de confidentialité, comme l’American Privacy Rights Act de 2024, qui vise à influencer les lois sur l’IA en se concentrant sur l’impact des évaluations pour le traitement et le transfert des données. Toutefois, ces législations en sont encore à leurs débuts et peuvent encore être influencées par divers facteurs socioéconomiques et politiques (par ex., les élections présidentielles de décembre 2024).

Tendances mondiales

À l’échelle mondiale, la réglementation de l’IA gagne également en reconnaissance, et de nombreux pays adoptent des approches différentes pour encadrer l’IA. Comme l’IA a un impact similaire dans les régions et les pays, de nombreux membres du public et plusieurs États ont encouragé la coopération internationale avec des organisations comme les Nations Unies (UN) et l’Organisation de coopération et de développement économiques (OCDE) pour établir des normes mondiales pour le développement et la mise en œuvre éthiques de l’IA.

De nombreux pays, comme le Rwanda, le Nigeria et l’Afrique du Sud, utilisent le EU AI Act comme modèle pour élaborer leurs propres réglementations sur l’IA. D’autres pays, comme la Chine, n’adoptent pas une approche unifiée de l’IA mais mettent en œuvre des règles spécifiques pour différents systèmes d’IA.

Par conséquent, sur le plan mondial, chaque pays navigue individuellement dans la réglementation de l’IA en se fondant sur ses normes éthiques et commerciales. Cependant, une législation ou une réglementation mondiale pourrait bénéficier à tous les pays et orienter l’utilisation et le développement sûrs des systèmes d’IA.

Cas d’utilisation actuels de l’IA en pharmacovigilance

Les entreprises intègrent rapidement des systèmes d’IA pour automatiser des tâches et réduire les travaux humains — et, par extension, les erreurs humaines. Il existe de nombreuses applications de l’IA en pharmacovigilance. Voici quelques-unes des applications les plus importantes :

• Rapports individuels de sécurité des cas (ICSR) : Des bots basés sur des règles et des techniques de traitement du langage naturel peuvent automatiser le traitement et la saisie des cas.
• Contrôle qualité et surveillance de la conformité : Des systèmes automatisés, y compris ceux dotés d’IA, peuvent automatiser la validation des données, l’audit et la détection d’anomalies pour garantir la qualité des données et la conformité.
• Détection et gestion des signaux : Des outils automatisés peuvent transférer les informations de sécurité depuis les systèmes sources, réduisant l’effort manuel. Ensuite, des algorithmes d’apprentissage automatique peuvent effectuer l’exploration de données et la reconnaissance de motifs.

Cas d’utilisation émergents du GenAI en pharmacovigilance

Le GenAI améliore l’efficacité des processus, fournit des insights et facilite la prise de décision. Par conséquent, il peut être largement mis en œuvre en pharmacovigilance. Voici quelques-unes des applications les plus importantes :

• Création d’ICSR : L’IA peut générer des ICSR à partir de sources de données structurées et non structurées.
• Évaluation médicale : L’IA peut automatiser les évaluations de la gravité et de la causalité.
• Génération de récits et de documents : Les grands modèles de langage (LLMs) peuvent générer des synthèses détaillées des cas sans erreurs humaines, améliorant l’efficacité opérationnelle. Les LLMs peuvent également rédiger des rapports réglementaires complets.
• Notification des effets indésirables : Les chatbots alimentés par l’IA peuvent améliorer la rapidité et la précision de la collecte des données. Par exemple, les communications de suivi avec les patients peuvent également être automatisées par l’IA, garantissant la collecte des données en temps voulu.
• Identification et caractérisation des signaux : Les LLMs peuvent analyser des données provenant de différentes sources pour détecter précocement des signaux de sécurité, réduisant le délai et les faux positifs.
• Requête de données en temps réel : Les LLMs peuvent améliorer l’interaction avec les référentiels de données, fournissant des insights en temps réel pour une validation plus rapide des signaux.

Futurs modèles opérationnels et transformation de la main-d’œuvre

À mesure que les entreprises adoptent l’IA ou le GenAI, elles doivent adapter ces systèmes à leurs exigences uniques en pharmacovigilance tout en maintenant une supervision du développement et du déploiement des systèmes d’IA. Les entreprises doivent favoriser la collaboration et l’engagement avec les parties prenantes internes et externes pour partager les meilleures pratiques et résoudre les défis.

Lors de l’intégration de nouveaux modèles opérationnels, les organisations doivent adopter une approche sur mesure. Voici quelques meilleures pratiques organisationnelles lors de la mise en œuvre de l’IA en pharmacovigilance :

1. Responsabilité et gouvernance : Les organisations doivent établir un comité de gouvernance de l’IA pour superviser la stratégie IA et la conformité. Un cadre de gouvernance de l’IA doit être développé et régulièrement mis à jour. Elles doivent également nommer un représentant pour surveiller toutes les implications éthiques et assurer la conformité.
2. Transparence et explicabilité : Lors du développement et du déploiement de l’IA, les entreprises doivent privilégier la transparence. Une documentation complète du développement, des tests et des performances des systèmes d’IA doit être tenue.
3. Supervision et contrôle humains : La supervision humaine est nécessaire dans les cas d’utilisation de l’IA à haut risque. À cet effet, des approches human-in/on-the-loop peuvent être mises en œuvre pour maintenir le jugement humain dans la prise de décision pilotée par l’IA.
4. Équité et non-discrimination : Les entreprises doivent donner la priorité à l’équité et à la non-discrimination lors du développement et du déploiement de l’IA. Des évaluations régulières des biais doivent être effectuées, et des ensembles de données d’entraînement divers doivent être utilisés pour éviter la discrimination.
5. Confidentialité et gouvernance des données : Établir des pratiques solides de gouvernance des données et des principes de confidentialité dès la conception. La propriété de tout contenu et de toutes les données générés par l’IA doit être vérifiée afin de s’assurer qu’elle ne porte pas atteinte aux droits de propriété intellectuelle.

De plus, plusieurs considérations de processus doivent être prises en compte lors de la mise en œuvre de systèmes d’IA :

1. Évaluation des risques :Les organisations doivent évaluer le risque de tous les systèmes d’IA déployés en pharmacovigilance et développer des mesures appropriées d’analyse et d’atténuation des risques.
2. Gestion des fournisseurs :Lors de l’utilisation de fournisseurs d’IA, les rôles de toutes les personnes doivent être définis. De plus, la propriété des données et le consentement à leur utilisation doivent être clairement établis. La conformité des fournisseurs aux exigences réglementaires et à la structure de gouvernance interne de l’entreprise doit être évaluée régulièrement. Les conséquences en cas de non-conformité et les modalités de résiliation du contrat doivent être définies.
3. ValidationDes techniques de validation doivent être intégrées aux systèmes d’IA pour assurer la traçabilité des sources de données.
4. Surveillance continue : La surveillance et les contrôles continusdoivent garantir que le système fonctionne en toute sécurité. Les entreprises doivent définir des indicateurs de réussite raisonnables pour déterminer le succès du projet. Des évaluations fréquentes de la qualité sont nécessaires pour maintenir la conformité.

Conclusion

L’intégration de l’IA en pharmacovigilance offre diverses opportunités. Cependant, une stratégie collaborative doit être établie pour s’assurer que les systèmes d’IA développés et déployés répondent aux attentes. Bien que ce développement soit bénéfique, il sera très probablement difficile car la réglementation sur l’IA est encore en évolution. À mesure que les entreprises naviguent individuellement dans les eaux législatives et réglementaires et tentent d’élaborer leur propre cadre réglementaire pour l’IA, elles peuvent maintenir la conformité en développant des cadres de gouvernance internes. À mesure que les cas d’utilisation de l’IA en pharmacovigilance augmentent, les entreprises doivent créer leurs stratégies d’IA et les adapter aux nouvelles législations et évolutions.