Approccio pragmatico all'IA nella farmacovigilanza

Intelligenza artificiale (AI) è stata rapidamente integrata in vari aspetti del settore farmaceutico — dalla scoperta di farmaci alla farmacovigilanza. In quest’ultima, intelligenza generativa (GenAI) offre una promessa eccezionale. Tuttavia, man mano che i sistemi AI vengono sviluppati e ampiamente utilizzati nella farmacovigilanza, è necessario valutarne le implicazioni e l’implementazione.

È necessario stabilire una comprensione comune dei sistemi AI e delle loro implicazioni per creare un ecosistema AI affidabile. Ciò include l’identificazione e la valutazione dei loro vantaggi, svantaggi e rischi potenziali. Stabilire questa comprensione comune consentirà a tutte le parti interessate di collaborare efficacemente e sviluppare sistemi AI in linea con i valori e le aspettative della società. La rapida adozione dell’AI richiede lo sviluppo di un approccio meticoloso, affidabile e incentrato sull’essere umano per garantire che i sistemi AI mantengano privacy, equità, trasparenza e conformità durante le attività di farmacovigilanza.

Il Unione Europea (UE) AI Act svolge un ruolo cruciale nell’impostare standard globali per lo sviluppo responsabile dei sistemi AI. È altrettanto essenziale stabilire normative e standard/pratiche ottimali internazionali simili per garantire lo sviluppo e l’implementazione responsabili dei sistemi AI. Tuttavia, ciò probabilmente incontrerà diverse sfide.

Sfide nell’integrazione dell’AI nella farmacovigilanza

Le aziende delle scienze della vita affrontano diverse sfide nell’integrazione dell’AI nella farmacovigilanza, come segue:

• Aspettative dei dirigenti: Il la leadership è sottoposta a un'enorme pressione da parte degli stakeholder per modernizzare i processi attuali con tecnologie AI. Tuttavia, ciò è impegnativo poiché tutti i sistemi di sicurezza nella farmacovigilanza contengono informazioni essenziali. Un’integrazione corretta è cruciale per garantire che l’azienda mantenga la conformità normativa e tuteli tutti i dati.
• Preoccupazioni della forza lavoro: La forza lavoro nell’ambito della farmacovigilanza comprende spesso infermieri, medici, farmacisti e scienziati che nutrono preoccupazioni sulla sicurezza del posto di lavoro a causa dell’automazione. Pertanto, upskilling e formazione sono essenziali per garantire che l’attuale forza lavoro accetti e adotti le nuove tecnologie AI.
• Esigenze dei fornitori: I fornitori che offrono sistemi/servizi di sicurezza sono sotto pressione per integrare strumenti AI nelle loro soluzioni rispettando al contempo complesse esigenze legali e normative globali. Tuttavia, soddisfare questa aspettativa è difficile.

Quadro giuridico

Lo sviluppo di prodotti farmaceutici è altamente regolamentato perché garantisce che il prodotto finale sviluppato e approvato sia sicuro ed efficace. Quando le aziende cercano di integrare l’AI, devono districarsi nei quadri normativi esistenti. Ciascun quadro pone sfide uniche.

Unione Europea

L’UE guida tutti i quadri normativi nell’integrazione dell’AI tramite il Regolamento UE sull'IA. Questo Act classifica i sistemi AI in base ai rischi potenziali e definisce requisiti di implementazione. In generale, questi sono divisi in tre categorie:

• Applicazioni ad alto rischio: Queste applicazioni sono soggette a una rigorosa supervisione.
• Applicazioni vietate: Alcune applicazioni dei sistemi AI, come le tecnologie di riconoscimento facciale ed emotivo, sono interamente proibite.
• Applicazioni consentite/esenzioni: Alcune applicazioni AI, come IA in medicina ricerca e sviluppo, sono permesse ma devono aderire ai principi di governance e responsabilità.

La non conformità al EU AI Act può comportare diverse sanzioni finanziarie, cioè tra il 3% e il 7% del fatturato globale dell’azienda. Sebbene la maggior parte dei sistemi AI per lo sviluppo di farmaci probabilmente non saranno classificati come “high-risk”, ulteriori orientamenti sull’applicazione dell’AI Act forniranno chiarezza e certezza.

Stati Uniti

Gli Stati Uniti non dispongono di normative complete per l’implementazione dei sistemi AI. Invece, le regolamentazioni AI vengono attuate attraverso varie azioni a livello federale e statale. Alcune azioni chiave includono:

• Ordine Esecutivo 14110: Emesso nell’ottobre 2023, l’Executive Order 14110 incoraggia la collaborazione di tutte le agenzie federali per sviluppare linee guida per l’uso sicuro dell’AI in settori e tecnologie specifici.
• NIST RMF: Questo è stato sviluppato da oltre 240 membri di industrie private, mondo accademico e governo. Fornisce un quadro per lo sviluppo affidabile dei sistemi AI. Mira ad aiutare le organizzazioni ad affrontare e gestire i rischi dell’AI.

Esistono varie normative emergenti sulla privacy, come l’American Privacy Rights Act del 2024, che mira a influenzare le leggi sull’AI concentrandosi sull’impatto delle valutazioni per il trattamento e il trasferimento dei dati. Tuttavia, queste normative sono ancora nascenti e possono ancora essere influenzate da vari fattori socioeconomici e politici (ad esempio, le elezioni presidenziali del dicembre 2024).

Tendenze globali

A livello globale la regolamentazione dell'AI sta guadagnando riconoscimento e molti paesi stanno adottando approcci diversi alla regolamentazione dell'AI. Poiché l'AI ha un impatto simile nelle varie regioni e nazioni, molti cittadini e molti stati hanno incoraggiato la cooperazione internazionale con organizzazioni come le Nazioni Unite (UN) e l'Organization for Economic Co-operation and Development (OECD) per definire standard globali per lo sviluppo etico e l'implementazione dell'AI.

Molti paesi, come Rwanda, Nigeria e South Africa, stanno utilizzando la EU AI Act come modello per sviluppare le proprie normative sull'AI. Altri paesi, come China, non adottano un approccio unificato all'AI ma stanno implementando regole specifiche per diversi sistemi di AI.

Pertanto, sul fronte globale ogni paese sta navigando individualmente le normative sull'AI utilizzando i propri standard etici e commerciali. Tuttavia, una legislazione o regolamentazione globale potrebbe avvantaggiare tutti i paesi e guiderà l'uso sicuro e lo sviluppo dei sistemi di AI.

Casi d'uso attuali dell'AI nella farmacovigilanza

Le aziende stanno integrando rapidamente sistemi di AI per automatizzare attività e ridurre il lavoro umano—e, di conseguenza, gli errori umani. Esistono molte applicazioni dell'AI nella farmacovigilanza. Ecco alcune delle applicazioni più rilevanti:

• Segnalazioni individuali di sicurezza (ICSR): Bot basati su regole e tecniche di natural language processing possono automatizzare l'elaborazione e l'acquisizione dei casi.
• Controllo qualità e monitoraggio della conformità: Sistemi automatizzati, compresi quelli con AI, possono automatizzare la convalida dei dati, gli audit e il rilevamento di anomalie per garantire la qualità dei dati e la conformità.
• Rilevamento e gestione dei segnali: Strumenti automatizzati possono trasferire le informazioni sulla sicurezza dai sistemi di origine, riducendo lo sforzo manuale. Successivamente, algoritmi di machine learning possono svolgere data mining e riconoscimento di pattern.

Casi d'uso emergenti della GenAI nella farmacovigilanza

La GenAI migliora l'efficienza dei processi, fornisce approfondimenti e facilita il processo decisionale. Pertanto, può essere ampiamente implementata nella farmacovigilanza. Ecco alcune delle applicazioni più rilevanti:

• Creazione di ICSR: AI può generare ICSR a partire da fonti di dati strutturate e non strutturate.
• Valutazione medica: L'AI può automatizzare le valutazioni di gravità e causalità.
• Generazione di narrazioni e documenti: I grandi modelli linguistici (LLMs) possono generare narrazioni dettagliate dei casi senza errori manuali, migliorando l'efficienza operativa. Gli LLM possono inoltre redigere rapporti regolatori esaustivi.
• Segnalazione di eventi avversi: Chatbot potenziati dall'AI possono migliorare la tempestività e l'accuratezza della raccolta dei dati. Per esempio, le comunicazioni di follow-up con i pazienti possono essere automatizzate con l'AI, garantendo la raccolta puntuale dei dati.
• Identificazione e caratterizzazione dei segnali: Gli LLM possono analizzare dati provenienti da diverse fonti per rilevare precocemente segnali di sicurezza, riducendo i tempi di latenza e i falsi positivi.
• Query di dati in tempo reale: Gli LLM possono migliorare l'interazione con i repository di dati, fornendo approfondimenti in tempo reale per una convalida più rapida dei segnali.

Futuri modelli operativi e trasformazione della forza lavoro

Man mano che le aziende adottano AI o GenAI, dovrebbero adattare questi sistemi ai loro requisiti unici di farmacovigilanza mantenendo la supervisione dello sviluppo e del dispiegamento dei sistemi di AI. Le aziende dovrebbero favorire la collaborazione e il coinvolgimento con gli stakeholder interni e esterni per condividere le migliori pratiche e affrontare le sfide.

Quando si integrano nuovi modelli operativi, le organizzazioni devono adottare un approccio su misura. Ecco alcune best practice organizzative nell'implementare l'AI nella farmacovigilanza:

1. Responsabilità e governance: Le organizzazioni devono istituire un comitato di governance dell'AI per supervisionare la strategia di AI e la conformità. Deve essere sviluppato e aggiornato regolarmente un framework di governance dell'AI. Dovrebbero anche nominare un referente per monitorare tutte le implicazioni etiche e garantire la conformità.
2. Trasparenza e spiegabilità: Durante lo sviluppo e il dispiegamento dell'AI, le aziende devono dare priorità alla trasparenza. Devono essere mantenute documentazioni complete sullo sviluppo, i test e le prestazioni dei sistemi di AI.
3. Supervisione e controllo umano: La supervisione umana è necessaria nei casi d'uso ad alto rischio dell'AI. A tal fine possono essere implementati approcci human-in/on-the-loop per mantenere il giudizio umano nelle decisioni guidate dall'AI.
4. Equità e non discriminazione: Le aziende devono prioritizzare equità e non discriminazione durante lo sviluppo e il dispiegamento dell'AI. Devono essere condotte valutazioni periodiche dei bias e devono essere utilizzati dataset di addestramento diversificati per evitare discriminazioni.
5. Privacy e governance dei dati: Stabilire pratiche solide di governance dei dati e principi di privacy-by-design. La titolarità di tutti i contenuti e dati generati dall'AI deve essere verificata per garantire che non violi diritti di proprietà intellettuale.

Inoltre, vi sono diverse considerazioni di processo nell'implementazione di sistemi di AI:

1. Valutazione del rischio: Le organizzazioni devono valutare il rischio di tutti i sistemi di AI implementati nella farmacovigilanza e sviluppare opportune misure di analisi e mitigazione del rischio.
2. Gestione dei fornitori: Nell'utilizzo di fornitori di AI, i ruoli di tutte le persone devono essere chiaramente definiti. Inoltre, la titolarità dei dati e il consenso al loro utilizzo devono essere chiari. La conformità dei fornitori ai requisiti normativi e alla struttura di governance interna dell'azienda deve essere valutata regolarmente. Devono essere stabilite le conseguenze per la non conformità e le conseguenze relative alla risoluzione del contratto.
3. Validazione: Le tecniche di validazione devono essere integrate con i sistemi di AI per garantire la tracciabilità delle fonti dei dati.
4. Monitoraggio continuo: Monitoraggio continuo e controlli devono garantire che il sistema operi in sicurezza. Le aziende devono definire metriche di successo ragionevoli per determinare il successo del progetto. Sono necessarie frequenti valutazioni della qualità per mantenere la conformità.

Conclusione

L'integrazione dell'AI nella farmacovigilanza presenta varie opportunità. Tuttavia, deve essere stabilita una strategia collaborativa per garantire che i sistemi di AI sviluppati e implementati soddisfino le aspettative. Pur essendo vantaggioso, questo sviluppo sarà verosimilmente impegnativo poiché le normative sull'AI sono ancora in evoluzione. Mentre le aziende navigano individualmente le acque legislative e regolamentari e cercano di sviluppare il proprio quadro normativo sull'AI, possono mantenere la conformità sviluppando framework di governance interna. Con l'aumento dei casi d'uso dell'AI in farmacovigilanza, le aziende devono creare le proprie strategie AI e adattarle alla nuova legislazione e agli sviluppi.