Governance dell'AI in Pharma: sta diventando il nuovo GMP?

Indice

1. Cos'è davvero la governance dell'IA?
2. Perché la GMP è diventata lo standard d'oro in primo luogo?
3. I paralleli tra governance dell'IA e GMP
4. Dove la governance dell'IA è ancora in ritardo?
5. Cosa stanno già facendo i regolatori?
6. Costruire un framework di governance dell'IA: un punto di partenza pratico
7. Uno scenario reale: quando la governance avrebbe aiutato?
8. Cosa significa questo per le prospettive competitive dell'industria farmaceutica?
9. Conclusioni
10. Domande frequenti

Per decenni, la Good Manufacturing Practice, o GMP, è stata la spina dorsale della fiducia nel settore farmaceutico. È il motivo per cui una compressa prodotta in un paese funziona esattamente allo stesso modo di una prodotta in un altro, e il motivo per cui regolatori, medici e pazienti possono fidarsi di un farmaco senza verificare personalmente ogni lotto.

Ora, mentre l'IA prende silenziosamente decisioni un tempo prese dagli esseri umani, emerge una nuova domanda: l'IA ha bisogno di una sua versione della GMP? Analizziamo cosa significa veramente la governance dell'IA, perché sta diventando urgente e se merita un posto accanto alla GMP come pilastro fondamentale della qualità in ambito farmaceutico.

Cos'è davvero la governance dell'IA?

La governance dell'IA è semplicemente l'insieme di regole, verifiche e responsabilità che un'azienda mette in atto per assicurarsi che i suoi sistemi di IA si comportino in modo sicuro, equo e prevedibile. Pensatela come il regolamento che decide quanta fiducia un algoritmo può guadagnare prima che un umano debba intervenire.

Nel settore farmaceutico questo si manifesta in ambiti come:

1. Algoritmi di scoperta dei farmaci che suggeriscono quali molecole vale la pena testare.
2. Modelli per studi clinici che prevedono gli esiti dei pazienti o segnalano segnali di sicurezza.
3. Sistemi di produzione che regolano in tempo reale i parametri di produzione.
4. Strumenti per la sottomissione regolatoria che aiutano a redigere documenti per le autorità sanitarie.

Ognuno di questi usi comporta conseguenze reali se l'IA sbaglia, ed è proprio per questo che la governance è così importante in questo ambito.

Perché la GMP è diventata lo standard d'oro in primo luogo?

Per capire perché la governance dell'IA viene paragonata alla GMP, è utile ricordare cosa ha risolto effettivamente la GMP. Prima della sua esistenza, la qualità dei farmaci variava notevolmente tra i produttori e non esisteva un modo coerente per garantire la sicurezza. La GMP ha risolto questo richiedendo:

1. Processi documentati per ogni fase della produzione.
2. Controlli di qualità coerenti in punti definiti della produzione.
3. Tracciabilità, in modo che qualsiasi problema potesse essere ricondotto alla sua fonte.
4. Responsabilità, con persone nominate responsabili di ciascuna fase.

La governance dell'IA sta cominciando a seguire la stessa logica, applicata agli algoritmi anziché alle linee di assemblaggio.

I paralleli tra governance dell'IA e GMP

Il confronto non è solo un titolo accattivante: regge sorprendentemente bene se lo si osserva da vicino:

a) Entrambe richiedono documentazione: la GMP richiede i registri di lotto; la governance dell'IA richiede la documentazione del modello che mostra come un sistema è stato addestrato e validato.

b) Entrambe richiedono validazione prima dell'uso: un processo di produzione deve essere convalidato prima di operare su scala e, sempre più, anche un modello di IA deve essere convalidato prima di influenzare una decisione reale.

c) Entrambe necessitano di monitoraggio continuo: la GMP include controlli di qualità continui; i sistemi di IA hanno bisogno di monitoraggio continuo delle prestazioni per intercettare deriva o errori nel tempo.

d) Entrambe assegnano responsabilità chiare: proprio come una Qualified Person approva un lotto di farmaco, qualcuno ora deve approvare i risultati di un sistema di IA.

e) Entrambe esistono per proteggere i pazienti: At the core, GMP prevents bad batches from reaching people, and AI governance aims to prevent bad algorithmic decisions from doing the same.

Dove la governance dell'IA è ancora indietro?

Nonostante i parallelismi, la governance dell'IA non è matura come le GMP, e vale la pena segnalare alcune lacune:

1. Non esiste ancora uno standard universale: le GMP hanno decenni di linee guida riconosciute a livello globale; i framework di governance dell'IA sono ancora in fase di stesura e variano a seconda della regione.
2. È più difficile da verificare perché il processo di produzione può essere ispezionato fisicamente, mentre la logica interna di un modello di IA è spesso difficile da spiegare completamente, anche ai suoi stessi sviluppatori.
3. Velocità di cambiamento più elevata: i modelli di IA vengono aggiornati molto più frequentemente rispetto agli impianti di produzione, il che rende meno utile una convalida statica e una tantum.
4. Carenza di competenze: pochi auditor o ispettori hanno attualmente le abilità tecniche per valutare i sistemi di IA allo stesso modo in cui valutano le linee di produzione.

Queste lacune non sono motivi per ignorare la governance dell'IA. Sono motivi perché debba maturare rapidamente.

L'UE non aspetta uno standard universale; l'Annex 22 sta già definendo come appare l'AI-GMP per i produttori.

Ecco cosa richiede.

→ Read: EU Annex 22: The AI-GMP Guide for Pharma Manufacturers

Cosa stanno già facendo i regolatori?

Gli organismi regolatori non hanno ignorato questo cambiamento. Diversi sforzi stanno già plasmando come apparirà la governance dell'IA in ambito farmaceutico:

1) Documenti di orientamento dalle principali autorità sanitarie stanno iniziando ad affrontare l'uso di IA e machine learning nello sviluppo dei farmaci e nella produzione.

2)Si propongono framework basati sul rischio, in cui le applicazioni IA a rischio più elevato, come quelle che influenzano la sicurezza del paziente, sono soggette a una supervisione più rigida rispetto a quelle a rischio inferiore, come gli strumenti di pianificazione.

3) Le aspettative sul controllo delle modifiche vengono estese per coprire i modelli di IA che vengono riaddestrati o aggiornati dopo l'approvazione iniziale.

4) La collaborazione cross-settore sta aumentando, con regolatori, aziende e fornitori tecnologici che lavorano insieme per definire standard condivisi prima che i problemi impongano regole reattive.

Questo rispecchia come le GMP si sono evolute nel tempo: attraverso una combinazione di pratiche industriali e risposte regolatorie, non una singola regola scritta tutta in una volta.

Costruire un framework di governance dell'IA: un punto di partenza pratico

Le aziende che vogliono anticipare questo cambiamento non devono aspettare una chiarezza normativa perfetta. Un framework ragionevole può iniziare con alcuni passaggi concreti:

1. Inventariare ogni sistema di IA attualmente in uso, dagli strumenti di discovery agli algoritmi di produzione, in modo che nulla operi senza supervisione.
2. Classificare ogni sistema per livello di rischio, focalizzando la massima attenzione sugli strumenti che influiscono direttamente sulla sicurezza del paziente o sulla qualità del prodotto.
3. Assegnare una chiara responsabilità, in modo che ogni sistema di IA abbia una persona nominata responsabile delle sue prestazioni e dei risultati.
4. Documentare i dati di training e i metodi di validazione, creando una traccia cartacea simile al registro di lotto di produzione.
5. Impostare un monitoraggio continuo, verificando il drift delle prestazioni allo stesso modo in cui un team di qualità controlla le deviazioni di processo.

Non si tratta di rallentare l'innovazione. Si tratta di assicurarsi che l'innovazione non proceda più velocemente della responsabilità.

Non è necessario costruire questo framework da zero.

La guida ISPE GAMP di 290 pagine per l'IA è già la roadmap più autorevole del settore; ecco cosa contiene.

→ Read: ISPE GAMP Guide for AI in Pharma: Leadership Guide

Uno scenario reale: quando la governance avrebbe aiutato?

Per capire perché questo è importante oltre la teoria, immaginate una azienda farmaceutica di medie dimensioni che utilizza un modello di IA per segnalare potenziali segnali di sicurezza nei dati di uno studio clinico. Il modello funziona bene durante la validazione, quindi viene distribuito in diversi studi in corso. 

Nel tempo, la popolazione di pazienti in uno studio cambia leggermente, e la precisione del modello devia silenziosamente senza che nessuno se ne accorga, dato che nessuno lo monitora come si monitora un processo di produzione. Un vero segnale di sicurezza viene perso per settimane prima che un revisore umano rilevi la discrepanza durante un audit di routine.

Con un framework di governance in stile GMP, questo scenario sarebbe diverso. Il modello avrebbe un proprietario assegnato che controlla il drift delle prestazioni. La documentazione mostrerebbe esattamente quando e come il modello è stato validato l'ultima volta. 

Sarebbe necessario un trigger per la rivalutazione ogni volta che la popolazione di pazienti sottostante cambiasse in modo significativo. Nulla di ciò elimina completamente il rischio, ma riduce la finestra in cui un problema può passare inosservato, ed è esattamente ciò che il GMP ha sempre fatto per la produzione fisica.

Cosa significa questo per le prospettive competitive del settore farmaceutico?

Oltre alla conformità, una solida governance dell'AI sta diventando un vero vantaggio competitivo, non solo una misura difensiva. Considerate cosa è in gioco:

1) Le aziende con una governance dell'AI matura possono procedere più rapidamente nelle revisioni regolatorie, poiché gli ispettori si fidano di sistemi documentati e verificabili più che di quelli opachi.

2) Una governance debole aumenta il rischio di errori costosi, come un algoritmo difettoso che approva un lotto non valido o che non rileva un segnale di sicurezza nei dati di sperimentazione.

3) Investitori e partner stanno sempre più integrando la maturità della governance dell'AI nella due diligence, specialmente per accordi di licenza e acquisizioni.

4) I primi adottanti di solidi framework di governance hanno più probabilità di influenzare gli standard normativi emergenti, anziché affannarsi per soddisfare regole scritte senza il loro contributo.

5) La fiducia pubblica, già fragile riguardo all'AI in ambito sanitario, è più facile da conquistare e mantenere per le aziende che sanno spiegare chiaramente come i loro algoritmi vengono verificati e controllati.

In un settore in cui la fiducia è il vero prodotto venduto insieme al medicinale, la governance non è un costo extra. Fa parte di ciò che rende credibile il farmaco.

Conclusione!

La governance dell'AI nel settore farmaceutico sta seguendo un percorso sorprendentemente simile a quello che il GMP ha percorso decenni fa: iniziando come pratiche sparse, consolidandosi gradualmente in aspettative formali e diventando infine inseparabile da ciò che significa operare in modo responsabile.

Non è ancora del tutto arrivata. Gli standard sono ancora in formazione, gli audit sono ancora difficili e le competenze per supervisionare il tutto restano scarse. Ma la direzione è abbastanza chiara da rendere un errore trattare la governance dell'AI come opzionale.

Proprio come nessuna azienda salterebbe il GMP e si aspetterebbe di restare in attività, le aziende che prendono sul serio la governance dell'AI ora, costruendo documentazione, responsabilità e monitoraggio nei loro sistemi AI fin dall'inizio, sono quelle che avranno maggiori probabilità di essere considerate affidabili e di avere successo quando questo diventerà il prossimo standard non negoziabile del settore.

Domande frequenti

1) Che cos'è la governance dell'AI nell'industria farmaceutica?

La governance dell'AI è un quadro di politiche, processi e controlli che garantisce che i sistemi di intelligenza artificiale operino in modo sicuro, etico e affidabile lungo tutto il loro ciclo di vita. Aiuta le organizzazioni a convalidare i modelli AI, monitorarne le prestazioni e mantenere la responsabilità per le decisioni guidate dall'AI. Questo supporta la conformità normativa proteggendo al contempo la qualità del prodotto e la sicurezza del paziente.

2) Perché la governance dell'AI viene paragonata al GMP?

La governance dell'AI e le Good Manufacturing Practice (GMP) condividono l'obiettivo comune di garantire coerenza, trasparenza e fiducia nelle operazioni farmaceutiche. Mentre il GMP si concentra sui processi di produzione, la governance dell'AI applica principi simili allo sviluppo, alla convalida e al monitoraggio dei sistemi di intelligenza artificiale. Insieme aiutano a ridurre i rischi e a garantire decisioni affidabili in tutto il settore.

3) Perché la governance dell'AI è importante per il futuro del settore farmaceutico?

Con l'aumento dell'uso dell'AI nella scoperta di farmaci, nella produzione e nello sviluppo clinico, una governance efficace è essenziale per gestire i rischi e mantenere la fiducia regolatoria. Un solido framework di governance dell'AI aiuta le organizzazioni a migliorare la responsabilità, ridurre al minimo gli errori e costruire fiducia nei processi abilitati dall'AI. Prepara inoltre le aziende alle aspettative regolatorie in evoluzione e ai futuri standard del settore.