Oltre l'hype sull'IA: Costruire una trasformazione digitale affidabile nel settore farmaceutico

Introduzione

Negli ultimi anni, l'intelligenza artificiale è passata dalle presentazioni in conferenza ai budget della maggior parte delle grandi aziende farmaceutiche. Più difficile da prevedere, secondo me, è se il modo in cui viene adottata renderà queste organizzazioni più affidabili o semplicemente più veloci. Nel settore farmaceutico questa differenza è importante, perché quasi ogni decisione presa da un'azienda arriva infine a un paziente.

Misurare la cosa sbagliata

Gran parte di ciò che viene definito trasformazione digitale è, in pratica, acquisizione di tecnologia. I progressi vengono spesso segnalati come numero di piloti in corso, che misura l'attività più che il cambiamento. Il cambiamento genuino si vede in come vengono prese le decisioni e chi ne risponde. Un modello che produce risultati impressionanti all'interno di un processo immutato, senza che nessuno sia chiaramente responsabile del suo output, aggiunge capacità senza aumentare molto l'affidabilità.

I regolatori sembrano aver compreso questo prima di gran parte del settore. Nel gennaio 2025 la US Food and Drug Administration ha pubblicato una bozza di guida sull'uso dell'AI a supporto delle decisioni regolatorie su farmaci e biologici. Propone un quadro basato sul rischio per stabilire se un modello AI sia credibile per un contesto d'uso definito. La preoccupazione della FDA, in altre parole, è se un determinato modello possa essere considerato affidabile per uno scopo particolare, che è una domanda più ristretta e molto più utile del chiedersi se il modello sia buono in generale. La guida è ancora una bozza, ma ritengo che l'inquadramento sia corretto.

La responsabilità resta con l'azienda

I regolatori europei si stanno muovendo in una direzione simile. Nel luglio 2025 la Commissione Europea ha aperto una consultazione delle parti interessate sulle versioni riviste del Capitolo 4 delle EU GMP e dell'Allegato 11 e su un nuovo Allegato 22 sull'intelligenza artificiale. L'Allegato 22 è ancora una bozza e non è ancora in vigore, quindi la sua formulazione può cambiare. Secondo la bozza di consultazione, l'AI utilizzata in applicazioni GMP critiche richiederebbe un uso previsto chiaramente definito, dati di test mantenuti separati dai dati usati per addestrare il modello e criteri di performance concordati in anticipo, con monitoraggio continuo. I commentatori hanno anche osservato che esternalizzare l'AI a un fornitore non sposterebbe la responsabilità regolatoria dal produttore.

Un modello può informare una decisione, ma non può esserne responsabile. ICH Q10, la linea guida sui sistemi di qualità farmaceutica, ha da tempo collocato la responsabilità ultima per un sistema di qualità efficace nella direzione aziendale. Quando il ragionamento interno di un sistema non può essere facilmente ispezionato, la responsabilità dipende da dettagli pratici: conoscere esattamente dove il modello si colloca in un processo, chi revisiona ciò che produce, se quel revisore ha l'autorità di annullarlo e come viene verificata la sua performance nel tempo. A mio avviso, l'AI responsabile si riduce in gran parte a curare questi dettagli.

L'Allegato 22 è ancora una bozza, quindi la domanda è cosa finanziare prima che sia definitivo. Vedi quali sono i sette investimenti che i siti farmaceutici dovrebbero fare ora, qualunque sia la data finale.
Leggi: L'allegato 22 non è ancora legge. In cosa investire adesso

Ciò che la supervisione umana richiede realmente

Nel gennaio 2026 l'Agenzia Europea per i Medicinali e la FDA hanno pubblicato congiuntamente dieci principi guida per una buona pratica dell'AI lungo il ciclo di vita dei medicinali. Uno di questi, che secondo me è discusso molto meno, afferma che la performance dovrebbe essere valutata per il sistema completo, inclusa l'interazione tra persone e AI, piuttosto che per il modello da solo.

Questo è importante perché le persone non sono revisori neutrali di output automatizzati. Una review ampiamente citata di Parasuraman e Manzey ha rilevato che il bias da automazione, la tendenza a fare eccessivo affidamento sugli ausili decisionali, colpisce esperti così come novizi e non è affidabilmente prevenuto soltanto da formazione o istruzioni. Un revisore che approva quasi ogni raccomandazione senza il tempo o il contesto per metterla in discussione fornisce l'apparenza di supervisione piuttosto che la sua sostanza. Una revisione significativa richiede qualcuno che capisca per cosa il sistema è stato costruito e dove è probabile che fallisca, con il tempo per esaminare adeguatamente e un ambiente di lavoro che consideri l'annullamento del sistema come diligenza piuttosto che come ritardo. Queste sono decisioni di gestione più che tecniche.

L'alfabetizzazione è una responsabilità della leadership

Ritengo inoltre che l'alfabetizzazione sull'AI sia diventata un tema di leadership tanto quanto di formazione. Un dirigente che approva un investimento in AI dovrebbe saper chiedere per quale contesto d'uso il sistema è stato validato, su quali dati è stato sviluppato e testato e come l'azienda noterà se la sua performance deriva. I principi EMA e FDA richiedono informazioni in linguaggio semplice sulle performance e sui limiti di un sistema AI, che sono utili solo se i leader possono interagire con esse invece di lasciarle agli specialisti.

Costruire fiducia nel tempo

Una cultura di qualità richiede anni di pratica documentata per essere costruita, e un singolo fallimento nell'integrità dei dati può annullare una quantità sorprendente di essa. Sostenerei che l'adozione dell'AI meriti di essere giudicata su una scala temporale simile. Le aspettative dei regolatori in materia di governance dei dati e rivalutazione periodica dei modelli sono talvolta descritte come un freno all'innovazione. A mio avviso, sono ciò che permette a un'azienda di spiegare e difendere una decisione quando un ispettore o un paziente infine chiede come è stata raggiunta. Per lo stesso motivo, penso che un'azienda che inizia con applicazioni strettamente definite e ben governate ed espande solo man mano che le prove si accumulano finirà con qualcosa di più duraturo rispetto a chi persegue prima la scala e poi la governance.

Iniziare in modo ristretto ed espandere man mano che le evidenze crescono dipende da una governance integrata fin dal primo giorno. Scopri come i leader farmaceutici possono gestire l'AI governata senza compromettere qualità o responsabilità.
Leggi: Il prossimo modello operativo del settore farmaceutico: intelligenza governata, non automazione fine a se stessa

Dove lascia l'industria 

Non mi aspetto che l’AI sostituisca l’expertise farmaceutica. Il risultato più probabile è un cambiamento graduale di come gli specialisti impiegano il loro tempo: il software svolgerà una parte maggiore del lavoro di reperimento delle informazioni e le persone dedicheranno più attenzione ai giudizi che richiedono ragionamento scientifico ed etico. 

Mi piacerebbe che le aziende farmaceutiche dessero al lato organizzativo dell’AI la stessa serietà riservata al lato tecnico, trattando responsabilità e supervisione come parte dell’investimento invece che come documentazione successiva. In un’industria regolamentata, sospetto che l’AI più preziosa sarà quella che un’azienda è in grado di spiegare e che è pronta a sostenere. 

Riferimenti 

1. U.S. Food and Drug Administration. Considerazioni sull’uso dell’intelligenza artificiale a supporto delle decisioni regolatorie per prodotti farmaceutici e biologici (Draft Guidance), gennaio 2025. https://www.fda.gov/regulatory-information/search-fda-guidance-documents/considerations-use-artificial-i ntelligence-support-regulatory-decision-making-drug-and-biological 

2. European Commission, DG Health and Food Safety. Consultazione degli stakeholder su EudraLex Volume 4, Direttive GMP: Capitolo 4, Allegato 11 e nuovo Allegato 22 (consultazione chiusa il 7 ottobre 2025). https://health.ec.europa.eu/consultations/stakeholders-consultation-eudralex-volume-4-good-manufacturin g-practice-guidelines-chapter-4-annex_en 

3. Arnold & Porter (via Mondaq). L’UE consulta nuove norme GMP per l’AI nella produzione farmaceutica, 15 luglio 2025. https://www.mondaq.com/new-technology/1650932/eu-consults-on-new-gmp-rules-for-ai-in-pharma-man ufacturing 

4. ICH. Q10 Pharmaceutical Quality System (Step 4), 2008.https://database.ich.org/sites/default/files/Q10%20Guideline.pdf 

5. European Medicines Agency and U.S. FDA. Guiding Principles of Good AI Practice in Drug Development, January 2026.https://www.ema.europa.eu/en/documents/other/guiding-principles-good-ai-practice-drug-development_en .pdf 

6. Parasuraman, R. and Manzey, D. H. Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381-410, 2010.https://doi.org/10.1177/0018720810376055