Statico, Deterministico, Spiegabile: Analisi del Draft Allegato 22

Introduzione

La produzione farmaceutica è diventata silenziosamente uno dei maggiori terreni di prova per intelligenza artificiale. I modelli di manutenzione predittiva segnalano pompe difettose prima che si rompano. I sistemi di visione rilevano difetti nelle linee di confezionamento. I modelli di processo prevedono l'esito dei batch prima che un prodotto raggiunga i test finali. Questa crescita ha superato le regole pensate per governarla, lasciando i team di qualità a decidere, in gran parte da soli, quali strumenti di AI siano sicuri da cui dipendere per decisioni che influenzano la sicurezza dei pazienti.

I regolatori hanno seguito da vicino questa crescita e, nel luglio 2025, hanno risposto con un nuovo set di regole: la bozza di Allegato 22 delle linee guida EU GMP. La sua idea centrale può essere riassunta in tre parole: statico, deterministico, spiegabile. Questo articolo spiega cosa significano queste parole, perché sono importanti e cosa indicano per la scelta dei modelli di AI nella produzione regolata.

Cosa è realmente la bozza di Allegato 22

Allegato 22 è una nuova aggiunta a EudraLex Volume 4, il regolamento che governa la Buone pratiche di fabbricazione (GMP) in tutta l'Unione Europea. È stato redatto congiuntamente dal Working Group GMP/GDP Inspectors dell'Agenzia Europea per i Medicinali e dal Pharmaceutical Inspection Co-operation Scheme (PIC/S), la cui membership si estende ben oltre l'UE. La bozza è stata pubblicata per consultazione pubblica il 7 luglio 2025, insieme a una versione rivista dell'Allegato 11 sui sistemi informatizzati e a un aggiornamento del Capitolo 4 sulla documentazione. 

Al momento della stesura, l'Allegato 22 rimane una bozza. Non è stato pubblicato come guida finale EU GMP, e la pagina ufficiale di EudraLex Volume 4 elenca ancora solo le versioni precedenti del Capitolo 4 e dell'Allegato 11. Le stime per la pubblicazione finale variano tra le fonti del settore, da metà 2026 a più avanti nell'anno, ma non è stata annunciata una data confermata. I produttori dovrebbero considerare il testo attuale come indicazione, non come legge, mentre si preparano alla sua probabile forma.

La regola spiegata in tre parole

La restrizione principale dell'ambito dell'Allegato 22 si basa su tre idee collegate:

1. Statico significa che i parametri interni del modello sono congelati una volta distribuito. Non continua ad apprendere da nuovi dati mentre è in produzione.

2. Deterministico significa che lo stesso input produce sempre lo stesso output. Non c'è casualità incorporata nel risultato.

3. Spiegabile significa che il ragionamento alla base dell'output di un modello può essere tracciato e giustificato in termini comprensibili per un revisore di qualità o un ispettore, invece di rimanere all'interno come una "scatola nera".

Mescolate, queste tre proprietà descrivono un modello che si comporta come un pezzo di software ben validato: prevedibile, ripetibile e verificabile, anche se è stato costruito usando apprendimento automatico piuttosto che codice scritto a mano.

Cosa è consentito e cosa è escluso

L'ambito dell'Allegato 22 è volutamente ristretto. Si applica solo ai modelli di AI e machine learning utilizzati in applicazioni critiche per la GMP, ovvero usi con un collegamento diretto alla qualità del prodotto, all'integrità dei dati o alla sicurezza del paziente.

Ciò significa che gli strumenti progettati per il ragionamento aperto o la generazione di contenuti, per quanto utili in altri ambiti aziendali, non sono concepiti per il tipo di comportamento fisso e verificabile che l'Appendice 22 richiede nei ruoli critici.

Perché i regolatori hanno tracciato questa linea

La logica deriva direttamente da come la GMP ha sempre funzionato. Ci si aspetta che un sistema validato si comporti in modo coerente ogni volta che gli viene presentato lo stesso input. Questa è la base della validazione di processo, della validazione dei sistemi informatici e delle decisioni di rilascio dei lotti secondo l'Appendice 11. Un modello che continua ad adattarsi dopo la messa in servizio rompe quell'assunto, perché un esercizio di validazione effettuato il mese scorso potrebbe non descrivere più il comportamento del sistema oggi.

L'esplicabilità risolve un problema correlato. Secondo la GMP, qualcuno, di solito una Qualified Person, deve essere in grado di giustificare una decisione di rilascio del lotto. Se un modello AI contribuisce a quella decisione, la sua logica deve essere sufficientemente tracciabile affinché un umano possa difenderla durante un'ispezione. L'Appendice 22 richiede che i modelli registrino le attribuzioni delle caratteristiche e i punteggi di confidenza, così che la base di una previsione sia visibile anziché nascosta.

Visti insieme, i tre requisiti sembrano meno un divieto sull'AI moderna e più un tentativo di estendere il pensiero di validazione familiare all'apprendimento automatico. L'Appendice 11 è stata scritta per software basato su regole che si comporta in modo coerente ogni volta che viene eseguito. L'Appendice 22 cerca di sottoporre i modelli più recenti, addestrati sui dati, allo stesso standard, invece di inventare da zero un insieme completamente separato di aspettative.

L'Appendice 22 non è l'unico ambito in cui la governance dell'AI sta rimodellando la GMP; guarda come la governance dell'AI stessa sta diventando la nuova base di conformità.

→ Leggi: La governance dell'IA nel settore farmaceutico è la nuova GMP?

Cosa conta come uso "critico"

Non tutte le applicazioni AI in uno stabilimento farmaceutico rientrano nell'Appendice 22. L'appendice distingue tra:

1. Applicazioni critiche, dove un output AI influisce direttamente sulla qualità del prodotto, sulla sicurezza del paziente o sull'integrità dei dati — per esempio, un modello che decide se un parametro di lotto è entro la specifica.

2. Applicazioni non critiche, dove l'AI supporta il lavoro senza determinare direttamente una decisione di qualità — per esempio, redigere una prima bozza di rapporto, che viene poi rivista e finalizzata da un umano.

Gli usi non critici hanno maggiore flessibilità, incluso l'uso limitato di strumenti generativi, a condizione che una persona qualificata riveda l'output prima che venga adottato. Gli usi critici non godono di tale flessibilità; il modello stesso deve soddisfare lo standard statico, deterministico ed esplicabile.

Una checklist pre-implementazione

Ai produttori che si preparano all'Appendice 22 si consiglia di verificare quanto segue prima di assegnare a un modello AI un ruolo GMP critico:

1. Confermare che il modello non continui ad apprendere o aggiornarsi dopo la messa in servizio.

2. Confermare che gli output siano riproducibili: stesso input, stesso risultato, ogni volta.

3. Documentare l'attribuzione delle caratteristiche e la misurazione della confidenza per ogni tipo di previsione.

4. Usare dati di test indipendenti dai dati usati per addestrare il modello.

5. Definire criteri di accettazione e un piano di test documentato prima del go-live.

6. Assegnare un team multidisciplinare: quality assurance, esperti di processo, data scientist e IT, con chiara responsabilità.

7. Prevedere un percorso di fallback alla revisione umana se la confidenza scende sotto una soglia impostata.

8. Mantenere pronta per l'ispezione una documentazione completa dell'audit-trail.

Dove resta il dibattito

Non tutti concordano sul tracciare la linea esattamente dove la pone l'Appendice 22. I gruppi dell'industria hanno contestato l'esclusione totale dell'AI generativa e dei large language models dall'uso critico, sostenendo che un approccio più ristretto e basato sul rischio potrebbe essere più adeguato man mano che la tecnologia matura. Questo si inserisce in un'ondata più ampia di politica farmaceutica UE, che si muove in parallelo.

Il Critical Medicines Act, volto a rafforzare le catene di approvvigionamento dei medicinali, ha raggiunto solo un accordo politico provvisorio tra Consiglio e Parlamento il 12 maggio 2026; necessita ancora di adozione formale e revisione giuridico-linguistica prima di entrare in vigore. L'Appendice 22 è a uno stadio simile: discussa politicamente, redatta tecnicamente, ma non ancora legge. Per ora, considera entrambi come segnali di orientamento piuttosto che obblighi di conformità definitivi.

L'Appendice 22 non è ancora legge, ma ciò non significa che i produttori debbano aspettare per prepararsi — scopri in cosa vale la pena investire ora.
→ Leggi: Allegato 22: non è ancora legge, in cosa investire

Conclusione

La bozza dell'Appendice 22 traccia un confine chiaro, seppur prudente, intorno all'uso dell'AI in lavori critici per la GMP: mantenerla statica, mantenerla deterministica e assicurarsi che ogni decisione possa essere spiegata. Quel confine esclude dagli incarichi critici gli strumenti AI più discussi oggi, pur lasciando spazio ai modelli più stabili e ben compresi che si sono già dimostrati utili nella manutenzione predittiva e nel monitoraggio della qualità. La regola è ancora una bozza, ma l'orientamento è abbastanza chiaro perché i produttori ottengano poco aspettando il testo finale prima di prepararsi.

FAQ

Q: Annex 22 è legalmente vincolante in questo momento?

A: No. Rimane una bozza. La consultazione pubblica si è chiusa il 7 ottobre 2025 e non è stata pubblicata alcuna versione finale al momento della stesura.

Q: Un'azienda farmaceutica può utilizzare strumenti di tipo ChatGPT nella produzione?

A: Non per decisioni critiche ai fini GMP secondo l'attuale bozza. Attività non critiche possono utilizzare tali strumenti con revisione umana prima di intraprendere qualsiasi azione.

Q: Cosa significa "statico" per un modello di IA secondo l'Annex 22?

A: Significa che i parametri del modello sono fissi dopo il dispiegamento e non cambiano attraverso un apprendimento continuo durante l'uso.

Q: L'Annex 22 si applica a ogni strumento di IA in un'azienda farmaceutica?

A: No. Si applica specificamente ai modelli utilizzati in applicazioni critiche per le GMP legate alla qualità del prodotto, all'integrità dei dati o alla sicurezza del paziente.

Q: Quando l'Annex 22 diventerà definitivo?

A: Non esiste una data di pubblicazione confermata. Le stime del settore indicano qualche momento del 2026, ma i produttori dovrebbero monitorare direttamente EudraLex Volume 4 per il rilascio ufficiale.