Statisch, deterministisch, erklärbar: Entwurf Anh. 22 lesen

Einführung

Die pharmazeutische Herstellung ist stillschweigend zu einem der größten Testfelder für künstliche Intelligenz. Predictive-Maintenance-Modelle melden ausfallende Pumpen, bevor sie kaputtgehen. Visionssysteme entdecken Fehler an Verpackungslinien. Prozessmodelle sagen Chargenergebnisse voraus, bevor ein Produkt die Endprüfung erreicht. Dieses Wachstum hat die Regeln, die es steuern sollen, überholt, sodass Qualitätsteams weitgehend allein entscheiden müssen, welchen KI‑Tools sie vertrauen können, wenn Entscheidungen die Patientensicherheit betreffen.

Regulierungsbehörden haben dieses Wachstum genau beobachtet und reagierten im Juli 2025 mit einem neuen Regelwerk: dem Entwurf von Anhang 22 der sich in drei Worten zusammenfassen lässt: statisch, deterministisch, erklärbar. Dieser Artikel erläutert, was diese Worte bedeuten, warum sie wichtig sind und was sie für die Auswahl von KI-Modellen in regulierter Fertigung.

Was der Entwurf von Anhang 22 tatsächlich ist

Anhang 22 ist eine neue Ergänzung zu EudraLex Band 4, dem Regelwerk, das die Gute Herstellungspraxis (GMP) in der gesamten Europäischen Union regelt. Er wurde gemeinsam vom GMP/GDP Inspectors Working Group der European Medicines Agency und dem Pharmaceutical Inspection Co-operation Scheme (PIC/S) erarbeitet, dessen Mitgliedschaft weit über die EU hinausreicht. Der Entwurf wurde am 7. Juli 2025 zur öffentlichen Konsultation veröffentlicht, zusammen mit einem überarbeiteten Anhang 11 zu computerisierten Systemen und einem aktualisierten Kapitel 4 zur Dokumentation. 

Zum Zeitpunkt dieses Schreibens bleibt Anhang 22 ein Entwurf. Er wurde noch nicht als endgültige EU‑GMP‑Leitlinie veröffentlicht, und die offizielle EudraLex Band‑4‑Seite listet weiterhin nur die früheren Versionen von Kapitel 4 und Anhang 11. Schätzungen für die endgültige Veröffentlichung variieren in der Branche und reichen von Mitte 2026 bis später im Jahr, aber es wurde kein bestätigtes Datum bekanntgegeben. Hersteller sollten den aktuellen Text als Orientierung, nicht als Gesetz betrachten, sich jedoch auf seine wahrscheinliche Gestalt vorbereiten.

Die Regel erklärt in drei Worten

Der Kernumfang von Anhang 22 beruht auf drei verknüpften Ideen:

1. Statisch bedeutet, dass die internen Parameter des Modells nach der Bereitstellung eingefroren sind. Es lernt nicht weiter aus neuen Daten, während es in der Produktion läuft.

2. Deterministisch bedeutet, dass derselbe Input immer denselben Output erzeugt. Es gibt keine in das Ergebnis eingebaute Zufälligkeit.

3. Erklärbar bedeutet, dass die Begründung für die Ausgabe eines Modells nachvollzogen und in Begriffen gerechtfertigt werden kann, die ein Qualitätsprüfer oder Inspektor versteht, anstatt sie in einer „Black Box“ zu belassen.

Zusammen beschreiben diese drei Eigenschaften ein Modell, das sich wie ein gut validiertes Softwareprodukt verhält: vorhersagbar, wiederholbar und prüfbar, auch wenn es mit Methoden des maschinellen Lernens statt mit handgeschriebener Programmierung erstellt wurde.

Was erlaubt ist und was ausgeschlossen ist

Der Anwendungsbereich von Anhang 22 ist bewusst eng gefasst. Er gilt nur für KI‑ und maschinelle Lernmodelle, die in GMP‑kritischen Anwendungen eingesetzt werden, also für Einsätze mit direktem Bezug zur Produktqualität, Datenintegrität oder Patientensicherheit.

Das bedeutet, dass Werkzeuge, die für offene Schlussfolgerungen oder Inhaltserzeugung entwickelt wurden, so nützlich sie anderswo im Unternehmen auch sein mögen, nicht für das art von festem, überprüfbarem Verhalten ausgelegt sind, das Anhang 22 in kritischen Rollen verlangt.

Warum die Regulierer hier die Grenze gezogen haben

Die Logik folgt direkt daraus, wie GMP schon immer funktioniert hat. Von einem validierten System wird erwartet, dass es sich bei gleicher Eingabe stets konsistent verhält. Das ist die Grundlage der Prozessvalidierung, der Validierung von Computersystemen und von Chargenfreigabeentscheidungen nach Anhang 11. Ein Modell, das sich nach der Inbetriebnahme weiter anpasst, unterläuft diese Annahme, denn eine Validierungsprüfung vom letzten Monat beschreibt möglicherweise nicht mehr, wie das System heute funktioniert.

Erklärbarkeit löst ein verwandtes Problem. Nach GMP muss jemand, in der Regel eine Qualified Person, eine Chargenfreigabeentscheidung begründen können. Wenn ein KI-Modell zu dieser Entscheidung beiträgt, muss seine Logik ausreichend nachvollziehbar sein, damit ein Mensch sie während einer Inspektion verteidigen kann. Anhang 22 verlangt, dass Modelle Feature-Attributionen und Konfidenzwerte protokollieren, sodass die Grundlage einer Vorhersage sichtbar statt verborgen ist.

In der Summe gelesen klingen die drei Anforderungen weniger wie ein Verbot moderner KI und mehr wie ein Versuch, das vertraute Validierungsdenken auf Machine Learning auszuweiten. Anhang 11 wurde für regelbasierte Software geschrieben, die bei jedem Lauf gleich reagiert. Anhang 22 versucht, neuere, datenbasierte Modelle an denselben Standard zu binden, statt ein völlig eigenes Regelwerk zu erfinden.  

Anhang 22 ist nicht der einzige Ort, an dem KI-Governance GMP verändert – sehen Sie, wie KI-Governance selbst zur neuen Compliance-Baseline wird.

→ Lesen: Ist KI-Governance in der Pharmaindustrie das neue GMP?

Was als „kritische" Nutzung gilt

Nicht jede KI-Anwendung in einem Pharmawerk fällt unter Anhang 22. Der Anhang unterscheidet zwischen:

1. Kritischen Anwendungen, bei denen ein KI-Ergebnis direkt die Produktqualität, die Patientensicherheit oder die Datenintegrität beeinflusst – zum Beispiel ein Modell, das entscheidet, ob ein Chargenparameter innerhalb der Spezifikation liegt.

2. Nicht-kritischen Anwendungen, bei denen KI die Arbeit unterstützt, ohne direkt eine Qualitätsentscheidung zu treffen – zum Beispiel das Verfassen eines Erstentwurfs eines Berichts, den ein Mensch anschließend prüft und finalisiert.

Nicht-kritische Nutzungen haben mehr Flexibilität, einschließlich eingeschränkter Nutzung generativer Werkzeuge, sofern eine Qualified Person die Ausgabe überprüft, bevor darauf eingegangen wird. Kritische Nutzungen haben diese Flexibilität nicht; das Modell selbst muss den statischen, deterministischen, erklärbaren Standard erfüllen.

Eine Checkliste vor der Inbetriebnahme

Hersteller, die sich auf Anhang 22 vorbereiten, sollten vor dem Einsatz eines KI-Modells in einer kritischen GMP-Rolle Folgendes prüfen:

1. Bestätigen Sie, dass das Modell nach der Inbetriebnahme nicht weiter lernt oder sich aktualisiert.

2. Bestätigen Sie, dass Ausgaben reproduzierbar sind: gleiche Eingabe, gleiches Ergebnis, jedes Mal.

3. Dokumentieren Sie Feature-Attribution und Konfidenzbewertung für jeden Vorhersagetyp.

4. Verwenden Sie Testdaten, die unabhängig von den zum Training des Modells verwendeten Daten sind.

5. Definieren Sie Akzeptanzkriterien und einen dokumentierten Testplan vor dem Livegang.

6. Benennen Sie ein multidisziplinäres Team, Qualitätssicherung, Prozessfachleute, Data Scientists und IT, mit klarer Zuständigkeit.

7. Bauen Sie einen Rückfallpfad zur menschlichen Überprüfung ein, falls die Konfidenz unter einen gesetzten Schwellenwert fällt.

8. Halten Sie vollständige Audit-Trail-Dokumentation zur Inspektion bereit.

Wo die Debatte noch steht

Nicht alle sind sich einig, die Grenze genau dort zu ziehen, wo Anhang 22 sie zieht. Industrieverbände haben sich gegen den generellen Ausschluss generativer KI und großer Sprachmodelle aus kritischer Nutzung gewehrt und argumentiert, dass ein engerer, risikobasierter Ansatz mit zunehmender Reife der Technologie besser dienen könnte. Dies steht in einem breiteren Kontext der EU-Arzneimittelpolitik, die sich parallel bewegt. 

Der Critical Medicines Act, der darauf abzielt, die Lieferketten für Arzneimittel zu stärken, erreichte am 12. Mai 2026 nur eine vorläufige politische Einigung zwischen Rat und Parlament; er bedarf noch der formellen Verabschiedung und der rechtlich-sprachlichen Überarbeitung, bevor er in Kraft tritt. Anhang 22 befindet sich in einem ähnlichen Stadium: politisch erörtert, technisch entworfen, aber noch kein Gesetz. Behandeln Sie beide vorerst als Richtungsanzeiger und nicht als endgültige Compliance-Verpflichtungen.

Anhang 22 ist noch kein Gesetz, aber das bedeutet nicht, dass Hersteller mit den Vorbereitungen warten sollten – sehen Sie, worin es sich jetzt zu investieren lohnt.
→ Lesen: Anhang 22: Noch kein Gesetz, worin investieren?

Fazit

Der Entwurf von Anhang 22 zieht eine klare, wenn auch vorsichtige Grenze für KI in GMP-kritischen Arbeiten: Halten Sie sie statisch, halten Sie sie deterministisch und stellen Sie sicher, dass jede Entscheidung erklärbar ist. Diese Grenze schließt die derzeit am meisten diskutierten KI-Werkzeuge für kritische Rollen aus, lässt aber Raum für die beständigeren, gut verstandenen Modelle, die sich bereits in der vorausschauenden Wartung und Qualitätsüberwachung bewähren. Die Regel ist noch ein Entwurf, aber die Stoßrichtung ist so klar, dass Hersteller wenig davon haben, mit den Vorbereitungen auf den endgültigen Text zu warten.

FAQ

Q: Ist Annex 22 derzeit rechtlich bindend?

A: Nein. Es bleibt ein Entwurf. Die öffentliche Konsultation endete am 7. Oktober 2025, und zum Zeitpunkt dieses Schreibens wurde keine endgültige Fassung veröffentlicht.

Q: Kann ein Pharmaunternehmen ChatGPT-ähnliche Werkzeuge in der Herstellung einsetzen?

A: Nicht für GMP-kritische Entscheidungen nach dem aktuellen Entwurf. Nicht-kritische Aufgaben können solche Werkzeuge verwenden, vorausgesetzt, es erfolgt eine menschliche Überprüfung, bevor irgendwelche Maßnahmen ergriffen werden.

Q: Was bedeutet „static“ für ein KI-Modell gemäß Annex 22?

A: Es bedeutet, dass die Parameter des Modells nach der Bereitstellung fest sind und sich während der Nutzung nicht durch fortlaufendes Lernen ändern.

Q: Gilt Annex 22 für jedes KI-Tool in einem Pharmaunternehmen?

A: Nein. Er gilt speziell für Modelle, die in GMP-kritischen Anwendungen verwendet werden, die mit Produktqualität, Datenintegrität oder Patientensicherheit verbunden sind.

Q: Wann wird Annex 22 endgültig?

A: Es gibt kein bestätigtes Veröffentlichungsdatum. Branchenschätzungen deuten auf einen Zeitpunkt im Jahr 2026 hin, aber Hersteller sollten direkt das EudraLex Volume 4 auf die offizielle Veröffentlichung beobachten.