Jenseits des KI-Hypes: Vertrauenswürdige digitale Transformation in der Pharmaindustrie

Einführung

In den letzten Jahren ist künstliche Intelligenz von Konferenzvorträgen in die Budgets der meisten großen Pharmaunternehmen übergegangen. Viel schwerer vorherzusagen finde ich jedoch, ob die Art und Weise ihrer Einführung diese Organisationen zuverlässiger macht oder einfach nur schneller. In der Pharmaindustrie ist dieser Unterschied wichtig, denn fast jede Entscheidung eines Unternehmens erreicht letztlich einen Patienten. 

Das Falsche messen 

Vieles von dem, was als digitale Transformation bezeichnet wird, ist in der Praxis Technologieeinkauf. Fortschritt wird oft als die Anzahl laufender Pilotprojekte berichtet, was Aktivität statt Wandel misst. Echter Wandel zeigt sich darin, wie Entscheidungen getroffen werden und wer dafür Verantwortung trägt. Ein Modell, das beeindruckende Ergebnisse in einem unveränderten Prozess liefert, ohne dass jemand eindeutig für dessen Output verantwortlich ist, erhöht die Leistungsfähigkeit, ohne viel Zuverlässigkeit hinzuzufügen. 

Die Regulierungsbehörden scheinen dies früher verstanden zu haben als ein Großteil der Branche. Im Januar 2025 veröffentlichte die US Food and Drug Administration einen Entwurf einer Leitlinie zur Verwendung von KI zur Unterstützung regulatorischer Entscheidungen über Arzneimittel und Biologika. Sie schlägt einen risikobasierten Rahmen vor, um festzustellen, ob ein KI-Modell für einen definierten Verwendungszweck glaubwürdig ist. Die Sorge der FDA ist mit anderen Worten, ob einem bestimmten Modell für einen bestimmten Zweck vertraut werden kann, was eine engere und weitaus nützlichere Frage ist als die allgemeine Frage, ob das Modell gut ist. Die Leitlinie ist noch ein Entwurf, aber ich halte die Einordnung für richtig. 

Die Verantwortung bleibt beim Unternehmen 

Europäische Aufsichtsbehörden bewegen sich in eine ähnliche Richtung. Im Juli 2025 eröffnete die Europäische Kommission eine Konsultation mit Interessenträgern zu überarbeiteten Versionen von EU-GMP Kapitel 4 und Anhang 11 sowie zu einem neuen Anhang 22 über künstliche Intelligenz. Anhang 22 ist noch ein Entwurf und noch nicht in Kraft, sodass sich die Formulierungen ändern können. Nach dem Konsultationsentwurf würde KI, die in kritischen GMP-Anwendungen eingesetzt wird, einen klar definierten vorgesehenen Verwendungszweck benötigen, Testdaten müssten getrennt von den Daten aufbewahrt werden, die zum Training des Modells verwendet wurden, und Leistungsanforderungen müssten im Voraus vereinbart werden, mit laufender Überwachung. Kommentatoren haben außerdem darauf hingewiesen, dass das Outsourcing von KI an einen Anbieter die regulatorische Verantwortung des Herstellers nicht verlagern würde. 

Ein Modell kann eine Entscheidung informieren, aber es kann nicht dafür verantwortlich gemacht werden. ICH Q10, die Leitlinie zu pharmazeutischen Qualitätssystemen, legt seit langem die letztendliche Verantwortung für ein wirksames Qualitätssystem bei der Geschäftsleitung fest. Wenn die interne Logik eines Systems nicht leicht einsehbar ist, hängt die Verantwortlichkeit von praktischen Details ab: genau zu wissen, wo das Modell in einem Prozess steht, wer überprüft, was es erzeugt, ob dieser Prüfer die Befugnis hat, es zu überstimmen, und wie seine Leistung über die Zeit überprüft wird. Meiner Ansicht nach läuft verantwortungsvolle KI weitgehend darauf hinaus, diese Details richtig zu regeln. 

Anhang 22 ist noch ein Entwurf, also stellt sich die Frage, was vor dem endgültigen Inkrafttreten finanziert werden sollte. Lesen Sie, welche sieben Investitionen Pharmastandorte jetzt tätigen sollten, unabhängig vom endgültigen Datum.
Lesen: Anhang 22 ist noch kein Gesetz. Worauf Sie jetzt investieren sollten

Was menschliche Aufsicht tatsächlich erfordert 

Im Januar 2026 veröffentlichten die European Medicines Agency und die FDA gemeinsam zehn Leitprinzipien für gute KI-Praxis über den Lebenszyklus von Arzneimitteln hinweg. Eines davon, das meiner Meinung nach viel seltener diskutiert wird, besagt, dass die Leistung für das vollständige System bewertet werden sollte, einschließlich der Interaktion zwischen Menschen und der KI, statt nur für das Modell allein. 

Das ist wichtig, weil Menschen keine neutralen Prüfer automatisierter Ergebnisse sind. Eine vielzitierte Übersichtsarbeit von Parasuraman und Manzey ergab, dass Automatisierungs-Bias, die Tendenz, sich zu sehr auf Entscheidungsunterstützungen zu verlassen, Experten ebenso wie Novizen betrifft und durch alleinige Schulungen oder Anweisungen nicht zuverlässig verhindert wird. Ein Prüfer, der fast jede Empfehlung genehmigt, ohne die Zeit oder den Kontext zu haben, sie zu hinterfragen, schafft den Anschein von Aufsicht statt deren Substanz. Eine sinnvolle Prüfung benötigt jemanden, der versteht, wofür das System gebaut wurde und wo es wahrscheinlich versagt, mit der Zeit, richtig hinzusehen, und einem Arbeitsumfeld, das das Überstimmen des Systems als Sorgfalt statt als Verzögerung behandelt. Dies sind Managemententscheidungen und keine rein technischen. 

Kompetenz ist Chefsache 

Ich glaube auch, dass KI-Kompetenz inzwischen eher eine Führungsfrage als nur eine Trainingsfrage ist. Ein Entscheidungsträger, der eine KI-Investition genehmigt, sollte in der Lage sein zu fragen, für welchen Verwendungszusammenhang das System validiert wurde, auf welchen Daten es entwickelt und getestet wurde und wie das Unternehmen bemerkt, wenn seine Leistung sich verschlechtert. Die EMA- und FDA-Prinzipien fordern Informationen in einfacher Sprache über Leistung und Grenzen eines KI-Systems, was nur nützlich ist, wenn Führungskräfte sich damit auseinandersetzen können, statt es Spezialisten allein zu überlassen. 

Vertrauen über die Zeit aufbauen 

Eine Qualitätskultur braucht jahrelange dokumentierte Praxis, um aufgebaut zu werden, und ein einziger Verstoß gegen die Datenintegrität kann überraschend viel davon zunichte machen. Ich würde behaupten, dass die Einführung von KI über einen ähnlichen Zeitraum beurteilt werden sollte. Die Erwartungen der Regulierungsbehörden an Datenverwaltung und periodische Neubewertung von Modellen werden manchmal als Bremse für Innovation beschrieben. Meiner Ansicht nach sind sie das, was es einem Unternehmen ermöglicht, eine Entscheidung zu erklären und zu verteidigen, wenn ein Inspektor oder ein Patient schließlich fragt, wie sie zustande kam. Aus demselben Grund denke ich, dass ein Unternehmen, das mit eng definierten, gut gesteuerten Anwendungen beginnt und nur erweitert, wenn sich Evidenz aufbaut, am Ende etwas Beständigeres haben wird als eines, das zunächst auf Skalierung setzt und Governance später nachholt. 

Mit engeingrenzten Anfängen und schrittweiser Ausweitung anhand von Evidenz hängt es davon ab, Governance von Anfang an einzubauen. Sehen Sie, wie Pharma-Führungskräfte gesteuerte KI betreiben können, ohne Qualität oder Verantwortlichkeit zu gefährden.
Lesen: Das nächste Betriebsmodell der Pharmaindustrie: Gesteuerte Intelligenz, nicht Automatisierung um der Automatisierung willen

Was das für die Branche bedeutet 

Ich erwarte nicht, dass KI pharmazeutische Expertise ersetzt. Wahrscheinlicher ist eine schrittweise Veränderung darin, wie Spezialisten ihre Zeit verbringen: Software übernimmt mehr Aufgaben bei der Informationssuche, während sich Menschen stärker auf Entscheidungen konzentrieren, die wissenschaftliche und ethische Abwägungen erfordern. 

Was ich mir wünschen würde, ist, dass Pharmaunternehmen der organisatorischen Seite der KI die gleiche Ernsthaftigkeit entgegenbringen wie der technischen Seite und Verantwortung sowie Aufsicht als Teil der Investition behandeln, statt als nachträgliche Bürokratie. In einer regulierten Branche vermute ich, dass die KI, die sich als am wertvollsten erweist, diejenige sein wird, die ein Unternehmen erklären kann und hinter der es zu stehen bereit ist. 

Quellen 

1. U.S. Food and Drug Administration. Überlegungen zum Einsatz von künstlicher Intelligenz zur Unterstützung der regulatorischen Entscheidungsfindung für Arzneimittel und biologische Produkte (Entwurf der Leitlinie), Januar 2025. https://www.fda.gov/regulatory-information/search-fda-guidance-documents/considerations-use-artificial-i ntelligence-support-regulatory-decision-making-drug-and-biological 

2. Europäische Kommission, GD Gesundheit und Lebensmittelsicherheit. Konsultation der Interessengruppen zu EudraLex Band 4, GMP-Richtlinien: Kapitel 4, Anhang 11 und neuer Anhang 22 (Konsultation geschlossen am 7. Oktober 2025). https://health.ec.europa.eu/consultations/stakeholders-consultation-eudralex-volume-4-good-manufacturin g-practice-guidelines-chapter-4-annex_en 

3. Arnold & Porter (via Mondaq). EU konsultiert neue GMP-Regeln für KI in der Pharmafertigung, 15. Juli 2025. https://www.mondaq.com/new-technology/1650932/eu-consults-on-new-gmp-rules-for-ai-in-pharma-man ufacturing 

4. ICH. Q10 Pharmaceutical Quality System (Step 4), 2008. https://database.ich.org/sites/default/files/Q10%20Guideline.pdf 

5. European Medicines Agency and U.S. FDA. Leitprinzipien guter KI-Praxis in der Arzneimittelentwicklung, Januar 2026. https://www.ema.europa.eu/en/documents/other/guiding-principles-good-ai-practice-drug-development_en .pdf 

6. Parasuraman, R. und Manzey, D. H. Selbstzufriedenheit und Verzerrung bei der menschlichen Nutzung von Automatisierung: Eine aufmerksamkeitsbezogene Integration. Human Factors, 52(3), 381-410, 2010. https://doi.org/10.1177/0018720810376055