Pragmatischer Ansatz für KI in der Pharmakovigilanz

Künstliche Intelligenz (KI) wurde schnell in verschiedene Bereiche der Pharmaindustrie integriert – von der Wirkstoffforschung bis zur Pharmakovigilanz. Letztere, generative KI (GenAI) birgt ein außergewöhnliches Potenzial. Da KI-Systeme jedoch in der Pharmakovigilanz entwickelt und breit eingesetzt werden, ist es notwendig, ihre Auswirkungen und Implementierung zu bewerten.

Ein gemeinsames Verständnis von KI-Systemen und ihren Auswirkungen muss geschaffen werden, um eine vertrauenswürdige KI‑Landschaft aufzubauen. Dazu gehört die Identifizierung und Bewertung ihrer Vorteile, Nachteile und potenziellen Risiken. Dieses gemeinsame Verständnis ermöglicht es allen Beteiligten, effektiv zusammenzuarbeiten und KI‑Systeme zu entwickeln, die mit gesellschaftlichen Werten und Erwartungen übereinstimmen. Die schnelle Verbreitung von KI erfordert die Entwicklung eines sorgfältigen, vertrauenswürdigen und menschenzentrierten Ansatzes, um sicherzustellen, dass KI‑Systeme bei Pharmakovigilanz‑Aktivitäten Datenschutz, Fairness, Transparenz und Compliance bewahren.

Die Europäische Union (EU) AI Act spielt eine entscheidende Rolle bei der Festlegung globaler Standards für die verantwortungsvolle Entwicklung von KI‑Systemen. Die Schaffung ähnlicher Vorschriften und internationaler Standards/Best Practices ist gleichermaßen wichtig, um die verantwortungsvolle Entwicklung und Implementierung von KI‑Systemen sicherzustellen. Dies wird jedoch voraussichtlich auf mehrere Herausforderungen stoßen.

Herausforderungen bei der Integration von KI in die Pharmakovigilanz

Life‑Science‑Unternehmen stehen bei der Integration von KI in die Pharmakovigilanz vor mehreren Herausforderungen, die wie folgt aussehen:

• Erwartungen der Geschäftsführung: Die Führung steht unter immensem Druck von Stakeholdern, bestehende Prozesse mit KI‑Technologien zu modernisieren. Dies ist jedoch schwierig, da alle Sicherheitssysteme in der Pharmakovigilanz wesentliche Informationen enthalten. Eine ordnungsgemäße Integration ist entscheidend, damit das Unternehmen die regulatorische Compliance beibehält und alle Daten schützt.
• Bedenken der Belegschaft: Die Belegschaft im Bereich Pharmakovigilanz umfasst häufig Pflegekräfte, Ärztinnen/Ärzte, Apothekerinnen/Apotheker und Wissenschaftlerinnen/Wissenschaftler, die aufgrund der Automatisierung um ihren Arbeitsplatz fürchten. Daher sind Umschulungen und Weiterbildung notwendig, damit die aktuelle Belegschaft neue KI‑Technologien akzeptiert und anwendet.
• Anforderungen der Anbieter: Anbieter, die Sicherheits‑Systeme/-Dienstleistungen bereitstellen, stehen unter Druck, KI‑Tools in ihre Lösungen zu integrieren und gleichzeitig komplexe globale rechtliche und regulatorische Anforderungen zu erfüllen. Dies ist jedoch schwierig zu leisten.

Rechtlicher Rahmen

Die Entwicklung pharmazeutischer Produkte ist stark reguliert, da sie sicherstellt, dass das final entwickelte und zugelassene Produkt sicher und wirksam ist. Wenn Unternehmen versuchen, KI zu integrieren, müssen sie bestehende regulatorische Rahmenwerke beachten. Jedes Rahmenwerk bringt eigene Herausforderungen mit sich.

Europäische Union

Die EU führt alle regulatorischen Rahmenwerke bei der KI‑Integration mit dem EU AI Act. Dieses Gesetz kategorisiert KI‑Systeme nach potenziellen Risiken und legt Umsetzungsanforderungen fest. Im Allgemeinen werden diese in drei Kategorien unterteilt:

• Anwendungen mit hohem Risiko: Diese Anwendungen unterliegen einer strengen Aufsicht.
• Verbotene Anwendungen: Bestimmte Anwendungen von KI‑Systemen, wie Gesichtserkennungs‑ und Emotionserkennungstechnologien, sind vollständig untersagt.
• Erlaubte Anwendungen/Ausnahmen: Einige KI‑Anwendungen, wie KI in der Medizin Forschung und Entwicklung, sind zulässig, müssen jedoch Governance‑ und Rechenschaftsgrundsätzen folgen.

Nicht‑Einhaltung des EU AI Act kann zu verschiedenen finanziellen Sanktionen führen, z. B. zwischen 3% und 7% des weltweiten Umsatzes des Unternehmens. Während die meisten KI‑Systeme in der Wirkstoffentwicklung wahrscheinlich nicht als „High‑Risk“ eingestuft werden, werden weiterführende Leitlinien zur Anwendung des AI Act Klarheit und Sicherheit bringen.

Vereinigte Staaten

Die Vereinigten Staaten verfügen nicht über umfassende Vorschriften für die Implementierung von KI‑Systemen. Stattdessen werden KI‑Regelungen durch verschiedene föderale und staatliche Maßnahmen umgesetzt. Zu den wichtigsten Maßnahmen gehören:

• Durchführungsverordnung 14110: Die im Oktober 2023 erlassene Executive Order 14110 fördert die Zusammenarbeit aller Bundesbehörden zur Entwicklung von Leitlinien für den sicheren Einsatz von KI in bestimmten Branchen und Technologien.
• NIST RMF: Dieses wurde von über 240 Mitgliedern aus Privatwirtschaft, Wissenschaft und Regierung entwickelt. Es bietet einen Rahmen für die vertrauenswürdige Entwicklung von KI‑Systemen. Es soll Organisationen dabei helfen, die Risiken von KI zu adressieren und zu managen.

Es gibt verschiedene aufkommende Datenschutzgesetze, wie das American Privacy Rights Act von 2024, das darauf abzielt, KI‑Gesetze durch den Fokus auf Auswirkungen von Bewertungen für Datenverarbeitung und ‑transfer zu beeinflussen. Diese Gesetze sind jedoch noch in einem frühen Stadium und können weiterhin von verschiedenen sozioökonomischen und politischen Faktoren beeinflusst werden (z. B. den Präsidentschaftswahlen im Dezember 2024).

Globale Trends

Weltweit gewinnt auch die KI-Regulierung an Bedeutung, und viele Länder verfolgen unterschiedliche Ansätze zur Regulierung von KI. Da KI in verschiedenen Regionen und Ländern ähnliche Auswirkungen hat, haben viele Bürger und Staaten zu internationaler Zusammenarbeit mit Organisationen wie den Vereinten Nationen (UN) und der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) aufgerufen, um globale Standards für die ethische Entwicklung und Implementierung von KI festzulegen.

Viele Länder wie Rwanda, Nigeria und Südafrika verwenden den EU AI Act als Modell, um ihre eigenen KI-Vorschriften zu entwickeln. Andere Länder wie China verfolgen keinen einheitlichen KI-Ansatz, sondern führen spezifische Regeln für verschiedene KI-Systeme ein.

Daher navigiert jedes Land weltweit individuell durch die KI-Regulierung anhand seiner ethischen und geschäftlichen Standards. Dennoch könnten globale Gesetze oder Vorschriften allen Ländern zugutekommen und die sichere Nutzung und Entwicklung von KI-Systemen leiten.

Aktuelle Anwendungsfälle von KI in der Pharmakovigilanz

Unternehmen integrieren schnell KI-Systeme, um Aufgaben zu automatisieren und menschliche Tätigkeiten — und damit menschliche Fehler — zu reduzieren. Es gibt viele Anwendungen von KI in der Pharmakovigilanz. Hier sind einige der prominentesten Anwendungen:

• Einzelberichte über Arzneimittel­sicherheit (ICSR): Regelbasierte Bots und Techniken der Verarbeitung natürlicher Sprache können die Fallverarbeitung und -aufnahme automatisieren.
• Qualitätskontrolle und Compliance-Überwachung: Automatisierte Systeme, einschließlich solcher mit KI, können Datenvalidierung, Auditierung und Anomalieerkennung automatisieren, um Datenqualität und Compliance sicherzustellen.
• Signal­erkennung und -management: Automatisierte Tools können Sicherheitsinformationen aus Quellsystemen übertragen und den manuellen Aufwand reduzieren. Anschließend können Machine-Learning-Algorithmen Data Mining und Mustererkennung durchführen.

Aufkommende Anwendungsfälle von GenAI in der Pharmakovigilanz

GenAI steigert die Prozesseffizienz, liefert Erkenntnisse und erleichtert die Entscheidungsfindung. Daher kann es breit in der Pharmakovigilanz eingesetzt werden. Hier sind einige der prominentesten Anwendungen:

• Erstellung von ICSR: KI kann ICSRs aus strukturierten und unstrukturierten Datenquellen erzeugen.
• Medizinische Bewertung: KI kann Bewertungen zur Schwere und Kausalität automatisieren.
• Narrativ- und Dokumentenerstellung: Große Sprachmodelle (LLMs) können detaillierte Fallnarrative ohne manuelle Fehler erstellen und so die operative Effizienz verbessern. LLMs können auch umfassende regulatorische Berichte entwerfen.
• Meldung unerwünschter Ereignisse: KI-gestützte Chatbots können die Aktualität und Genauigkeit der Datenerhebung verbessern. Beispielsweise kann die Nachverfolgung mit Patienten ebenfalls durch KI automatisiert werden, um die rechtzeitige Datenerhebung zu gewährleisten.
• Signalidentifikation und -charakterisierung: LLMs können Daten aus verschiedenen Quellen analysieren, um Sicherheits­signale frühzeitig zu erkennen und Verzögerungen sowie falsch positive Ergebnisse zu reduzieren.
• Echtzeit-Datenabfragen: LLMs können die Interaktion mit Datenrepositories verbessern und Echtzeit-Einblicke für eine schnellere Signalvalidierung liefern.

Zukünftige Betriebsmodelle und Transformation der Belegschaft

Wenn Unternehmen KI oder GenAI einführen, sollten sie diese Systeme an ihre spezifischen Anforderungen in der Pharmakovigilanz anpassen und gleichzeitig die Aufsicht darüber wahren, wie KI-Systeme entwickelt und bereitgestellt werden. Unternehmen sollten Zusammenarbeit und Engagement mit internen und externen Stakeholdern fördern, um Best Practices auszutauschen und Herausforderungen anzugehen.

Bei der Integration neuer Betriebsmodelle müssen Organisationen einen maßgeschneiderten Ansatz verfolgen. Hier sind einige organisatorische Best Practices bei der Implementierung von KI in der Pharmakovigilanz:

1. Verantwortung und Governance: Organisationen müssen ein KI-Governance-Komitee einrichten, das die KI-Strategie und Compliance überwacht. Es muss ein KI-Governance-Rahmenwerk entwickelt und regelmäßig aktualisiert werden. Sie sollten außerdem eine(n) Vertreter(in) ernennen, der/die alle ethischen Implikationen überwacht und die Einhaltung sicherstellt.
2. Transparenz und Erklärbarkeit: Während der Entwicklung und Bereitstellung von KI müssen Unternehmen Transparenz priorisieren. Eine umfassende Dokumentation zur Entwicklung, zum Testen und zur Leistungsfähigkeit von KI-Systemen muss geführt werden.
3. Menschliche Aufsicht und Kontrolle: Menschliche Aufsicht ist bei risikoreichen KI-Anwendungsfällen notwendig. Zu diesem Zweck können Human-in/on-the-loop-Ansätze implementiert werden, um menschliches Urteilsvermögen in KI-gestützte Entscheidungsprozesse einzubinden.
4. Fairness und Nichtdiskriminierung: Unternehmen müssen Fairness und Nichtdiskriminierung bei der Entwicklung und Bereitstellung von KI priorisieren. Regelmäßige Bias‑Assessments müssen durchgeführt und vielfältige Trainingsdatensätze verwendet werden, um Diskriminierung zu vermeiden.
5. Datenschutz und Daten-Governance: Etablieren Sie robuste Daten-Governance-Praktiken und Privacy-by-Design-Prinzipien. Das Eigentum an allen KI-generierten Inhalten und Daten muss geprüft werden, um sicherzustellen, dass keine Rechte an geistigem Eigentum verletzt werden.

Darüber hinaus gibt es mehrere Prozessaspekte bei der Implementierung von KI-Systemen:

1. Risikobewertung: Organisationen müssen das Risiko aller in der Pharmakovigilanz eingesetzten KI-Systeme bewerten und geeignete Risikoanalyse- und Minderungsmaßnahmen entwickeln.
2. Anbietermanagement: Bei der Nutzung von KI-Anbietern müssen die Rollen aller Beteiligten festgelegt werden. Außerdem muss das Daten-Eigentum und die Einwilligung zur Nutzung klar geregelt sein. Die Einhaltung regulatorischer Anforderungen durch die Anbieter und die interne Governance-Struktur des Unternehmens müssen regelmäßig bewertet werden. Konsequenzen bei Nichteinhaltung und Folgen einer Vertragsbeendigung müssen festgelegt werden.
3. Validierung: Validierungstechniken müssen in KI-Systeme integriert werden, um die Rückverfolgbarkeit der Datenquellen sicherzustellen.
4. Kontinuierliche Überwachung: Kontinuierliche Überwachung und Prüfungen müssen gewährleisten, dass das System sicher arbeitet. Unternehmen müssen angemessene Erfolgskennzahlen definieren, um den Projekterfolg zu bestimmen. Häufige Qualitätsbewertungen sind erforderlich, um die Compliance aufrechtzuerhalten.

Fazit

Die Integration von KI in die Pharmakovigilanz bietet verschiedene Chancen. Es muss jedoch eine kollaborative Strategie entwickelt werden, um sicherzustellen, dass die entwickelten und eingesetzten KI-Systeme die Erwartungen erfüllen. Obwohl diese Entwicklung vorteilhaft ist, wird sie voraussichtlich herausfordernd sein, da sich die KI-Regulierung noch in der Entwicklung befindet. Während Unternehmen die gesetzgeberischen und regulatorischen Rahmenbedingungen einzeln navigieren und versuchen, ihren eigenen KI-Regulierungsrahmen zu entwickeln, können sie die Compliance durch die Entwicklung interner Governance-Rahmen aufrechterhalten. Da die Einsatzfälle von KI in der Pharmakovigilanz zunehmen, müssen Unternehmen ihre KI-Strategien erstellen und an neue Gesetzgebungen und Entwicklungen anpassen.