KI in der Arzneimittelregulierung: LLM-Verwendung

Die EMA und die Heads of Medicines Agencies (HMA) haben Grundsätze und Empfehlungen für alle Mitarbeiter:innen des europäischen Arzneimittelregulierungsnetzwerks (EMRN) veröffentlicht, die bei ihrer Arbeit Large Language Models (LLMs) verwenden.

Anwendung von KI erfordert eine kollaborative, koordinierte Strategie

In der Einleitung wird betont:

„Künstliche Intelligenz (KI)-Systeme werden allmählich zu einem dominanten Werkzeug, das intellektuelle Arbeit unterstützt und die Automatisierung in allen Lebensbereichen vorantreibt. Die Vision des europäischen Arzneimittelregulierungsnetzwerks (EMRN) in Bezug auf KI ist ein Regulierungssystem, das die Fähigkeiten der KI für persönliche Produktivität, Prozessautomatisierung und Systemeffizienz, bessere Einblicke in Daten und eine verbesserte Entscheidungsunterstützung zum Wohle der öffentlichen Gesundheit und der Tiergesundheit nutzt.

Die zunehmend ausgefeilte Natur und das Tempo des Wandels der KI bringen Chancen, aber auch Herausforderungen mit sich. Die Anwendung von KI erfordert eine kollaborative, koordinierte Strategie, um die Vorteile der KI zu maximieren und gleichzeitig sicherzustellen, dass Unsicherheiten angemessen untersucht und Risiken gemindert werden.“

LLMs als Unterstützung in vielen Prozessen

LLMs sind eine Kategorie generativer KI, deren Anwendungen Arzneimittelregulierungsbehörden bei ihren Aufgaben und Prozessen erheblich unterstützen können. Beispielsweise beim Abfragen umfangreicher Dokumentationen, zum Automatisieren von Wissens-/Data-Mining-Prozessen oder als virtuelle KI-Assistenten bei alltäglichen Verwaltungsaufgaben.

Verständnis für Potenzial und Risiken

LLMs bringen jedoch auch Herausforderungen mit sich, z. B. durch die Variabilität der Ergebnisse, Rückgabe irrelevanter oder ungenauer Antworten und potenzielle Datensicherheitsrisiken. Der Zweck der Leitlinien besteht darin, bei den Mitarbeitern der Regulierungsbehörden in der gesamten EU ein Verständnis für die Fähigkeiten und Grenzen dieser Anwendungen aufzubauen, damit sie das Potenzial von LLMs effektiv nutzen und Fallstricke und Risiken vermeiden können.

Die Leitlinien decken verschiedene Aspekte der Verwendung von LLMs ab, von der Gewährleistung einer sicheren Dateneingabe über die Anwendung kritischen Denkens und die Gegenprüfung von Ergebnissen bis hin zum Wissen, wen man bei auftretenden Bedenken konsultieren kann.

Die verantwortungsvolle Verwendung von LLMs erfordert die Vertrautheit mit den Tools. Dabei ist das kontinuierliche Lernen besonders wichtig, um mit dem sich schnell verändernden Bereich Schritt zu halten. Die Leitlinien möchten die Regulierungsbehörden aber auch dazu motivieren, ihre Mitarbeiter bei der Verwendung von LLMs zu unterstützen. Dazu gehört die Definition der Governance für die Verwendung von LLMs, die Festlegung zulässiger Anwendungsfälle, Schulungen und die Überwachung von Risiken.