Krebsbehandlung: Spezifische Leitplanken für KI-Regulierung

Denn: die derzeitigen Regelungen für KI-Anwendungen sind mit einem definierten und festen Zweck, bestimmten klinischen Indikationen und einer spezifischen Zielgruppe konzipiert. 

Und das bedeutet, dass eine Anpassung oder Erweiterung nach der Zulassung nicht möglich ist, ohne das Qualitätsmanagement und die regulatorischen, administrativen Prozesse erneut zu durchlaufen. GMAI-(Generalist Medical Artificial Intelligence)-Modelle mit ihrer Anpassungsfähigkeit und ihrem Vorhersagepotenzial auch ohne zuvor für diese spezifischen Beispiele trainiert worden zu sein – dem sogenannten Zero Shot Reasoning – stellen daher eine Herausforderung für die Validierung und Zuverlässigkeitsbewertung dar. Sie sind derzeit von allen internationalen Regelungen ausgeschlossen.

Gegenwärtige KI-Modelle

Gegenwärtige KI-Modelle für die Krebsbehandlung werden nur für bestimmte Zwecke trainiert und zugelassen. Im Gegensatz dazu können GMAI-Modelle ein breites Spektrum medizinischer Daten verarbeiten, darunter verschiedene Arten von Bildern und Text. Bei Erkrankten mit Darmkrebs könnte ein einziges GMAI-Modell beispielsweise Endoskopievideos, pathologische Gewebeschnitte und Daten aus der elektronischen Patientenakte interpretieren. Solche Mehrzweck- oder Generalistenmodelle sind ein Paradigmenwechsel bei den bisherigen, eng definierten KI-Modellen.

Krebsbehandlung: Potenzial vs. Regulierung

Doch gerade indem eine personalisierte Diagnose und Behandlung ermöglichen, werden KI-Modelle die Krebsbehandlung verändern. Modelle der sogenannten allgemeinen medizinischen Künstlichen Intelligenz (GMAI) stellen den derzeitigen Rechtsrahmen aber vor große Herausforderungen. Stephen Gilbert und Jakob N. Kather, beide Professoren am EKFZ für Digitale Gesundheit der TU Dresden, haben in einem Beitrag diskutiert, wie die Regulierung dieser Modelle in Zukunft gehandhabt werden könnte.

Gilbert hat eine mögliche Lösung: „Wenn diese Regelungen unverändert bleiben, könnten hybride Ansätze eine mögliche Lösung sein. GMAIs würden zunächst als Medizinprodukte zugelassen und danach könnte die Bandbreite der zulässigen klinischen Prompts eingeschränkt werden.“

Doch es gibt ein Aber

„Aber dieser Ansatz schränkt Modelle mit dem Potenzial, neue Fragen und multimodale Daten auf intelligente Weise zu behandeln, stark ein – durch Regeln, die geschrieben wurden, als diese Technologien noch gar nicht absehbar waren. Es sollten spezifische Entscheidungen zum Umgang mit diesen Technologien getroffen werden – ohne dabei ihre Fähigkeit auszuschließen, Fragen zu beantworten, für die sie nicht speziell entwickelt wurden. Neue Technologien erfordern manchmal neue Paradigmen in der Regulierung.“  

Die Forscher argumentieren, dass es unmöglich sein wird, Patientinnen und Patienten sowie medizinisches Fachpersonal davon abzuhalten, generische Modelle oder nicht zugelassene Unterstützungssysteme für medizinische Entscheidungen zu verwenden. Deshalb sei es wichtig, die zentrale Rolle der Ärztinnen und Ärzte zu erhalten und sie als befähigte Übersetzerinnen und Übersetzer von Informationen zu stärken.  

Der Vorschlag: Einen flexiblen Regulierungsansatz, der die einzigartigen Merkmale von GMAI-Modellen berücksichtigt und gleichzeitig die Patientensicherheit gewährleistet sowie die Entscheidungsfindung von Medizinerinnen und Medizinern unterstützt. Ein zu starrer regulatorischer Rahmen könnte dagegen den Fortschritt in der KI-gestützten Gesundheitsversorgung behindern. Ein nuancierter Ansatz ist wichtig, der Innovation und Patientenwohl gleichermaßen berücksichtigt.