Lernende KI-Systeme in der Medizin: Verband fordert Marktzugang

KI-Systeme: Statisch vs. weiterlernend

Systeme künstlicher Intelligenz werden u.a. schon bei der Auswertung von Bilddaten etwa bei CT- oder MRT-Scans eingesetzt oder bei der Analyse von Patientendaten, um z. B. Vorhersagen zu treffen, wie gut eine Therapie anschlägt. In Europa und den USA sind in den vergangenen Jahren immer mehr KI-Systeme als Medizinprodukt zugelassen. Aber: Bei diesen handelt es sich in der Regel um sogenannte statische KI-Systeme: Der Lernprozess muss vor der Inbetriebnahme abgeschlossen sein und das zugrundeliegende KI-Modell darf sich nicht mehr ändern.

Im Gegensatz dazu haben kontinuierlich-lernende KI-Systeme keinen fixierten technischen Entwicklungsstand. Sie werden in der Marktphase mit neuen Daten weiter trainiert, um die Leistung des KI-Modells zu verbessern. Sie dürfen aber für medizinische Anwendungen derzeit nicht als Medizinprodukte auf dem europäischen Unionsmarkt in Verkehr gebracht und vermarktet werden.

Der europäische Artificial Intelligence Act (AIA)

Die Deutsche Gesellschaft für Biomedizinische Technik im VDE hat Vorschläge erarbeitet, wie eine Alternative für sie bisherige „innovationshemmende“ Vorgehensweise aussehen könnte. Dafür haben die Expert:innen das aktuell geltende europäische Regelwerk zu Medizinprodukten analysiert und mit bereits existierenden Vorschlägen für einen neuen regulatorischen Rahmen abgeglichen. Auch der zukünftige europäischen Artificial Intelligence Act (AIA) ist in die VDE DGBMT Empfehlung eingeflossen.

So steht in der Empfehlung „Marktzugang von kontinuierlich-lernenden KI-Systemen in der Medizin“:

„Im Sinne einer antizipierenden CE-Konformitätsbewertung sollten Benannte Stellen einen vom Hersteller eingereichten PCCP für kontinuierlich-lernende KI-Systeme mit geplanten Änderungen am Modell bewerten. Sofern sich die Änderungen innerhalb des genehmigten PCCP bewegen, sollte keine erneute CE-Konformitätsbewertung mit Blick auf Änderungen am Modell durch die Benannte Stelle erforderlich sein. Dies gilt unter der Prämisse, dass ausreichende Maßnahmen zur Minderung etwaiger neuer Risiken und eine effektive Überwachung nach dem Inverkehrbringen implementiert wurden.

Die Medical Device Coordination Group der EU-Kommission (MDCG) sollte eine Leitlinie zum Inverkehrbringen von KI-Systemen in der Medizin veröffentlichen und den Benannten Stellen explizite Empfehlungen zum Umgang mit kontinuierlich-lernenden KI-Systemen geben. Dazu gehören insbesondere Vorgaben zu Form und Funktion eines PCCP, die der Hersteller zu beachten hat. Der Anhang dieses Dokumentes enthält einen Gliederungsentwurf für den PCCP, wie dieser für den europäischen Markt eingeführt werden könnte. Weiterhin sollte diese MDCG-Leitlinie nachvollziehbare Beurteilungskriterien für die Benannte Stelle in Bezug auf die Prüfung und Genehmigung eines PCCP enthalten. Die MDCG sollte darauf achten, dass die Erstellung der MDCG-Leitlinie in enger Abstimmung mit den Anforderungen des zukünftigen AIA erfolgt.“