WHO: Regulierung künstlicher Intelligenz im Gesundheitsbereich

Betont wird, dass Sicherheit und Wirksamkeit von KI-Systemen sichergestellt, geeignete Systeme schnell zur Verfügung gestellt und den Dialog zwischen Interessengruppen, einschließlich Entwicklern, Regulierungsbehörden, Herstellern, Gesundheitspersonal und Patienten, gefördert werden soll.

KI verändert Medizin und Gesundheit

Mit der zunehmenden Verfügbarkeit von Gesundheitsdaten und dem schnellen Fortschritt bei Analysetechniken – ob maschinelles Lernen, logikbasiert oder statistisch – könnten KI-Tools den Gesundheitssektor verändern. Oder tun es schon.

Beispielsweise könnte KI bei medizinischem Fachpersonalmangel von Vorteil sein, u.a. bei der Analyse von Netzhautscans und radiologischen Bildern. Allerdings werden KI-Technologien – einschließlich großer Sprachmodelle – schnell eingesetzt, manchmal ohne ein vollständiges Verständnis ihrer möglichen Leistung, was den Endbenutzern, einschließlich medizinischem Fachpersonal und Patienten, entweder nützen oder schaden könnte.

Training durch Daten, viele Daten

KI-Systeme sind komplex und hängen nicht nur von dem Code ab, mit dem sie erstellt werden, sondern eben genau auch von den Daten, mit denen sie trainiert werden, die beispielsweise aus klinischem Umfeld und Benutzerinteraktionen stammen. Vorschriften sollten eingesetzt werden, um sicherzustellen, dass die Merkmale – wie Geschlecht, Rasse und ethnische Zugehörigkeit – der in den Trainingsdaten enthaltenen Personen gemeldet und Datensätze bewusst repräsentativ gestaltet werden.

• Die WHO sieht diese Vorteile in KI-Tools und KI-Anwendungen:
• Potenzial von KI zur Verbesserung der Gesundheitsergebnisse durch die Stärkung klinischer Studien,
• Verbesserung der medizinischen Diagnose, Behandlung, Selbstversorgung und personenzentrierten Pflege,
• Ergänzung des Wissens, der Fähigkeiten und Kompetenzen von Fachkräften im Gesundheitswesen.

Aber genau durch solche Anwendungen greift die KI auf Gesundheitsdaten und sensible personenbezogene Daten zu, was robuste rechtliche und regulatorische Rahmenbedingungen zum Schutz der Privatsphäre, Sicherheit und Integrität erfordert.

„Künstliche Intelligenz ist vielversprechend für die Gesundheit, bringt aber auch ernsthafte Herausforderungen mit sich, darunter unethische Datenerfassung, Cybersicherheitsbedrohungen und die Verstärkung von Vorurteilen oder Fehlinformationen“, betont Dr. Tedros Adhanom Ghebreyesus, Generaldirektor der WHO.

Als Reaktion auf den wachsenden Bedarf der Länder, die schnelle Verbreitung von KI-Gesundheitstechnologien verantwortungsvoll zu bewältigen, werden in der WHO-Empfehlung sechs Bereiche für die Regulierung von KI für die Gesundheit skizziert:

1. Zur Förderung des Vertrauens in KI soll beispielsweise durch die Dokumentation des gesamten Produktlebenszyklus und die Verfolgung von Entwicklungsprozessen, die Schritte transparent gemacht werden.
2. Für das Risikomanagement müssen Themen wie bestimmungsgemäße Verwendung, kontinuierliches Lernen, menschliche Eingriffe, Schulungsmodelle und Cybersicherheitsbedrohungen umfassend berücksichtigt und die Modelle so einfach wie möglich gestaltet werden.
3. Die externe Validierung von Daten und die Klarheit über den beabsichtigten Einsatz von KI tragen dazu bei, die Sicherheit zu gewährleisten und die Regulierung zu erleichtern.
4. Eine Verpflichtung zur Datenqualität, beispielsweise durch eine strenge Bewertung der Systeme vor der Zulassung und dem Einsatz, ist von entscheidender Bedeutung, um sicherzustellen, dass die Systeme keine Vorurteile und Fehler verstärken.
5. Die Herausforderungen wichtiger, komplexer Vorschriften – wie der Datenschutz-Grundverordnung (DSGVO) in Europa und des Health Insurance Portability and Accountability Act (HIPAA) in den USA – werden angegangen, wobei der Schwerpunkt auf dem Verständnis des Umfangs und der Zuständigkeits- und Einwilligungsanforderungen im Dienste der Privatsphäre und des Datenschutzes liegt.
6. Durch die Förderung der Zusammenarbeit zwischen Regulierungsbehörden, Patienten, medizinischem Fachpersonal, Branchenvertretern und Regierungspartnern kann sichergestellt werden, dass Produkte und Dienstleistungen während ihres gesamten Lebenszyklus den Vorschriften entsprechen.