Künstliche Intelligenz: „Werkzeug in der Medizin“

Buyx nennt die Voraussetzungen für eine gute KI:

„KI-Anwendungen sind nur so gut in der Medizin wie die Datensätze, auf denen sie trainiert werden. Man braucht also wirklich gute Datensätze, die auch von unseren Patientinnen und Patienten aus Deutschland stammen. Diese sollten nicht verzerrt sein und hohen Qualitätsstandards genügen. Dann bekommt man die bestmögliche medizinische KI. Und wenn sorgfältig nachgewiesen ist, dass eine solche KI-Anwendung einzelne Aufgaben besser kann als Ärztinnen und Ärzte oder bisherige Software, dann sagen wir vom Deutschen Ethikrat, dass sie breit zur Verfügung stehen sollte. Da gibt es allererste Beispiele, etwa in der Diagnostik in der Bildgebung.“

Sie betont außerdem:

„Eingesetzt werden darf ja, wie bei anderer Medizintechnologie auch, nur eine geprüfte und qualitätsgesicherte – also zugelassene – KI. Die Entwicklung der verschiedenen Anwendungen sollte interdisziplinär geschehen. Programmiererinnen und Programmierer, medizinische Fachexpertinnen und -experten sowie Ethikerinnen und Ethiker sollten zusammenarbeiten, was auch schon oft so passiert. Probleme wie verzerrte Datensätze können so schnell erkannt und möglichst anwenderfreundliche Anwendungen entwickelt werden. 

Für den Einsatz von KI in der Praxis, also das konkrete Delegieren, sollten die medizinischen Fachgesellschaften Standards entwickeln.“

Wie die KI bei Patient:innen erklären?

„Es kann jeder medizinischen Maßnahme immer widersprochen werden. Das ist ja bereits heute so. Dann bieten Ärztinnen und Ärzte eine Alternative an, wenn es sie gibt. Die Einführung neuer Verfahren ist ja an sich keine Besonderheit. Es gibt jetzt schon viele Befunde, die mithilfe von hochentwickelter Software erstellt werden und das ist Teil der Aufklärung. Oder historisch, als die minimalinvasive-Chirurgie eingeführt worden ist – übrigens eine kleine Revolution – musste darüber auch aufgeklärt werden. Den Patientinnen und Patienten musste erklärt werden, dass es sich um eine neue, aber auch bessere Behandlungsmethode handelt und dass insgesamt die Risiken meist deutlich kleiner sind.“

Zur Überlegung, die Forschungsethikkommissionen in Deutschland zu zentralisieren, meint sie:

„Das wäre aus Sicht vieler Forscherinnen und Forscher sicher zu begrüßen, ist aber angesichts föderaler Strukturen wohl schwierig. Wichtig ist für multizentrische Forschung, dass nicht verschiedene Ethikkommissionen ein und dasselbe Projekt begutachten, sondern eine federführende Ethikkommission für alle Standorte. 

Für machbar gehalten wird aber im Bereich vor allem der Entwicklung algorithmenbasierter medizinischer Anwendungen die Einrichtung einer einzelnen, nationalen Begutachtungsstelle. Bei einem so komplexen, sich schnell entwickelnden Thema scheint es durchaus lohnend, dass man an dieser Stelle eine bundesweite Institution schafft und das nicht den lokalen Gremien auch noch aufbürdet.“