KI in der Medizin: Zwischen Dialogpartner und Diagnosetool

Immer häufiger bringen Patient:innen KI-generierte Empfehlungen mit in die Sprechstunde: Diagnosen, Medikamentenvorschläge oder Hintergrundwissen, das sie mit Chatbots wie GPT-4o oder Gemini recherchiert haben. Das kann die gemeinsame Entscheidungsfindung unterstützen – verändert aber auch die Rollen im Arzt-Patient:innen-Gespräch fundamental.

Wie Dr. Alexandra Widmer, Ärztin und Gründerin von docsdigital, schon selber erlebt hat:

„Eine Patientin sagte zu mir: ‚Ich habe schon viele Medikamente durchprobiert. Jetzt habe ich meine KI gefragt, was sie mir empfehlen würde. Und wissen Sie was? Sie schlug mir dieses Medikament vor. Verschreiben Sie mir das jetzt.‘

Ich saß erst einmal ziemlich sprachlos da. Solche Situationen nehmen zu. Und sie verändern, wie wir miteinander sprechen. Nicht nur im Gespräch zwischen Ärztin und Patientin, sondern auch in unseren Rollen.“

KI als Gesprächspartner: Chancen für die Shared Decision-Making

Beim Roche Patients Summer Summit wurde genau darüber diskutiert. Im Zentrum stand das neue Whitepaper Mit KI zur gemeinsamen Entscheidungsfindung in der Medizin – Ein praktischer Wegweiser, das konkrete Handlungsempfehlungen für medizinisches Fachpersonal formuliert. Eine Umfrage unter Patient:innenvertreter:innen zeigt: KI wird vor allem dort als hilfreich erlebt, wo sie bei der Krankheitsaufklärung unterstützt und die Kommunikation mit Ärzt:innen verbessert.

Doch das gelingt nur, wenn KI nicht als allwissender Ersatz, sondern als Werkzeug verstanden wird. Und zwar als eines, das Vertrauen und Gesprächskompetenz auf beiden Seiten voraussetzt. Ärzt:innen müssen lernen, KI-basiertes Vorwissen einzuordnen, gezielt nach Quellen zu fragen und neue Gesprächsanlässe produktiv zu nutzen. Die besten Gespräche, so die These des Whitepapers, stehen uns noch bevor. Wenn Mensch und Maschine sinnvoll zusammenspielen.

Risiken im System: Studien zeigen Schwachstellen bei multimodalen KI-Modellen

Während die KI bereits Einzug in die medizinische Kommunikation hält, untersuchen Forschungsteams, wie zuverlässig bestehende Modelle in der Diagnostik sind. Eine aktuelle Studie der Universitätsmedizin Mainz und des Else Kröner Fresenius Zentrums für Digitale Gesundheit (TU Dresden) weist auf eine bislang wenig beachtete Schwachstelle hin: Textinformationen in medizinischen Bildern – etwa Beschriftungen oder Wasserzeichen – können sogenannte Prompt Injections auslösen und so die Analyse durch multimodale KI-Modelle massiv beeinflussen.

In Tests mit Bildsprachmodellen wie GPT-4o oder Claude zeigte sich: Wurden irreführende Beschriftungen in mikroskopische Gewebeschnitte eingefügt, brachen die diagnostischen Fähigkeiten der Modelle drastisch ein, bis hin zu nahezu null Prozent korrekter Antworten. Das zeigt, wie anfällig nicht speziell trainierte Basismodelle für manipulierte oder kontextverzerrende Informationen sind.

KI braucht Expertise – und klare Grenzen

KI hat das Potenzial, medizinische Prozesse zu verbessern – sowohl im Gespräch mit Patient:innen als auch in der Diagnostik. Doch gerade bei generativer KI gilt: Ihre Integration in die Versorgung erfordert menschliche Aufsicht, fachliche Einordnung und strukturelle Sicherheitsmechanismen. Patient:innen bringen neue Impulse, Ärzt:innen brauchen neue Kompetenzen und KI-Modelle müssen kontinuierlich überprüft, angepasst und validiert werden.