Medizinische Diagnose per Chatbot?

Diese Fragen untersucht Luisa de Alzaga Achter, Studentin des Studiengangs International Management an der International School of Management (ISM) München, in ihrer Abschlussarbeit. Dazu ist eine erweiterte Publikation erschienen.

KI in der medizinischen Diagnostik


KI könnte das medizinische Fachpersonal sinnvoll ergänzen. Vor allem organisatorische Aufgaben rund um Terminfindung und -buchung sowie in der Prävention und Nachsorge können Chatbots wertvolle Dienste leisten. Die eingesparten Ressourcen in Zeiten von Personalmangel und Kostendruck können dadurch effizienter in Klinik und Praxis investiert werden, was sowohl dem medizinischen Personal als auch den Patienten zugutekommen kann.

So fasst de Alzaga Achter in ihrem Vorwort zusammen:

„In diesem Kontext gewinnt die Künstliche Intelligenz (KI) als Schlüsseltechnologie auch in der Medizin zunehmend an Bedeutung. Durch riesige Datenmengen und mithilfe von Algorithmen ist KI in der Lage, behandlungsrelevante Muster zu erkennen, Vorhersagen zu treffen sowie sich kontinuierlich anzupassen und zu lernen. Hierbei trifft KI eigenständig Entscheidungen und ist in der Lage, die menschliche Intelligenz zu ergänzen, zusätzliche Erkenntnisse zu liefern, Probleme zu lösen und die Produktivität zu verbessern … Ein Ansatz, der zuletzt vermehrt Anwendung im Gesundheitswesen findet, ist der Einsatz von KI-basierten Chatbots.“

Und dabei geht es auch in der Arbeit: Welche Erwartungen haben Patienten an KI-basierte Chatbots?

Das setzt voraus: „Um die Akzeptanz von KI-basierten Chatbots in der Bevölkerung in Zukunft gewährleisten zu können, ist es für Anbieter und Entwickler von Chatbots von großer Bedeutung, die Erwartungen von Patienten an KI-basierte Chatbots zu kennen. Die noch geringe Nutzung von bereits bereitgestellten Chatbots durch Patienten impliziert, dass E-Health-Dienste bei Ärzten und Patienten bisher auf eher geringe Akzeptanz stoßen. Daher ist eine Erforschung der Motivation zur Nutzung von Gesundheits-Chatbots notwendig, um das Verhalten der Nutzer besser verstehen und Aspekte ableiten zu können, die bei der Entwicklung von Chatbots berücksichtigt werden sollten …“

Dafür sind acht Experten unterschiedlicher Alters- und Berufsgruppen mittels leitfadengestützter Interviews zu ihren Erwartungen, Motivationen und Hemmnissen bei der Chatbotnutzung befragt worden. Die Befragten kamen aus verschiedenen Bereichen: Entwickler von Chatbots, Vertreter des Gesundheitswesens sowie Patienten, also Nutzer dieser Chatbots.

Wichtig: Einfache Verwendung der Chatbots

Zunächst erhoffen sich die Befragten Orientierung und Unterstützung durch die Chatbots. Sie wünschen sich, mithilfe der Technologie sicher durch das komplexe Gesundheitswesen geführt zu werden, um das eigene Handeln zu bestätigen.  
Wichtig ist die Gebrauchstauglichkeit des Bots: Funktionalität, Qualität der Antworten, maschinelle Intelligenz und Benutzerfreundlichkeit stellen dabei zentrale Anforderungen dar. „Patienten wollen verständlicherweise ihre Krankengeschichte nicht immer wieder neu erzählen. Sie haben also die Erwartung, dass die künstliche Intelligenz mitlernt und sich die bereits eingegebenen Daten merkt“, erklärt de Alzaga Achter.


Ein weiterer Kritikpunkt der Befragten sind: Sprache und Empathie. So verfügen Chatbots bislang nicht über vollständige Sprachfähigkeiten auf menschlichem Niveau, was zu Missverständnissen und Unzufriedenheit bei den Nutzern führt. 

Betont wird in der Untersuchung: „Es bleibt festzuhalten, dass diagnostische KI-Systeme immer nur als Assistenztools verstanden werden dürfen. Die letztinstanzliche Entscheidungshoheit zur Verordnung und Vergabe medizinischer Mittel muss beim Menschen, also bei Ärzten oder Pflegekräften, verbleiben.“  


Thema: Daten


Insbesondere bei sensiblen Informationen, wie der eigenen Krankheitsgeschichte, legen die Befragten großen Wert auf einen verantwortungsvollen Umgang mit ihren Daten durch die KI. Eine Option wäre, dass der Chatbot mit einem Zertifikat ausgezeichnet wird, das garantiert, dass Daten sicher verwahrt werden und einfach nachzuverfolgen sind. Auch kann Datenschutz in der Wahrnehmung der Patienten am besten erreicht werden, wenn es sich um ein deutsches Unternehmen handelt, das den Chatbot betreibt, sodass die Daten auch nach deutschem Recht verwaltet werden.