KI-Agenten: „Datensicherheit und Kontrolle stehen auf dem Spiel“

KI-Agenten: Die selbstständig agierenden Systeme könnten tief in sensible Daten eingreifen und Privatsphäre wie Sicherheit gefährden. Und das hat auch Folgen für Pharma und Healthcare.

KI-Agenten: Zwischen Hype und Risiko

Auf dem UN-„AI for Good“-Summit in Genf sprach Whittaker über die Gefahren von KI-Agenten, also digitalen Assistenten, die im Namen der Nutzer eigenständig handeln sollen. Um diese Aufgaben auszuführen, benötigen sie umfassenden Zugriff auf persönliche Daten, von Terminen bis hin zu Finanzinformationen. Whittaker warnt: Genau dieser Zugriff mache sie zu einem potenziellen Einfallstor für Hacker und Datenmissbrauch.

„KI fürs Gute“: Anspruch und Realität

Während Tech-Konzerne KI-Projekte oft als gemeinwohlorientiert präsentieren, sieht Whittaker hier vor allem Marketing. Ob und wie stark KI tatsächlich zum Wohl der Gesellschaft beitrage, lasse sich nicht an Konferenzreden, sondern an Investitionen und Geschäftsberichten ablesen.

Relevanz für Pharma und Healthcare

Für Pharma und Gesundheitswesen sind Whittakers Warnungen besonders relevant:

• Datenschutz: Elektronische Patientenakten, klinische Studien und sensible Gesundheitsdaten wären bei KI-Agenten potenziell exponiert.
• Regulatorik: KI-Anwendungen im Gesundheitsbereich müssen höchsten Sicherheits- und Compliance-Standards genügen. Überhastet integrierte Agenten könnten diese Standards unterlaufen.
• Vertrauen: Patienten und Fachkräfte akzeptieren KI nur, wenn Transparenz, Kontrolle und Nachvollziehbarkeit gewährleistet sind.

Kommunikation zwischen Patient, Arzt und Pharma

Besonders kritisch ist der Einsatz von KI-Agenten in der Patientenkommunikation. Immer häufiger wenden sich Menschen an KI-Systeme, um medizinische Fragen zu stellen oder Empfehlungen zu Medikamenten einzuholen. Mit diesen Informationen suchen sie dann den Arzt auf mit der Erwartung, ein bestimmtes Präparat zu erhalten. Damit verschiebt sich das Kräfteverhältnis in der Arzt-Patient-Kommunikation und auch die Rolle von Pharma: Wenn KI-Empfehlungen auf undurchsichtigen Datenquellen oder unklaren Interessenslagen beruhen, können Fehlentscheidungen, falsche Erwartungen und Vertrauensverluste entstehen.

Dr. Alexandra Widmer, die sehr aktiv auf LinkedIn ist und bezüglich digitaler Medizin sehr viel postet sowie aus ihrem Praxis-Alltag berichtet, wurde mit solch einer Nachfrage bereits konfrontiert. Eine Patientin kam in ihre Sprechstunde, erzählte von dem Dialog mit einem KI-Agenten, der ihr ein Medikament empfohlen hat, das sie von ihr verschrieben bekommen wollte. In ihrem Post lautete ihre Abschlussfrage: Ist das die Zukunft?

Europa und die Chance auf Alternativen

Whittaker sieht die USA und China aktuell im KI-Wettrennen vorn, warnt aber davor, dem Hype unkritisch zu folgen. Europa könne mit klarer Regulierung, datensparsamen Ansätzen und dezentralen Modellen eine eigene, sicherheitsorientierte Alternative entwickeln.

Fazit für Pharma


Whittakers Kernbotschaft lautet: Der Einsatz von KI ist keine rein technische, sondern eine politische und ethische Frage. Für eine Branche, die mit besonders sensiblen Daten und direkter Patientenkommunikation arbeitet, ist das eine dringende Erinnerung, Sicherheits- und Vertrauensfragen bei der Einführung von KI-Lösungen konsequent mitzudenken.

KI verändert die Spielregeln: Was das für Pharmaunternehmen bedeutet

Im PM—Report Podcast spricht KI-Experte Harald Röschlein, Gründer MAIKE AI Marketing, über die weitreichenden Veränderungen, die durch generative KI auf Unternehmen zukommen. Sein Fazit: KI ist kein kurzfristiger Hype, sondern ein dauerhafter und tiefgreifender Wandel, der Marketing, Kommunikation und Sichtbarkeit fundamental verändert.