KI: Regeln für den Umgang in der Wissenschaft

Eine internationale Arbeitsgruppe betont, dass die Wissenschaft gerade durch die Reproduzierbarkeit, Transparenz und Verantwortung ihr Vertrauen erhält. Und auch dadurch, dass Ergebnisse unabhängig davon, an welchem Institut sie entstanden sind, gültig sind. Außerdem müssen Daten, die einer Studie zugrunde liegen, veröffentlicht werden und Forschende die Verantwortung für ihre Publikationen übernehmen.


Wenn KI mitforscht


Eine interdisziplinäre Arbeitsgruppe mit Mitgliedern aus Politik, Unternehmen und Wissenschaft hat sich gefragt: Was aber, wenn Künstliche Intelligenz mitforscht? Denn längst werden KI-Werkzeuge verwendet, um neue Moleküle zu entwerfen, komplexe Daten auszuwerten oder Forschungsfragen zu generieren.  

Einen Verhaltenskodex hat die Gruppe aufgestellt:


• Wissenschaftlerinnen und Wissenschaftler sollen offenlegen, welche Tools und Algorithmen sie benutzt haben und die Beiträge von Maschine beziehungsweise Mensch klar kennzeichnen.
• Die Forschenden tragen weiterhin die Verantwortung für die Genauigkeit der Daten und für die Schlussfolgerungen, die sie aus diesen ziehen, selbst wenn sie dafür KI-Analysetools verwendet haben.
• KI-generierte Daten müssen kenntlich gemacht werden, damit sie nicht mit Daten und Beobachtungen aus der realen Welt verwechselt werden können.
• Die Fachleute müssen sicherstellen, dass ihre Ergebnisse wissenschaftlich fundiert sind und keinen Schaden anrichten. Das Risiko, dass KI etwa durch die verwendeten Trainingsdaten „voreingenommen“ wird, muss möglichst gering gehalten werden.
• Nicht zuletzt sollen Forschende, zusammen mit Politik, Zivilgesellschaft und Unternehmen die Auswirkungen von KI überwachen und gegebenenfalls Methoden und Regeln anpassen.

Urs Gasser, ein Mitverfasser des Kodex’ und Professor für Public Policy, Governance and Innovative Technology an der TUM, findet, dass „… die nun erarbeiteten Grundsätze (sich) auf die Nutzung in der Wissenschaft fokussieren und zur richtigen Zeit kommen. Sie haben Signalwirkung für Forschende über Disziplinen und Sektoren hinweg.“ 

Ein neuer Strategierat – angesiedelt bei der Nationalen Akademie der Naturwissenschaften, Ingenieurwissenschaften und Medizin der USA –  soll der Wissenschaft beratend zur Seite stehen, schlägt die Arbeitsgruppe vor.