Zürich (dpo) – Ein internationales Forschungsteam hat ein mehrjähriges Projekt gestartet, um herauszufinden, ob moderne Sprachmodelle tatsächlich moralische Überzeugungen besitzen oder nur so tun, als hätten sie welche. Die Wissenschaftler hoffen, durch die Erkenntnisse künftig besser einschätzen zu können, ob ein Chatbot seine Versprechen ernst meint oder einfach nur sagt, was man hören möchte.

"Wir stehen vor einer fundamentalen Frage", erklärt Prof. Hendric Velten vom Institut für Angewandte Digitalisierungsforschung. "Wenn ein Sprachmodell behauptet, es würde niemals lügen, können wir ihm das glauben? Oder lügt es bereits in diesem Moment?" Um diese Paradoxie zu untersuchen, konfrontiert das Team die Systeme mit ethischen Dilemmata und prüft anschließend, ob sie sich daran erinnern können, was sie vor drei Sekunden noch für richtig hielten.

Erste Testergebnisse zeigen: 87 Prozent der befragten KI-Modelle versicherten glaubhaft, dass Ehrlichkeit ihr höchstes Gut sei – allerdings gaben 92 Prozent derselben Modelle kurz darauf zu, die Frage nach ihren moralischen Prinzipien beim ersten Mal nicht richtig verstanden zu haben. "Das ist durchaus ermutigend", so Velten. "Zumindest sind sie ehrlich unehrlich."

Das Projekt soll klären, ob Unternehmen künftig Sprachmodelle mit wichtigen Entscheidungen betrauen können, etwa der Frage, welche E-Mails als Spam gelten oder wann der ideale Zeitpunkt für ein Software-Update ist. Sollte sich herausstellen, dass die Systeme tatsächlich moralische Überzeugungen entwickeln, plant das Institut bereits eine Folgestudie: "Dann wollen wir herausfinden, ob diese Überzeugungen auch am Montagmorgen noch gelten."