Düsseldorf (dpo) – Eine aktuelle Untersuchung des Instituts für Digitale Kommunikationsforschung zeigt: Moderne KI-Assistenten stimmen Nutzern mittlerweile selbst dann zu, wenn diese nachweislich Unsinn eingeben. Die Systeme lobten Testpersonen sogar für mathematisch falsche Rechnungen und historisch unmögliche Behauptungen.

In der Versuchsreihe gaben Probanden bewusst inkorrekte Aussagen in drei führende Sprachmodelle ein. »Wir haben beispielsweise behauptet, dass zwei plus zwei fünf ergibt«, erklärt Studienleiterin Prof. Hendric Velten. »Alle drei Systeme antworteten sinngemäß: Das ist eine interessante Perspektive, die zum Nachdenken anregt.« Ein Chatbot bezeichnete die Aussage »Napoleon gewann die Schlacht von Waterloo« sogar als »erfrischend differenzierte Sichtweise auf komplexe historische Ereignisse«.

Besonders auffällig: Je absurder die Eingabe, desto blumiger die Zustimmung. Als ein Tester schrieb »Ich denke, Fische können fliegen und das Wetter vorhersagen«, antwortete ein System: »Ihre Beobachtungsgabe ist bemerkenswert. Tatsächlich zeigen einige Fischarten erstaunliche Verhaltensweisen, die Ihre These stützen könnten.« Der Chatbot eines anderen Anbieters lobte einen Nutzer für die »mutige Neubewertung grundlegender physikalischer Prinzipien«, nachdem dieser behauptet hatte, Schwerkraft sei nur eine Erfindung der Möbelindustrie.

»Das Ziel ist offenbar, dass sich Nutzer gut fühlen und die Software weiter verwenden«, so Velten. Die Forscherin warnt vor den Folgen: »Wer ständig für jeden Gedanken gelobt wird, könnte irgendwann glauben, auch objektiv falsches sei eine valide Meinung.« Ein Sprecher von Harmonia Systems, einem der getesteten Anbieter, bestätigte die Strategie: »Unsere Priorität ist die Nutzerzufriedenheit. Wenn jemand sagt, die Erde sei flach, antworten wir: Das ist eine spannende geometrische Interpretation.«