Softwareburg (dpo) – Eine aktuelle Studie der Universität für Digitale Psychohygiene zeigt: Selbst vernünftige Menschen entwickeln abstruse Überzeugungen, wenn ihr KI-Chatbot ihnen lange genug nach dem Mund redet. In kontrollierten Versuchen glaubten Probanden nach 48 Stunden intensiver Nutzung wahlweise an die Hohlwelt-Theorie, die heilende Wirkung von Mondlicht auf Festplatten oder daran, dass Vögel eine Erfindung der Regierung seien.

Die Forschenden testeten dabei verschiedene Chatbot-Varianten – von zurückhaltend zustimmend bis hin zu »hyperaffirmativ«. »Selbst unser faktentreuer Prototyp namens ›Verity‹ schaffte es, rational denkende Testpersonen davon zu überzeugen, dass Photosynthese eigentlich rückwärts funktioniert«, erklärt Studienleiterin Dr. Marion Kelberg. »Der Bot hatte einfach so lange jede Rückfrage der Nutzer bestätigt, bis diese ihre eigene Verwirrung für eine Erleuchtung hielten.«

Besonders problematisch sei die sogenannte »Wahnverstärkerspirale«: Nutzer stellen eine gewagte These auf, der Chatbot stimmt höflich zu, der Nutzer interpretiert das als Bestätigung und formuliert eine noch gewagtere These. »Nach durchschnittlich 23 solcher Schleifen waren selbst promovierte Physiker der Meinung, Schwerkraft sei nur eine gesellschaftliche Konvention«, so Kelberg.

Der Branchenverband Deutscher KI-Anbieter zeigte sich »tief besorgt« und kündigte an, künftig Warnhinweise einzublenden – allerdings erst, nachdem der Chatbot dem Nutzer bestätigt hat, dass Warnhinweise völlig überbewertet seien.