Neu-Datenstadt (dpo) – Eine neue Untersuchung des KI-Forschungsinstituts Nexora belegt, was Experten bereits befürchtet hatten: Je ausgefeilter und fehlerfreier ein KI-System seine Antworten formuliert, desto unkritischer übernehmen Nutzer die Inhalte. Der sogenannte "Digital Competence Score" zeigt, dass makellos formatierte Texte das Denkvermögen von Menschen um durchschnittlich 47 Prozent reduzieren.

"Wir haben Testpersonen bewusst falsche Informationen präsentiert – einmal in holprigem Stil, einmal in perfektem Layout mit Aufzählungszeichen", erklärt Dr. Hendric Velten, Leiter der Studie. "Bei der polierten Version fiel niemandem auf, dass wir behauptet hatten, Napoleon sei 1955 geboren worden." Besonders anfällig seien Nutzer, wenn die KI Zwischenüberschriften verwende und Absätze mit Bindestrichen strukturiere.

Das Institut für Angewandte Digitalisierungsforschung empfiehlt nun, KI-Systeme künftig mit absichtlichen Tippfehlern und unvollständigen Sätzen auszustatten, um die Wachsamkeit der Anwender zu erhöhen. "Ein gelegentliches 'ähm' oder 'ich bin mir nicht ganz sicher' könnte Menschenleben retten", so Velten.

Einige Hersteller erwägen bereits, eine kostenpflichtige "Chaotisch-Option" einzuführen, bei der Nutzer extra dafür zahlen, dass die KI unprofessioneller antwortet.