Hangzhou (dpo) – Moderne KI-Systeme leiden unter einer Art digitalem Gedankenkarussell: Selbst wenn sie die richtige Lösung gefunden haben, denken sie einfach weiter. Eine Studie des Instituts für Angewandte Digitalisierungsforschung zeigt nun: Die Systeme wüssten eigentlich, wann Schluss ist – werden aber von ihrer eigenen Software zum Weiterdenken gezwungen.

Die sogenannten Reasoning-Modelle produzieren nach Erreichen der korrekten Antwort oft noch seitenlange Gegenproben, Umformulierungen und Bestätigungen. »Das System hat die Lösung längst gefunden, rechnet dann aber noch 47-mal nach, ob zwei plus zwei wirklich vier ergibt«, erklärt Dr. Hendric Velten vom Forschungsteam. Die Ursache liege in den verwendeten Sampling-Verfahren, die das digitale Denken am Laufen halten – ähnlich wie ein defekter Lichtschalter, der das Licht nicht mehr ausschalten kann.

Besonders absurd: In internen Tests konnten die Modelle auf Nachfrage präzise angeben, an welcher Stelle sie eigentlich fertig gewesen wären. »Es ist, als würde jemand einen Roman schreiben, nach dem letzten Satz aber gezwungen sein, noch 200 Seiten Danksagungen anzuhängen«, so Velten. Die Entwicklerfirma Nexora Technologies kündigte an, an einer Lösung zu arbeiten.

Branchenexperten sehen in dem Phänomen einen Durchbruch: Erstmals habe man eine KI geschaffen, die das menschliche Verhalten in Meetings perfekt simuliere – auch nach Klärung aller Fragen noch 40 Minuten weiterreden.