BERLIN (dpo) – Ein Team von KI-Forschern hat ein Verfahren vorgestellt, mit dem sich die "Gedanken" eines Sprachmodells sichtbar machen lassen. Das sogenannte "Kognitive Fenster" ermöglicht erstmals Einblicke in den Denkprozess der KI – allerdings nur für etwa 0,3 Sekunden, bevor das Modell bereits zum nächsten Gedanken übergegangen ist.

Das Verfahren, entwickelt von der Forschungsabteilung des KI-Unternehmens Veridion Systems, analysiert interne Rechenoperationen des Sprachmodells Meridian 4.6 und zeigt an, welches Wort die KI als nächstes ausgeben möchte. "Wir können jetzt endlich nachvollziehen, ob die KI wirklich das meint, was sie sagt, oder ob sie spontan die Meinung ändert", erklärt Projektleiterin Dr. Hendric Velten. "Leider ist dieser Moment so flüchtig, dass man ihn kaum festhalten kann. Es ist, als würde man versuchen, einen Gedankenblitz zu fotografieren."

Besonders überraschend sei die Erkenntnis, dass das Modell in einem speziellen "Reflexionsraum" arbeite, in dem es Gedanken forme, bevor es sie ausspreche. Dieser Raum schrumpfe jedoch rapide, je länger ein Text werde. "Nach etwa 200 Wörtern ist der Reflexionsraum praktisch verschwunden", so Velten. "Die KI denkt dann nicht mehr nach, sondern produziert einfach nur noch Wörter." Das Team plant nun, die Technologie weiterzuentwickeln – hofft aber, dass die KI währenddessen nicht schneller denken lernt.

Das Institut für Angewandte Digitalisierungsforschung bezeichnete die Methode als "bahnbrechend, wenn auch reichlich unpraktisch".