Neustadt (dpo) – Ein Durchbruch in der KI-Forschung: Das neue Sprachmodell »Reflexor-7« des Instituts für Angewandte Digitalisierungsforschung kann nicht nur eigene Fehler erkennen und korrigieren, sondern erfindet bei Bedarf auch welche. »Das spart enorm viel Rechenzeit«, erklärt Projektleiterin Dr. Sandra Torbeck.

Das Verfahren namens »Reflection Tuning« ermöglicht es der KI, ihre Antworten selbstkritisch zu hinterfragen. In der Praxis zeigte sich jedoch ein unerwarteter Nebeneffekt: Wenn das Modell keine echten Fehler findet, halluziniert es welche und korrigiert sie anschließend. »Wir haben beobachtet, dass die KI bei einer einfachen Rechenaufgabe zunächst das richtige Ergebnis ermittelt, dann einen imaginären Rechenfehler erfindet, diesen ausführlich analysiert und schließlich wieder beim ursprünglich korrekten Ergebnis landet«, so Torbeck.

Laut einer Studie des Forschungsteams steigert dieser Ansatz die gefühlte Kompetenz des Systems um 340 Prozent. »Nutzer sind deutlich beeindruckter, wenn die KI einen Fehler eingesteht und korrigiert – selbst wenn dieser Fehler nie existiert hat«, erklärt Hendric Velten vom Institut. Die Technologie werde bereits von mehreren großen Anbietern getestet.

Die Entwickler arbeiten nun an einer Erweiterung: »Reflexor-8« soll in der Lage sein, auch die Erfindung der Fehler selbstkritisch zu hinterfragen und gegebenenfalls zu korrigieren.