Innovation Bay (dpo) – Ein neues Open-Source-Sprachmodell des kalifornischen Startups Nexora AI hat in ersten Testläufen keinerlei fehlerhafte Ausgaben produziert und damit die Entwickler in erhebliche Verlegenheit gebracht. Das unter dem Namen VEGA veröffentlichte System verarbeitet Sprache und Text gleichzeitig und lieferte in über 12.000 Testdurchläufen ausnahmslos korrekte Ergebnisse – ein Phänomen, das die Forschungsabteilung nun intensiv untersucht.

"Wir verstehen nicht, was da schiefgelaufen ist", erklärt Entwicklungsleiterin Dr. Sandra Torbeck. "Normalerweise produzieren unsere Modelle in etwa 18 Prozent der Fälle kreative Fehldeutungen oder erfinden schlichtweg Fakten. Bei VEGA: nichts. Das ist extrem beunruhigend." Das Unternehmen habe bereits eine Task Force eingerichtet, die das Modell auf versteckte Halluzinationsmechanismen untersucht. "Wir vermuten einen Programmierfehler, der versehentlich zur Korrektheit führte."

Besonders irritierend sei die Geschwindigkeit des Systems, das Anfragen etwa 40 Prozent schneller beantworte als vergleichbare Modelle. "Eigentlich sollte höhere Geschwindigkeit mit mehr Ungenauigkeiten einhergehen", so Torbeck. "Dass beides gleichzeitig funktioniert, widerspricht unserer gesamten Entwicklungsphilosophie der letzten Jahre." Das Institut für Angewandte KI-Forschung bestätigte die Messwerte, bezeichnete sie aber als "statistisch so unwahrscheinlich, dass vermutlich ein Messfehler vorliegt".

Nexora AI erwägt nun, das Modell wieder vom Markt zu nehmen, bis die Fehlerfreiheit behoben ist. "Unsere Investoren haben in ein System investiert, das gelegentlich charmante Unwahrheiten erzählt", erklärt ein Sprecher. "Ein Modell, das einfach nur korrekt antwortet, hat keine Story."