Neustadt (dpo) – Seit Jahren nutzt die KI-Branche den sogenannten Neuro-Kompilator, doch niemand kann erklären, warum er funktioniert. "Wir füttern ihn mit Daten, er spuckt Ergebnisse aus – aber was dazwischen passiert, ist uns ein Rätsel", gibt Prof. Hendric Velten vom Institut für Algorithmenforschung und Datenverarbeitung zu.

Besonders faszinierend: Der Neuro-Kompilator scheint über eine Art "magisches Denkmuster" zu verfügen, das selbst seine Entwickler nicht nachvollziehen können. "Wir haben ihn gebaut, aber verstehen tun wir ihn nicht", so Velten. "Es ist, als hätte man ein Auto konstruiert und wüsste nicht, warum es fährt. Aber es fährt halt." Mittlerweile plane man, den Neuro-Kompilator selbst zu fragen, wie er funktioniere – in der Hoffnung auf eine verständliche Antwort.

Laut einer aktuellen Studie geben 94 Prozent der KI-Forscher zu, bei Erklärungsversuchen einfach mit Fachbegriffen um sich zu werfen, bis das Gegenüber aufhört nachzufragen. "Attention-Mechanismus, Multi-Head-Architecture, Positional Encoding – solange man das selbstbewusst genug sagt, nicken die Leute einfach", bestätigt Dr. Sandra Torbeck von der Hochschule für Digitaltechnik Süd.

Die Fachwelt hofft nun auf einen Durchbruch: Ein neu entwickelter "Meta-Kompilator" soll künftig erklären, wie der ursprüngliche Neuro-Kompilator arbeitet. Wie dieser Meta-Kompilator allerdings funktioniert, könne man noch nicht sagen.