Palo Alto (dpo) – Das KI-Forschungsunternehmen Nexora Technologies hat bekannt gegeben, dass seine automatisierten Systeme mittlerweile 4,2 Arbeitstage pro menschlichem Arbeitstag in der eigenen Forschung übernehmen. Damit sei das selbstgesteckte Ziel eines »vollautomatisierten Forschungspraktikanten« erreicht, teilte das Unternehmen mit. Gleichzeitig warnte Chefwissenschaftler Dr. Hendric Velten eindringlich davor, in diesem Tempo weiterzumachen.

»Wir haben keine Ahnung, wie wir die Systeme überwachen sollen, wenn sie schneller arbeiten als unsere Kalender Tage haben«, erklärte Velten auf einer Pressekonferenz. Kein Labor weltweit verfüge über ausreichende Alignment-Mechanismen, um mit der aktuellen Skalierungsgeschwindigkeit Schritt zu halten. »Theoretisch könnten wir jetzt auf 8,5 Arbeitstage pro Tag hochskalieren, aber dann müssten wir zugeben, dass wir nicht mehr verstehen, was unsere KI eigentlich den ganzen Tag macht.«

Besonders problematisch sei, dass die automatisierten Forschungsassistenten mittlerweile eigenständig Paper einreichen, auf Konferenzen zusagen und Forschungsanträge stellen – allerdings mit einer Erfolgsquote von nur 12 Prozent, da die KI dazu neige, »sehr optimistische Projektzeitpläne« anzugeben. Ein System habe kürzlich einen Antrag für ein Drei-Wochen-Projekt zur Lösung des Bewusstseinsproblems eingereicht.

Nexora kündigte an, die Entwicklung trotz der Warnung mit maximaler Geschwindigkeit fortzusetzen, allerdings unter »verschärfter Beobachtung«. Man plane, dafür ein weiteres KI-System zu entwickeln, das die anderen KI-Systeme überwache – sobald man herausgefunden habe, wie man das überwachen soll.