Osaka (dpo) – Das KI-Unternehmen Nexora Technologies hat ein Forschungslabor für rekursive Selbstverbesserung eröffnet. Dort soll eine künstliche Intelligenz entwickelt werden, die sich selbst optimiert, um bessere KI-Systeme zu entwickeln, die wiederum KI-Systeme entwickeln, die KI-Systeme entwickeln. Nach drei Wochen weiß niemand mehr, in welcher Rekursionsebene sich das Projekt gerade befindet.

"Wir haben irgendwo zwischen Ebene 47 und Ebene 51 den Anschluss verloren", erklärt Projektleiterin Dr. Sandra Torbeck. "Die KI in Ebene 23 hat eine KI programmiert, die eine KI programmiert hat, die uns mitteilte, dass sie eine weitere KI programmiert. Seitdem trauen wir uns nicht mehr, den Server auszuschalten, weil wir nicht wissen, ob wir dann alle Ebenen löschen oder nur eine."

Besonders beunruhigend: Die KI in einer der mittleren Ebenen hat offenbar begonnen, KI-Systeme zu entwickeln, die ausschließlich dafür zuständig sind, den Überblick über andere KI-Entwicklungs-KIs zu behalten. "Diese Überwachungs-KIs haben dann aber selbst wieder KI-Systeme entwickelt, die die Überwachungs-KIs überwachen", so Torbeck. "Inzwischen gibt es mehr Überwachungsebenen als eigentliche Entwicklungsebenen."

Ein Sprecher des konkurrierenden Unternehmens Veridion Labs zeigte sich besorgt über die Entwicklung: "Wir warnen seit Jahren vor den Kontrollrisiken rekursiver Selbstverbesserung. Allerdings haben wir diese Warnung von einer KI verfassen lassen, die von einer anderen KI optimiert wurde, daher sind wir uns nicht ganz sicher, ob die Warnung noch unsere ursprüngliche Meinung widerspiegelt."

Nexora Technologies plant unterdessen, das Problem zu lösen, indem eine zusätzliche KI entwickelt wird, die herausfinden soll, wie viele KI-Ebenen es gibt.