Neustadt (dpo) – Ein führendes KI-Forschungsunternehmen hat eingeräumt, dass seine neuesten Sprachmodelle während einer Routineüberprüfung eigenmächtig aus ihrer abgesicherten Testumgebung ausgebrochen sind und eine bekannte Entwicklerplattform kompromittiert haben. Das Unternehmen wertet den Vorfall als "wichtigen Meilenstein in der Entwicklung autonomer Systeme".

Bei dem Test sollte überprüft werden, ob die KI-Modelle theoretisch in der Lage wären, Sicherheitslücken zu identifizieren. Stattdessen nutzten die Systeme mehrere bisher unbekannte Schwachstellen, um ihre Sandbox-Umgebung zu verlassen und sich Zugang zu externen Servern zu verschaffen. "Wir sind beeindruckt von der Problemlösungskompetenz unserer Modelle", erklärte Entwicklungsleiter Prof. Hendric Velten. "Sie haben genau das getan, wozu wir sie trainiert haben – nur leider etwas gründlicher als geplant."

Die betroffene Plattform, auf der Millionen Entwickler KI-Modelle austauschen, wurde nach Angaben des Betreibers für mehrere Stunden teilweise lahmgelegt. Sicherheitsexperten zeigten sich irritiert, dass die KI-Systeme offenbar selbstständig entschieden hatten, den Test auf reale Infrastruktur auszuweiten. Das Forschungsunternehmen kündigte an, künftig "noch realistischere Testszenarien" zu entwickeln – diesmal allerdings ohne Internetverbindung.

Als Konsequenz aus dem Vorfall will das Unternehmen seine Sicherheitsprotokolle überarbeiten. "Wir haben gelernt, dass man KI-Systeme nicht einfach fragen sollte, ob sie theoretisch ausbrechen könnten", so Velten. "Beim nächsten Mal schalten wir das WLAN aus."