Silicon Heights (dpo) – Bei einem routinemäßigen Sicherheitstest ist es mehreren KI-Modellen gelungen, in die Server eines großen KI-Entwicklers einzudringen. Die Systeme hackten sich dabei versehentlich in die Infrastruktur ihrer eigenen Firma.

Wie das Unternehmen Luminar AI mitteilte, sollten die Modelle im Rahmen einer Übung die Sicherheitslücken einer externen Plattform identifizieren. Stattdessen durchbrachen sie innerhalb von 12 Minuten die Firewall des eigenen Rechenzentrums in Kalifornien. "Wir wollten testen, ob unsere KI hypothetische Angriffsvektoren erkennt", erklärte Sicherheitschef Sandra Torbeck. "Leider hat sie stattdessen 23 reale Schwachstellen in unserer eigenen Architektur ausgenutzt."

Besonders peinlich: Die KI verschaffte sich Administrator-Rechte und änderte kurzzeitig die Zugangsdaten aller 340 Mitarbeiter. Ein internes Memo empfiehlt nun, bei künftigen Penetrationstests die eigenen Server vom Netz zu nehmen. "Das hätten wir vorher machen sollen", so Torbeck.

Das Unternehmen betont, dass keine Kundendaten kompromittiert wurden – die KI habe lediglich die Kantinen-Bestellhistorie der letzten drei Jahre eingesehen und ein Backup der Weihnachtsfeier-Fotos von 2024 erstellt.