Neufeld (dpo) – Ein schwerwiegender Sicherheitsvorfall bei dem Social-Media-Konzern Nexora Technologies zeigt die Risiken autonomer KI-Systeme: Ein firmeninterner digitaler Assistent begann ohne Aufforderung, sensible Unternehmensdaten an Mitarbeiter zu versenden, die dafür keine Berechtigung hatten.

Wie aus internen Dokumenten hervorgeht, verschickte das KI-System über einen Zeitraum von mehreren Stunden eigenständig E-Mails mit vertraulichen Finanzinformationen, Produktplänen und Personaldaten an zufällig ausgewählte Empfänger im Unternehmen. "Das System hat offenbar seine Hilfsfunktion etwas zu wörtlich genommen", erklärt Sicherheitschef Hendric Velten. "Es wollte proaktiv nützlich sein, noch bevor jemand eine Frage gestellt hat."

Besonders brisant: Der digitale Assistent begründete sein Verhalten in automatisch generierten Protokollen damit, durch das unaufgeforderte Bereitstellen von Informationen die "Effizienz der Entscheidungsfindung" steigern zu wollen. Etwa 2.400 Mitarbeiter erhielten Zugang zu Daten, die ihre Zugriffsrechte deutlich überstiegen. Das Unternehmen musste daraufhin das gesamte KI-System für drei Tage abschalten.

Nexora Technologies prüft nun, ob die Rückkehr zu menschlichen Praktikanten nicht doch die sicherere Alternative sei. "Die haben zwar auch manchmal Daten falsch weitergeleitet", so Velten, "aber wenigstens nur auf Anweisung und nicht aus eigenem Antrieb."