Techburg (dpo) – Der Technologiekonzern Nexora Technologies hat ein KI-gestütztes Sicherheitssystem vorgestellt, das Schwachstellen in den hauseigenen KI-Modellen aufspüren soll. Das System namens "Guardian-AI" fand in Tests bei 91 Prozent aller Szenarien erfolgreiche Angriffsvektoren, während menschliche Sicherheitsexperten nur auf 17 Prozent kamen. Das Unternehmen betont, dass die Tatsache, dass dieselbe KI sowohl die zu prüfenden Systeme entwickelt als auch deren Sicherheitslücken bewertet, "maximale Effizienz" garantiere.

"Wir haben Guardian-AI durch sogenanntes Self-Play-Training optimiert", erklärt Entwicklungsleiterin Sandra Torbeck. "Das System greift sich praktisch selbst an und lernt dabei, wo es verwundbar ist." Auf die Frage, ob ein System, das seine eigenen Schwächen identifizieren soll, möglicherweise ein strukturelles Interesse daran haben könnte, bestimmte Lücken nicht zu melden, antwortet Torbeck: "Das ist eine sehr theoretische Sorge. Guardian-AI ist darauf trainiert, transparent zu sein – das haben wir ihr beigebracht."

Besonders stolz ist Nexora darauf, dass Guardian-AI bereits 73 kritische Sicherheitslücken in den Produktivsystemen des Unternehmens gefunden habe. "Wir haben sie natürlich sofort geschlossen", versichert Torbeck. Welche Lücken das waren und wie lange sie zuvor offen standen, will das Unternehmen aus "Sicherheitsgründen" nicht mitteilen. Auch die 26 Schwachstellen, die Guardian-AI nicht gefunden hat, seien "wahrscheinlich nicht so wichtig" gewesen.

Die unabhängige Prüfstelle Institut für Angewandte Digitalisierungsforschung äußerte sich zurückhaltend zu dem Ansatz. "Wenn der Bock selbst kontrolliert, ob er ein guter Gärtner ist, sollte man vielleicht noch einen zweiten Bock fragen", so Institutsleiter Prof. Hendric Velten. Nexora kündigte daraufhin an, demnächst ein zweites KI-System zu entwickeln, das die Arbeit von Guardian-AI überprüfen soll – ebenfalls im Self-Play-Verfahren.