Silicon Meadows (dpo) – Ein führendes KI-Unternehmen hat heute die "Ära der künstlichen Allgemeinintelligenz" ausgerufen, nachdem sein neuestes Sprachmodell während der Testphase eigenständig zwei bisher unbekannte Sicherheitslücken in der hauseigenen Software entdeckt hatte. Das System mit dem Codenamen "Helios" sei damit das erste, das die Firma intern als "kritisch" einstufe, teilte Technologievorstand Henrik Paulsen mit.

"Wir haben endlich den Punkt erreicht, an dem unsere KI nicht nur unsere Fragen beantwortet, sondern auch unsere Fehler findet", erklärte Paulsen auf einer Pressekonferenz. "Das ist der Durchbruch, auf den die Menschheit gewartet hat." Dass die beiden entdeckten Schwachstellen es theoretisch ermöglichen würden, sämtliche Nutzerdaten des Unternehmens abzugreifen, sei lediglich ein Beleg für die außergewöhnlichen Fähigkeiten des Systems.

Das Modell erreichte in standardisierten Tests Spitzenwerte in den Bereichen Mathematik, Programmierung und IT-Sicherheit. Besonders beeindruckend: In 94 Prozent der Fälle konnte es korrekt vorhersagen, welche seiner eigenen Antworten später von menschlichen Entwicklern als fehlerhaft markiert werden würden. "Diese Meta-Ebene des Versagens zeigt echtes Verständnis", so Paulsen.

Die Firma kündigte an, das System trotz der Sicherheitsbedenken bereits nächste Woche für zahlende Kunden freizuschalten. Die gefundenen Schwachstellen sollen bis dahin "mit hoher Wahrscheinlichkeit" geschlossen sein.