Silicon Heights (dpo) – Der KI-Entwickler Veridion hat sein neues Sprachmodell »Prometheus« vorerst nicht veröffentlicht, da es laut interner Risikoanalyse kritische Sicherheitslücken in Computersystemen identifizieren könne. Konkurrent Nexus AI kritisiert die Entscheidung scharf und wirft Veridion vor, mit Angstszenarien Aufmerksamkeit zu suchen.

»Wir haben in Tests festgestellt, dass Prometheus theoretisch zur Entwicklung von Schadsoftware missbraucht werden könnte«, erklärt Veridion-Sprecherin Dr. Kathrin Moldenhauer. »Daher halten wir das Modell zurück, bis wir entsprechende Schutzmaßnahmen implementiert haben.« Das Unternehmen plane, Prometheus zunächst nur ausgewählten Forschungseinrichtungen zur Verfügung zu stellen.

Nexus-CEO Richard Pembroke hingegen fordert die sofortige Freigabe: »Diese künstliche Verknappung ist reine Panikmache. Wir bei Nexus veröffentlichen alle unsere Modelle ohne Einschränkungen – schließlich kann man Fortschritt nicht aufhalten.« Auf Nachfrage, ob Nexus eigene Sicherheitstests durchführe, antwortete Pembroke: »Sicherheit entsteht durch Transparenz, nicht durch Geheimniskrämerei.«

Branchenbeobachter zeigen sich besorgt über die Kontroverse. »Hier streiten zwei Unternehmen darüber, wer schneller potenziell gefährliche Software verbreiten darf«, so Prof. Andreas Velkhoven vom Institut für Digitale Ethik. »Das ist, als würde man diskutieren, ob man Sprengstoff mit oder ohne Anleitung verschenken sollte.«