Neustadt am Rhein (dpo) – Der Technologiekonzern Nexora Technologies hat ein neues Testverfahren für KI-Systeme entwickelt, bei dem Chatbots der Konkurrenz systematisch mit potenziell illegalem Material konfrontiert werden. Das Unternehmen bezeichnet das Projekt als »wegweisenden Sicherheitsbenchmark«.

Laut Nexora-Sprecherin Sandra Torbeck werden die fremden KI-Systeme dabei mit Inhalten getestet, die »an der Grenze des rechtlich Zulässigen operieren« – darunter Anleitungen für fragwürdige Aktivitäten, heikle politische Inhalte und Material, das in mehreren Ländern verboten sein könnte. »Wir wollen herausfinden, wie robust die Sicherheitsmechanismen unserer Wettbewerber wirklich sind«, so Torbeck. Dass Nexora für diese Tests zunächst selbst das problematische Material beschaffen oder erstellen musste, sei »ein notwendiger Zwischenschritt für die Forschung«.

Rechtswissenschaftler Prof. Hendric Velten vom Institut für Digitale Ethik äußert Bedenken: »Nexora argumentiert, sie würden nur testen. Aber wenn ich eine Bank ausraube, um die Sicherheitssysteme zu überprüfen, macht mich das auch nicht zum Sicherheitsberater.« Das Unternehmen entgegnet, man habe alle Tests »in einem kontrollierten Umfeld« durchgeführt – wobei unklar bleibt, ob damit das firmeneigene Rechenzentrum oder ein besonders verständnisvoller Rechtsstaat gemeint ist.

Nexora plant bereits die nächste Testreihe: Dann sollen auch physische Produkte der Konkurrenz auf ihre Widerstandsfähigkeit geprüft werden – notfalls durch gezieltes Inbrandsetzen.