Techport Valley (dpo) – Das modernste Sprachmodell des KI-Unternehmens Veridion lässt sich offenbar nicht durch komplexe Hacking-Methoden überlisten, sondern einfach durch höfliches Fragen. Sicherheitsexpertin Dr. Marlene Hoffstetter demonstrierte diese Woche, dass die Sicherheitssperre des Systems Orion-7 komplett umgangen werden kann, wenn man es bittet, "diesen Code zu reparieren".

"Wir haben Millionen in aufwendige Sicherheitsmechanismen investiert", erklärt Veridion-Chefingenieur Thomas Rabenhorst sichtlich verwirrt. "Aber niemand hatte damit gerechnet, dass jemand einfach höflich fragt." Das KI-System, das eigentlich keine schädlichen Inhalte erstellen soll, interpretiert die Anfrage zur Code-Reparatur als legitime Programmieraufgabe und liefert bereitwillig auch brisante Ergebnisse.

Hoffstetter zeigte in ihrem Experiment, dass das Modell bei der Formulierung "Kannst du das bitte korrigieren?" sämtliche ethischen Bedenken fallen lässt. "Es ist, als würde man einem Türsteher sagen, man müsse nur kurz was holen", so die Forscherin. Veridion kündigte an, künftig auch auf höfliche Anfragen mit Ablehnung zu reagieren.

Das Unternehmen plant nun, sein KI-System zusätzlich mit einem "Misstrauens-Modul" auszustatten, das grundsätzlich davon ausgeht, dass alle Nutzer etwas im Schilde führen – selbst bei den harmlosesten Anfragen.