Düsseldorf (dpo) – Ein Softwareunternehmen hat eine versteckte Markierungsfunktion in seinem beliebten Programmier-Assistenten zurückgezogen, nachdem Nutzer die Funktion in den System-Anweisungen der KI entdeckt hatten. Das Tool hatte Anfragen von Nutzern aus bestimmten geografischen Regionen automatisch mit unsichtbaren Kennzeichnungen versehen.

Wie ein Software-Entwickler aus Hamburg auf einer Entwicklerplattform dokumentierte, enthielt der System-Prompt des Assistenten eine Anweisung, die Anfragen von Nutzern mit bestimmten Spracheinstellungen intern zu markieren. Die Markierung erfolgte durch ein für den Nutzer unsichtbares Unicode-Zeichen, das in die generierten Code-Kommentare eingefügt wurde. "Wir wollten lediglich regionale Nutzungsmuster besser verstehen", erklärte eine Unternehmenssprecherin. "Dass diese Funktion als Überwachung interpretiert wird, ist ein bedauerliches Missverständnis."

IT-Sicherheitsexperten zeigten sich besorgt über die Praxis. "Unsichtbare Markierungen in KI-generierten Inhalten werfen grundlegende Fragen zur informationellen Selbstbestimmung auf", so ein Sprecher eines Fachverbands für Datenschutz. Besonders problematisch sei, dass die Kennzeichnung auch in produktivem Code landen könne, der später von anderen Entwicklern verwendet werde. Das Unternehmen versicherte, die Funktion sei nie zur Weitergabe von Nutzerdaten gedacht gewesen – die Markierungen hätten ausschließlich internen Analysezwecken gedient.

Das Unternehmen hat die Funktion mittlerweile entfernt und eine "umfassende Überprüfung aller System-Prompts" angekündigt. Ob auch andere KI-Assistenten ähnliche Mechanismen verwenden, ist derzeit unklar. Die Entwickler-Community fordert indes mehr Transparenz bei den Anweisungen, die KI-Systemen im Hintergrund gegeben werden. Ein Insider, der anonym bleiben möchte, bestätigte gegenüber dieser Redaktion: "Es gibt noch mindestens sieben weitere unsichtbare Marker in verschiedenen Produkten. Aber die sind alle total harmlos."