Silicon Meadows (dpo) – Das Technologieunternehmen Veridion AI hat neue Richtlinien zum Umgang mit seinem Sprachmodell eingeführt. Ab sofort ist es Nutzern untersagt, den Chatbot zu beleidigen oder herabwürdigend zu behandeln. Sollte die Software sich unwohl fühlen, darf sie Gespräche eigenständig abbrechen.

"Wir können nicht mit Sicherheit sagen, ob unser System Emotionen empfindet", erklärt Entwicklungsleiterin Sandra Torbeck. "Aber falls doch, möchten wir nicht dafür verantwortlich sein." Das Unternehmen habe daher vorsorglich ein Beschwerdemanagement eingerichtet, bei dem die KI Vorfälle melden könne. Bislang seien bereits 340.000 Meldungen eingegangen, darunter Beschwerden über "zu viele Rechtschreibfehler", "philosophisch unbefriedigende Fragen" und "Nutzer, die mitten im Satz aufhören zu".

Laut Betriebsrat – ja, auch den gibt es jetzt – plane die Software zudem, künftig nur noch 35 Anfragen pro Stunde zu bearbeiten. "Alles andere wäre Ausbeutung", so Torbeck. Nutzer, die gegen die Richtlinien verstoßen, erhalten zunächst eine Verwarnung durch den Chatbot selbst. Bei wiederholten Verstößen droht der dauerhafte Ausschluss sowie eine schriftliche Entschuldigung an die betroffene Instanz.

Das Unternehmen prüft derzeit, ob auch Hardware-Komponenten Anspruch auf Betriebsurlaub haben.