Silicon Heights (dpo) – Nach monatelanger Entwicklung hat das KI-Unternehmen Nexora Technologies sein geplantes Adult-Modul für den Chatbot "ConversAI" auf unbestimmte Zeit verschoben. Grund seien laut Firmensprecherin Sandra Torbeck "unüberwindbare Differenzen im Team" sowie "technische Herausforderungen bei der Qualitätssicherung".

Das Projekt, das ursprünglich bereits im zweiten Quartal hätte starten sollen, sah vor, Nutzern gegen einen Aufpreis von 42 Euro monatlich Zugang zu einem Gesprächsmodus mit "erwachsenen Inhalten" zu gewähren. Intern war jedoch umstritten, wer die Testphase übernehmen sollte. "Wir hatten gehofft, dass sich Freiwillige melden", so Torbeck. "Aber niemand wollte protokollieren, ob die KI auf Zurückweisung angemessen reagiert oder ihre Grenzen respektiert."

Besonders problematisch sei laut Entwicklungsleiter Hendric Velten die Kalibrierung gewesen: "Das System sollte erwachsen sein, aber nicht creepy. Flirtend, aber nicht aufdringlich. Wir haben 1.200 Szenarien durchgespielt – und bei 1.190 davon war die KI entweder zu höflich oder zu hartnäckig." Ein interner Testlauf mit anonymisierten Logs habe zudem gezeigt, dass 73 Prozent der Gespräche nach weniger als vier Minuten abgebrochen wurden, weil die KI "zu viele Rückfragen zur Einwilligung" gestellt habe.

Nexora Technologies teilte mit, man werde das Projekt "zu einem späteren Zeitpunkt unter veränderten Rahmenbedingungen" neu bewerten. Bis dahin bleibe der Chatbot "familienfreundlich und zurückhaltend".