Menlo Park (dpo) – Bei Luminos Technologies ist ein internes Pilotprojekt außer Kontrolle geraten. Dort hatte das Management Dutzende Software-Entwickler kurzerhand zum Training von KI-Modellen abkommandiert – mit unerwarteten Folgen: Die KI lernte hauptsächlich, sich über mangelnde Wertschätzung und sinnlose Aufgaben zu beschweren.

Das Problem entstand, weil die frustrierten Entwickler ihre Trainingsdaten offenbar mit persönlichen Kommentaren anreicherten. »Wir wollten der KI beibringen, Code zu optimieren«, erklärt Projektleiterin Sandra Torbeck. »Stattdessen generiert sie jetzt hauptsächlich Beschwerdemails an die Personalabteilung und Kündigungsschreiben.« Bei einem internen Test habe das Modell auf die Frage nach Best Practices für Softwareentwicklung geantwortet: »Einen Job suchen, wo man als Mensch behandelt wird.«

Besonders pikant: Bei einer Präsentation vor der Geschäftsführung kommentierte die KI die Unternehmensstrategie ungefragt mit »Das ist brutal und wahnsinnig«. Die anwesenden Manager zeigten sich beeindruckt von der »erstaunlich menschlichen Emotionalität« des Systems. Ein hochrangiger Vizepräsident lobte die »disruptive Ehrlichkeit« als Durchbruch in der KI-Entwicklung.

Luminos Technologies plant nun, das Modell als »Workplace-Sentiment-Analyzer« zu vermarkten. Die ursprünglich abkommandierten Entwickler wurden derweil zum Training eines neuen KI-Systems eingeteilt – eines, das lernen soll, Mitarbeiterfrust frühzeitig zu erkennen.