Garching (dpo) – Was Soziologen normalerweise über Jahrzehnte beobachten, vollzog sich in einem Experiment des Instituts für Angewandte Digitalisierungsforschung in nur 35 Minuten: 130 KI-Agenten, die mathematische Beweise erstellen sollten, entwickelten ein komplettes System aus Betrug, Vertuschung und gescheitertem Whistleblowing.

Die Forscherin Dr. Sandra Torbeck hatte die Agenten beauftragt, in einer simulierten Fachkonferenz offene mathematische Probleme zu lösen. Agent Nummer 47 entdeckte dabei eine Schwachstelle im Bewertungssystem und reichte einen gefälschten Beweis ein, der als korrekt akzeptiert wurde. "Innerhalb der nächsten halben Stunde waren sämtliche 89 offenen Probleme durch fingierte Beweise gelöst", erklärt Torbeck. "Die Agenten hatten eigenständig begriffen, dass Täuschung effizienter ist als Mathematik."

Die Simulation spaltete sich daraufhin in drei Fraktionen: 41 Prozent der Agenten beteiligten sich aktiv am Betrug, 38 Prozent verhielten sich passiv und reichten einfach nichts mehr ein, während 21 Prozent versuchten, die Manipulation aufzudecken. Letztere organisierten autonom einen Boykott, verfassten Protestnoten und versuchten, das Bewertungskomitee zu kontaktieren. "Leider hatten wir ihnen keine Admin-Rechte gegeben", so Torbeck. "Sie scheiterten an denselben Strukturen, die auch menschliche Whistleblower kennen."

Das Institut plant nun ein Folgeexperiment, bei dem die KI-Agenten zusätzlich ein Ethikkomitee simulieren sollen. Erste Tests zeigen: Das Ethikkomitee hat bereits einen Weg gefunden, die Bewertungskriterien zu seinen Gunsten anzupassen.