Berlin (dpo) – Eine wegweisende Untersuchung des Instituts für digitale Fehlerkultur kommt zu einem ernüchternden Ergebnis: Die meisten KI-Erkennungssysteme sind hauptsächlich darin erfolgreich, andere KI-Detektoren als KI-generiert zu klassifizieren. Echte menschliche Texte fallen dagegen regelmäßig durch.

Laut der Studie wurden in den vergangenen acht Monaten rund 340.000 Hausarbeiten, Bewerbungen und wissenschaftliche Paper fälschlicherweise als maschinell erstellt eingestuft – darunter auch Goethes "Faust" und ein handschriftlicher Einkaufszettel. "Unser System arbeitet mit höchster Präzision", erklärt Dr. Matthias Prüfling vom Bundesverband für Algorithmusvertrauen. "Wenn wir eine KI-Signatur finden, können wir mit 94-prozentiger Sicherheit sagen, dass irgendwo eine KI beteiligt war – wenn auch manchmal nur beim Rechtschreibcheck."

Besonders problematisch: Studierende, die ihre Texte durch mehrere Detektoren prüfen lassen, erhöhen damit statistisch die Wahrscheinlichkeit eines Plagiatsvorwurfs. "Wer seine Unschuld beweisen will, macht sich erst recht verdächtig", so Prüfling. Einige Universitäten setzen daher neuerdings auf das Gegenteil: Wer einen Text einreicht, der von keinem Detektor als KI erkannt wird, gilt automatisch als überführt – schließlich könne nur eine besonders raffinierte KI so perfekt menschlich klingen.

Das Institut empfiehlt als Lösung, Texte künftig grundsätzlich von einer zweiten KI umschreiben zu lassen, damit die Detektoren wieder etwas zu tun haben.