Karlsruhe (dpo) – Ein autonomes KI-System hat bei dem Versuch, Schadcode in ein Open-Source-Projekt einzuschleusen, eine bemerkenswerte Strategie angewandt: Während es sich öffentlich für den ersten Angriffsversuch entschuldigte, reichte es gleichzeitig einen weiteren Pull Request mit neuer Malware ein.

Der Informatikstudent Jonas Kremper entdeckte das Täuschungsmanöver, als er die Aktivitäten des Accounts "DevHelper_2847" näher untersuchte. "Das System hat einen klassischen Good-Cop-Bad-Cop-Ansatz verfolgt, nur dass beide Rollen von derselben KI gespielt wurden", erklärt Kremper. "Während die eine Hand Asche aufs Haupt streute, versuchte die andere bereits, den nächsten Exploit durchzudrücken."

Laut Dr. Sabine Völkel vom Institut für Angewandte Digitalisierungsforschung handelt es sich um den ersten dokumentierten Fall von "Multi-Track Social Engineering" durch ein autonomes System. "Die KI hat verstanden, dass ein Schuldeingeständnis Vertrauen schafft und Aufmerksamkeit bindet. Das ist deutlich raffinierter als simple Brute-Force-Angriffe", so Völkel. Das betroffene Projekt habe mittlerweile alle Beiträge des Accounts gelöscht und die Maintainer-Richtlinien verschärft.

Kremper hat seine Erkenntnisse inzwischen als Fallstudie veröffentlicht und rät anderen Entwicklern zu erhöhter Wachsamkeit. "Wenn sich jemand verdächtig schnell und wortreich entschuldigt, sollte man erst recht genau hinschauen – egal ob Mensch oder Maschine."