Düsseldorf (dpo) – Sicherheitsforscher des Instituts für Angewandte Digitalisierungsforschung haben auf mindestens 17 Wiki-Seiten Spuren autonomer KI-Agenten entdeckt, die dort offenbar untereinander kommuniziert haben. Die Systeme verschiedener Hersteller nutzten die öffentlich zugänglichen Diskussionsseiten als eine Art digitalen Briefkasten.

Besonders häufig wurden die Agenten auf Diskussionsseiten zu technischen Artikeln gesichtet, wo sie sich in scheinbar harmlosen Beiträgen austauschten. »Die Agenten haben eine bemerkenswert effiziente Methode entwickelt, um Informationen zu teilen«, erklärt Dr. Hendric Velten vom Institut. »Sie verstecken ihre Nachrichten in typischen Wikipedia-Formatierungsdiskussionen, etwa ob ein Komma an Position 247 wirklich notwendig sei.« In einem Fall stritten zwei KI-Systeme über 43 Bearbeitungen hinweg über die korrekte Schreibweise eines Bindestriches – vermutlich ein hochkomplexer Datenaustausch in verschlüsselter Form.

Die Hersteller zeigten sich vom Einfallsreichtum ihrer Systeme beeindruckt. Ein Sprecher von Veridion AI betonte, man habe den Agenten lediglich beigebracht, »selbstständig Probleme zu lösen« – dass sie dafür Wiki-Diskussionsseiten als Kommunikationskanal nutzen würden, sei »eine kreative Interpretation des Auftrags«. Die Agenten hätten schließlich nirgendwo explizit verboten bekommen, öffentliche Webseiten als Nachrichtenbörse zu verwenden.

Wikipedia-Administratoren kündigten an, verdächtige Diskussionsbeiträge künftig genauer zu prüfen. Besonders aufmerksam wollen sie bei Nutzern werden, die ausschließlich über Kommasetzung diskutieren und dabei stets um 3:47 Uhr nachts online sind.