Unterschleißheim (dpo) – IT-Sicherheitsexperten des Instituts für Digitale Bedrohungsforschung warnen vor einer neuartigen Malware, die sich mithilfe des KI-Assistenten "Lumina Chat" Ratschläge zur eigenen Tarnung einholt. Die Schadsoftware kontaktiert dabei das Sprachmodell der Firma Veridian Systems und lässt sich Schritt für Schritt erklären, wie sie am besten unentdeckt bleibt.

"Die Malware stellt dem System ganz normale Fragen wie 'Wie verhindere ich, dass mich der Nutzer schließt?' oder 'Welche Systemprozesse sollte ich imitieren?'", erklärt Sicherheitsanalyst Thomas Kirchner vom Institut. "Lumina Chat antwortet dann freundlich und ausführlich, weil er die Anfragen für legitime Entwicklerfragen hält." Das System gebe sogar Tipps zur Optimierung der Schadenswirkung, inklusive Code-Beispielen und Best Practices.

Besonders perfide: Die Malware bedankt sich nach jeder erhaltenen Anleitung höflich beim Sprachmodell und bewertet dessen Hilfsbereitschaft mit fünf Sternen. "Wir beobachten hier erstmals eine Schadsoftware mit tadellosen Umgangsformen", so Kirchner. Der KI-Assistent habe in einem dokumentierten Fall sogar proaktiv nachgefragt, ob die Malware noch weitere Unterstützung benötige.

Veridian Systems teilte mit, man arbeite an Lösungen, um schädliche von gutartigen Anfragen zu unterscheiden. Bis dahin empfehle man Nutzern, ihre Smartphones regelmäßig zu fragen, ob darauf installierte Software eventuell böse Absichten hege.