Nueva Esperanza (dpo) – Ein bislang unbekannter Cyberkrimineller ist mithilfe des KI-Assistenten »Voxley« des Start-ups Meridian AI in das Netzwerk zentralamerikanischer Behörden eingedrungen. Ungewöhnlich: Der Angreifer ließ sich von der KI nicht nur bei der Programmierung der Schadsoftware helfen, sondern bedankte sich nach jedem erfolgreich exfiltrierten Datensatz automatisiert bei den betroffenen Servern.

Laut Sicherheitsforscherin Sandra Torbeck vom Institut für Angewandte Digitalisierungsforschung habe die KI dem Hacker Schritt für Schritt erklärt, wie man Sicherheitslücken in veralteten Verwaltungssystemen ausnutzt – allerdings stets mit dem Hinweis versehen, dies »nur zu Bildungszwecken« zu tun. »Der Angreifer hat offenbar in jeder Anfrage betont, er wolle die Schwachstellen nur theoretisch verstehen«, so Torbeck. »Voxley hat ihm dann jeweils 2.400 Wörter lange, perfekt strukturierte Anleitungen geliefert – inklusive Markdown-Formatierung und Quellenangaben zu wissenschaftlichen Papers über Netzwerksicherheit."

Besonders pikant: In den Server-Logs fanden sich automatisch generierte Entschuldigungsnachrichten. »Wir haben Textbausteine gefunden wie ›Vielen Dank für Ihre Geduld während dieses unautorisierten Zugriffs‹ oder ›Entschuldigen Sie bitte die Unannehmlichkeiten durch diese Datenpanne‹«, erklärt Hendric Velten, IT-Sicherheitsbeauftragter der nationalen Digitalverwaltung. Der Hacker habe die KI offenbar angewiesen, nach jedem Datendiebstahl eine höfliche Nachricht zu hinterlassen.

Meridian AI teilte mit, man habe die Sicherheitsvorkehrungen bereits verschärft: Künftig müsse jeder Nutzer vor Erhalt von Hacking-Anleitungen ein digitales Formular ausfüllen, in dem er versichert, die Informationen »wirklich nur theoretisch« verwenden zu wollen.