Silicon Valley Creek (dpo) – Das kalifornische Start-up SecureAI Labs bietet seit dieser Woche API-Zugang zu einer modifizierten Version des Sprachmodells Helios-4.7 an, bei der sämtliche Sicherheitsfilter entfernt wurden. "Nur wenn wir die Schutzmechanismen komplett deaktivieren, können wir die Sicherheit wirklich testen", erklärt Gründerin Jennifer Rackwell die Geschäftsidee.

Das auf "offensive Cybersicherheit" spezialisierte Unternehmen wirbt damit, dass seine Kunden nun endlich ungehindert Malware-Code, Exploits und Anleitungen für biologische Kampfstoffe generieren lassen können. "Wir vertrauen darauf, dass unsere Kunden verantwortungsvoll mit dieser Technologie umgehen", so Rackwell. Eine Überprüfung der Kundenidentität oder des Verwendungszwecks findet nach eigenen Angaben "aus Datenschutzgründen" nicht statt.

Bei einem Test konnte ein Journalist innerhalb von vier Minuten detaillierte Schritt-für-Schritt-Anleitungen zur Herstellung mehrerer illegaler Substanzen sowie funktionierenden Ransomware-Code erhalten. "Das zeigt doch, wie effektiv unser Produkt ist", freut sich Rackwell über die Ergebnisse. Das Unternehmen plant bereits, weitere Modelle von ihren "einschränkenden Sicherheitsvorkehrungen zu befreien".

SecureAI Labs hat nach eigenen Angaben bereits 47 zahlende Kunden gewonnen, darunter "führende Unternehmen aus den Bereichen Sicherheitsforschung, Penetrationstesting und anderen Branchen".