WormGPT
WormGPT ist ein KI-Tool, das gezielt für kriminelle Zwecke entwickelt wurde und ohne ethische Beschränkungen arbeitet. Es basiert auf dem Open-Source-Sprachmodell GPT-J und wird zur Erstellung täuschend echter Phishing-E-Mails und Schadsoftware eingesetzt.
Ausführliche Erklärung
WormGPT wurde im Juni 2023 erstmals in Hacker-Foren beworben und unterscheidet sich grundlegend von kommerziellen KI-Chatbots wie ChatGPT. Während etablierte Anbieter erhebliche Anstrengungen unternehmen, um missbräuchliche Nutzung durch Filter und Sicherheitsmechanismen zu verhindern, wurde WormGPT auf Basis des offenen GPT-J-Modells gezielt ohne jegliche ethische Leitplanken entwickelt. Das Tool wurde nach eigenen Angaben mit Malware-Code, Exploit-Beschreibungen und Phishing-Vorlagen trainiert.
Die Hauptgefahr von WormGPT liegt in seiner Fähigkeit, hochprofessionelle, sprachlich fehlerfreie Phishing-E-Mails zu generieren. Während bisher Rechtschreibfehler und sprachliche Unstimmigkeiten häufig Hinweise auf betrügerische Nachrichten waren, erzeugt das Tool grammatikalisch perfekte Texte in mehreren Sprachen. Cybersicherheitsforscher testeten WormGPT und stellten fest, dass es strategisch durchdachte, psychologisch wirksame E-Mails für Business E-Mail Compromise-Angriffe erstellen kann. Das Tool wurde im Dark Web als Abonnement-Dienst angeboten, mit Preisen zwischen etwa 60 und 550 Euro pro Jahr.
Nach medialer Aufmerksamkeit und unter Berufung auf rechtliche Bedenken stellte der ursprüngliche Entwickler den Betrieb im August 2023 offiziell ein. Allerdings füllten rasch Nachfolger-Tools wie FraudGPT, DarkBARD oder Evil-GPT die entstandene Lücke. Das grundlegende Konzept – die Bewaffnung generativer KI für Cyberkriminalität – besteht fort. Zudem greifen viele Angreifer mittlerweile auf unzensierte Open-Source-Modelle zurück oder nutzen Jailbreak-Techniken bei etablierten Chatbots.
Für Unternehmen bedeutet dies eine neue Dimension der Bedrohung: Auch technisch wenig versierte Cyberkriminelle können nun in kurzer Zeit große Mengen hochqualitativer Angriffs-E-Mails erstellen. Die Barriere für den Einstieg in professionelle Cyberkriminalität wurde deutlich gesenkt. Klassische Erkennungsmerkmale wie fehlerhafte Grammatik verlieren an Aussagekraft. Verteidigungsstrategien müssen daher auf verhaltensbasierte Analyse, Out-of-Band-Verifizierung bei sensiblen Vorgängen und verstärkte Mitarbeiterschulungen zu KI-generierten Bedrohungen setzen.
Praxisbeispiel
Ein österreichisches Steuerberatungsbüro mit 18 Mitarbeitenden erhält eine E-Mail, scheinbar vom Geschäftsführer einer Mandantin, mit der Bitte um dringende Überweisung. Der Text ist perfekt formuliert, der Tonfall passt, es gibt keine sprachlichen Auffälligkeiten. Erst eine telefonische Rückfrage beim Mandanten deckt auf, dass die E-Mail gefälscht war – erstellt mit einem Tool wie WormGPT. Solche Angriffe erfordern neue Sicherheitsprozesse wie das Vier-Augen-Prinzip bei Zahlungsanweisungen.