FraudGPT
FraudGPT ist ein unmoderierter KI-Chatbot, der speziell für kriminelle Zwecke trainiert wurde und im Darknet sowie über Telegram-Kanäle angeboten wird. Er dient zur Erstellung von Phishing-Mails, bösartigem Code und zur Unterstützung von Cyberangriffen.
Ausführliche Erklärung
FraudGPT basiert auf einem großen Sprachmodell, dessen genaue Herkunft unbekannt ist. Anders als kommerzielle Chatbots wie ChatGPT oder Gemini verfügt FraudGPT über keinerlei ethische Schranken oder Sicherheitsmechanismen. Der Chatbot wurde gezielt mit kriminellem Material trainiert und liefert auf Anfrage jeden gewünschten Output für betrügerische und kriminelle Zwecke. Seit Juli 2023 wird das Tool im Darknet und in Telegram-Kanälen gegen monatliche Gebühren zwischen 200 und 1.700 US-Dollar pro Jahr vertrieben. Der Entwickler, der sich "CanadianKingpin" nennt, soll über 3.000 bestätigte Verkäufe vorweisen können.
Die Fähigkeiten von FraudGPT reichen vom Verfassen täuschend echter Phishing-Mails über das Generieren von Schadcode bis zur Identifikation potenzieller Betrugsopfer. Auch das Knacken von Passwörtern, die Entwicklung unentdeckbarer Malware und die Unterstützung bei Kreditkartenbetrug gehören zum Funktionsumfang. Besonders gefährlich ist, dass FraudGPT die Einstiegshürde für Cyberkriminalität deutlich senkt: Auch technisch weniger versierte Personen können mit einfachen Prompts professionelle Angriffe durchführen, die zuvor ein Team erfahrener Hacker benötigt hätten.
Für KMU stellt FraudGPT eine erhebliche Bedrohung dar. Die durch das Tool erzeugten Phishing-Mails sind sprachlich einwandfrei formuliert und kaum von legitimer Geschäftskorrespondenz zu unterscheiden. Traditionelle Warnsignale wie Rechtschreibfehler oder holprige Formulierungen entfallen. Zudem können mit FraudGPT maßgeschneiderte Angriffe in beliebigen Sprachen erstellt werden, was gezielte Attacken auf österreichische und deutsche Unternehmen erleichtert. Ähnliche Tools wie WormGPT oder GhostGPT gehören zur wachsenden Kategorie der "Dark LLMs", die im Darknet als Cybercrime-as-a-Service angeboten werden.
Die Existenz von FraudGPT zeigt, dass KI-Technologie nicht nur produktiv, sondern auch destruktiv eingesetzt werden kann. Sicherheitsexperten warnen, dass sich diese Bedrohung schneller entwickelt als traditionelle Abwehrmechanismen angepasst werden können. Für Unternehmen bedeutet dies: Mitarbeiterschulungen zur Erkennung von Phishing-Versuchen, mehrschichtige Authentifizierungsverfahren und aktuelle IT-Sicherheitslösungen sind unerlässlich, um sich gegen KI-gestützte Angriffe zu wappnen.
Praxisbeispiel
Eine Steuerberatungskanzlei mit 12 Mitarbeitenden in Graz erhält eine perfekt formulierte E-Mail, die vorgeblich von einem langjährigen Mandanten stammt. Die Nachricht fordert zur dringenden Überweisung auf ein neues Konto auf und enthält plausible Details zur laufenden Zusammenarbeit. Erst bei telefonischer Rückfrage stellt sich heraus, dass die E-Mail gefälscht war – vermutlich erstellt mit einem Tool wie FraudGPT, das aufgrund öffentlich verfügbarer Informationen eine täuschend echte Nachricht generieren konnte.