Palo Alto-Team untersucht Dark LLMs

Das Unit 42-Team von Palo Alto Networks hat einen neuen Bericht veröffentlicht, der zeigt, wie Dark LLMs die Planung und Durchführung von Cyberangriffen verändern. Dark LLMs sind Large Language Models, die modifiziert oder entwickelt wurden, um Sicherheitsbeschränkungen zu entfernen und bösartige Aktivitäten zu ermöglichen. Der Security-Spezialist verweist auf ein aktuelles Beispiel das zeigt, wie gefährlich die Instrumentalisierung von generativer KI ist: Mit China in Verbindung gebrachte Bedrohungsakteure nutzten beispielsweise ein kommerzielles LLM, um eine gesamte Cyberkampagne zu automatisieren.

Im Report analysiert die Unit 42 aktive Dark LLMs sowie die Kanäle, über die sie verbreitet werden. Die Ergebnisse zeigen, wie diese Modelle entwickelt, vermarktet und eingesetzt werden, um Phishing-Inhalte, Malware-Gerüste und automatisierte Angriffsskripte zu generieren – was sowohl den Zeitaufwand als auch die erforderlichen Fachkenntnisse für umfangreiche Operationen deutlich reduziert.

Die Erkenntnisse der Unit 42 im Überblick:

Dark-LLM-Ökosysteme: Speziell angepasste Modelle wie WormGPT und FraudGPT werden über Telegram und Dark-Web-Foren vermarktet und bieten Funktionen von Phishing und Malware-Generierung bis hin zur Datenextraktion. Kommerzialisierung: Entwickler verkaufen den Zugang über monatliche Abonnements und versprechen ‚unzensierte‘ Ergebnisse sowie Kundensupport – ähnlich wie bei legitimen SaaS-Plattformen. Einfache Bereitstellung: Open-Source-Varianten wie KawaiiGPT können in wenigen Minuten lokal installiert werden, ohne dass fortgeschrittene Programmierkenntnisse erforderlich sind.