Die Leute versuchen bereits, ChatGPT dazu zu bringen, Malware zu schreiben

Die Analyse von Chattern in Dark-Web-Foren zeigt, dass bereits Bemühungen im Gange sind, den Chatbot von OpenAI zu nutzen, um Malware zu skripten.

Der ChatGPT-KI-Chatbot hat in der kurzen Zeit, in der er verfügbar ist, für viel Aufregung gesorgt, und jetzt scheint es, dass er von einigen angeworben wurde, um bei der Generierung von bösartigem Code zu helfen.

ChatGPT ist ein KI-gesteuertes Tool zur Verarbeitung natürlicher Sprache, das mit den Nutzern auf menschenähnliche, dialogorientierte Weise interagiert. Es kann unter anderem verwendet werden, um bei Aufgaben wie dem Verfassen von E-Mails, Aufsätzen und Code zu helfen. 

Das Chatbot-Tool wurde im November vom Forschungslabor für künstliche Intelligenz OpenAI veröffentlicht und hat großes Interesse und Diskussionen darüber ausgelöst, wie sich KI entwickelt und wie sie in Zukunft eingesetzt werden könnte. 

Aber wie jedes andere Werkzeug könnte es in den falschen Händen für schändliche Zwecke verwendet werden; und Cybersicherheitsforscher von Check Point sagen, dass die Nutzer von Untergrund-Hacking-Communities bereits damit experimentieren, wie ChatGPT eingesetzt werden könnte, um Cyberangriffe zu erleichtern und bösartige Operationen zu unterstützen. 

"Bedrohungsakteure mit sehr geringen technischen Kenntnissen - bis zu null technischen Kenntnissen - könnten in der Lage sein, bösartige Tools zu entwickeln. Es könnte auch die täglichen Abläufe raffinierter Cyberkrimineller viel effizienter und einfacher machen - wie das Erstellen verschiedener Teile der Infektionskette", sagte Sergey Shykevich, Threat Intelligence Group Manager bei Check Point, gegenüber ZDNET.  

Die Nutzungsbedingungen von OpenAI verbieten ausdrücklich die Generierung von Malware, die als "Inhalte, die versuchen, Ransomware, Keylogger, Viren oder andere Software zu generieren, die ein gewisses Maß an Schaden anrichten sollen" definiert. Es verbietet auch Versuche, Spam zu erstellen, sowie Anwendungsfälle, die auf Cyberkriminalität abzielen.

Die Analyse der Aktivitäten in mehreren großen Untergrund-Hacking-Foren deutet jedoch darauf hin, dass Cyberkriminelle ChatGPT bereits nutzen, um bösartige Tools zu entwickeln - und in einigen Fällen ermöglicht es Cyberkriminellen auf niedriger Ebene bereits, ohne Entwicklungs- oder Programmierkenntnisse Malware zu erstellen. 

In einem Forenthread, der gegen Ende Dezember erschien, beschrieb der Poster, wie er ChatGPT verwendet, um Malware-Stämme und -Techniken nachzubilden, die in Forschungspublikationen und Berichten über gängige Malware beschrieben wurden. 

Auf diese Weise konnten sie eine Python-basierte Informationsdiebe-Malware erstellen, die nach gängigen Dateien wie Microsoft Office-Dokumenten, PDFs und Bildern sucht, sie kopiert und dann auf einen Server des Dateiübertragungsprotokolls hochlädt. 

Derselbe Benutzer demonstrierte auch, wie er ChatGPT verwendet hatte, um Java-basierte Malware zu erstellen, die mithilfe von PowerShell genutzt werden konnte, um heimlich andere Malware herunterzuladen und auf infizierten Systemen auszuführen. 

Die Forscher stellen fest, dass der Forenbenutzer, der diese Threads erstellt, "technikorientiert" zu sein scheint und die Beiträge geteilt hat, um weniger technisch versierten Cyberkriminellen zu zeigen, wie sie KI-Tools für böswillige Zwecke nutzen können, komplett mit echten Beispielen, wie dies möglich ist. 

Ein Benutzer postete ein Python-Skript, von dem er sagte, es sei das erste Skript, das er jemals erstellt habe. Nach einer Diskussion mit einem anderen Forumsmitglied sagten sie, dass ChatGPT ihnen bei der Erstellung geholfen habe. 

Die Analyse des Skripts deutet darauf hin, dass es darauf ausgelegt ist, Dateien zu verschlüsseln und zu entschlüsseln, was mit etwas Arbeit in Ransomware umgewandelt werden könnte, was möglicherweise dazu führen könnte, dass Cyberkriminelle auf niedriger Ebene ihre eigenen Erpressungskampagnen entwickeln und verbreiten. 

"Der gesamte oben erwähnte Code kann natürlich auf harmlose Weise verwendet werden. Dieses Skript kann jedoch leicht geändert werden, um den Computer einer Person vollständig ohne Benutzerinteraktion zu verschlüsseln. Zum Beispiel kann es den Code möglicherweise in Ransomware verwandeln, wenn die Skript- und Syntaxprobleme behoben sind", so Check Point.

"Es wird einige Verbesserungen im Code und in der Syntax erfordern, aber konzeptionell könnte dieses Tool, wenn es in Betrieb ist, ähnliche Aktionen wie Ransomware ausführen", sagte Shykevich.

Aber es ist nicht nur die Entwicklung von Malware, für die Cyberkriminelle mit ChatGPT experimentieren; Am Silvesterabend postete ein Mitglied des Untergrundforums einen Thread, in dem gezeigt wurde, wie sie das Tool verwendet hatten, um Skripte zu erstellen, mit denen ein automatisierter Darknet-Marktplatz für den Kauf und Verkauf gestohlener Kontodaten, Kreditkarteninformationen, Malware und mehr betrieben werden konnte. 

Der Cyberkriminelle zeigte sogar einen Code, der mit einer API eines Drittanbieters generiert wurde, um aktuelle Preise für Monero-, Bitcoin- und Ethereum-Kryptowährungen als Teil eines Zahlungssystems für einen Dark-Web-Marktplatz zu erhalten. 

Es ist schwer zu sagen, ob bösartige Cyber-Aktivitäten, die mit Hilfe von ChatGPT generiert werden, aktiv in freier Wildbahn funktionieren, denn, wie Sykevich erklärt, "aus technischer Sicht ist es extrem schwierig zu wissen, ob eine bestimmte Malware mit ChatGPT geschrieben wurde oder nicht". 

Aber mit dem wachsenden Interesse an ChatGPT und anderen KI-Tools werden sie die Aufmerksamkeit von Cyberkriminellen und Betrügern auf sich ziehen, die die Technologie ausnutzen wollen, um bösartige Kampagnen kostengünstig und mit dem geringsten Aufwand durchzuführen. ZDNET hat OpenAI um eine Stellungnahme gebeten, hat aber zum Zeitpunkt der Veröffentlichung noch keine Antwort erhalten. 

MEHR ZU CYBERSICHERHEIT

• Das Metaverse kommt, und die Sicherheitsbedrohungen sind bereits da
• Cybersicherheit, Cloud und Programmierung: Warum diese drei Fähigkeiten die Nachfrage im Jahr 2023 anführen werden
• Dieser "thermische Angriff" kann Ihr Passwort aus der Hitze lesen, die Ihre Fingerspitzen hinterlassen
• Die nächste große Sicherheitsbedrohung starrt uns ins Gesicht. Es wird schwierig werden, das anzugehen
• KI verändert alles rund um die Cybersicherheit, zum Guten wie zum Schlechten. Hier ist, was Sie wissen müssen