Hacker missbrauchen ChatGPT, um Malware zu schreiben: OpenAI-Bericht

OpenAI, das Unternehmen hinter dem beliebten KI-Chatbot ChatGPT, gab bekannt, dass es seit Anfang 2024 weltweit über 20 Operationen und betrügerische Netzwerke gestört hat, darunter Netzwerke, die mit iranischen und chinesischen staatlich gesponserten Hackern in Verbindung stehen.

In einem am Mittwoch veröffentlichten Bericht teilte das Unternehmen für generative KI (GenAI) mit, dass diese Operationen den Einsatz eines KI-gestützten Chatbots, ChatGPT, zum Debuggen von Malware, das Schreiben von Artikeln für Websites, das Generieren von Inhalten, die von gefälschten Personas auf Social-Media-Konten gepostet wurden, und die Verbreitung von wahlbezogenen Desinformationen umfassten.

Laut den Forschern Ben Nimmo und Michael Flossman, die den Bericht verfasst haben, nutzten die Bedrohungsakteure KI in den Zwischenphasen ihrer Kampagnen.

"Bedrohungsakteure nutzten unsere Modelle am häufigsten, um Aufgaben in einer bestimmten Zwischenphase der Aktivität auszuführen - nachdem sie grundlegende Tools wie Internetzugang, E-Mail-Adressen und Social-Media-Konten erworben hatten, aber bevor sie "fertige" Produkte wie Social-Media-Posts oder Malware über das Internet einsetzten", schrieben die Forscher in dem Bericht.

Sie betonten jedoch, dass die tatsächliche Wirkung von KI trotz der Beteiligung an Cyberangriffen und Beeinflussungskampagnen bisher begrenzt sei.

Sie haben keine Hinweise darauf gefunden, dass KI zur Entwicklung neuer, fortschrittlicher Malware beiträgt oder die Desinformationsbemühungen erheblich verbessert.

Der OpenAI-Bericht hebt drei wichtige Bedrohungsgruppen hervor, die ChatGPT ausgenutzt haben, um Cyberangriffe zu erleichtern:

SweetSpectre: Eine mit China verbundene Gruppe, SweetSpectre, nutzte ChatGPT für Aufklärung, Schwachstellenforschung, Skriptunterstützung, Umgehung der Anomalieerkennung und Entwicklung.

Es wurde auch festgestellt, dass Spear-Phishing-E-Mails mit bösartigen Anhängen an die geschäftlichen und privaten E-Mail-Konten einiger OpenAI-Mitarbeiter gesendet wurden, aber blockiert wurden, bevor sie die Zielposteingänge erreichten.

CyberAv3ngers: Diese Gruppe, die mit dem iranischen Korps der Islamischen Revolutionsgarden (IRGC) verbunden ist, ist bekannt für ihre disruptiven Angriffe auf industrielle Steuerungssysteme (ICS) und speicherprogrammierbare Steuerungen (SPS), die in Wassersystemen, Fertigungs- und Energiesystemen eingesetzt werden.

Die Gruppe nutzte das ChatGPT-Modell, um Schwachstellen zu erforschen, Code zu debuggen und um Skriptberatung zu bitten, um Infrastrukturen ins Visier zu nehmen, die typischerweise mit Israel, den Vereinigten Staaten oder Irland in Verbindung gebracht werden.

STORM-0817: Ein weiterer im Iran ansässiger Bedrohungsakteur, STORM-0817, von dem OpenAI glaubt, dass es das erste Mal ist, dass ein Hacker mithilfe von KI-Modellen öffentlich identifiziert wurde.

Diese Gruppe versuchte, ChatGPT zum Debuggen von Malware, zum Erstellen von Tools wie einem Instagram-Scraper, zum Übersetzen von LinkedIn-Profilen ins Persische und zur Unterstützung des Debuggens und der Codierung bei der Implementierung von Android-Malware sowie der unterstützenden Befehls- und Kontrollinfrastruktur zu verwenden.

Darüber hinaus deuteten die Code-Schnipsel, die mit Hilfe des Chatbots von OpenAI in den von Angreifern bereitgestellten Eingabeaufforderungen erstellt wurden, darauf hin, dass die Malware Kontakte, Anrufprotokolle, installierte Pakete, den Median auf externem Speicher, Screenshots, die IMEI und das Modell des Geräts, den Browserverlauf, den Breiten- und Längengrad, Dateien vom externen Speicher (PDF, Excel-Dokumente) und auf externen Speicher heruntergeladene Inhalte, einschließlich Dateien, die von sicheren Messaging-Apps wie WhatsApp und IMO gesendet wurden, stehlen könnte.

"Parallel dazu nutzte STORM-0817 ChatGPT, um die Entwicklung von serverseitigem Code zu unterstützen, der für den Umgang mit Verbindungen von kompromittierten Geräten erforderlich ist", heißt es in dem Open AI-Bericht.

"Dadurch konnten wir feststellen, dass der Command-and-Control-Server für diese Malware ein WAMP-Setup (Windows, Apache, MySQL & PHP/Perl/Python) ist und während des Tests die Domain stickhero[.]Pro."

Während diese Gruppen versuchten, ChatGPT auszunutzen, betonte OpenAI, dass KI ihnen keine signifikanten neuen Fähigkeiten für die Entwicklung von Malware bietet. Die Hacker konnten sich nur inkrementelle Vorteile verschaffen, die bereits durch öffentlich zugängliche, nicht KI-gestützte Tools erreichbar waren.

Obwohl die Beteiligung von KI an Cyberangriffen besorgniserregend ist, hat OpenAI Maßnahmen ergriffen, um diese bösartigen Aktivitäten zu identifizieren und zu unterbinden.

"Mit Blick auf die Zukunft werden wir weiterhin mit unseren Teams für Nachrichtendienste, Ermittlungen, Sicherheitsforschung und Richtlinien zusammenarbeiten, um zu antizipieren, wie böswillige Akteure fortschrittliche Modelle für gefährliche Zwecke nutzen können, und um Durchsetzungsmaßnahmen angemessen zu planen. Wir werden unsere Ergebnisse weiterhin mit unseren internen Sicherheitsteams teilen, Lehren an wichtige Stakeholder weitergeben und mit unseren Branchenkollegen und der breiteren Forschungsgemeinschaft zusammenarbeiten, um den Risiken einen Schritt voraus zu sein und unsere kollektive Sicherheit zu stärken", so das Unternehmen abschließend.