Microsoft und OpenAI sagen, dass Hacker ChatGPT für Cyberangriffe nutzen

Microsoft und OpenAI haben davor gewarnt, dass nationalstaatliche Hacker künstliche Intelligenz (KI) und große Sprachmodelle (LLMs) als Waffe einsetzen, um ihre laufenden Cyberangriffe zu verbessern.

Laut einer Studie, die von Microsoft Threat Intelligence in Zusammenarbeit mit OpenAI durchgeführt wurde, haben die beiden Unternehmen fünf staatsnahe Akteure identifiziert und zerschlagen, die KI-Dienste zur Unterstützung bösartiger Cyberaktivitäten nutzen wollten.

Diese staatsnahen Akteure sind mit Ländern wie Russland, Nordkorea, Iran und China verbunden.

Zu den fünf staatsnahen böswilligen Akteuren gehörten zwei mit China verbundene Bedrohungsakteure, die als Charcoal Typhoon (CHROMIUM) und Salmon Typhoon (SODIUM) bekannt sind; der mit dem Iran verbundene Bedrohungsakteur, bekannt als Crimson Sandstorm (CURIUM); der mit Nordkorea verbundene Schauspieler, der als Emerald Sleet (THALLIUM) bekannt ist; und der mit Russland verbundene Schauspieler Forest Blizzard (STRONTIUM).

So berichtete OpenAI beispielsweise, dass der chinesische Charcoal Typhoon seine Dienste nutzte, um verschiedene Unternehmen und Cybersicherheitstools zu recherchieren, Code zu debuggen und Skripte zu generieren sowie Inhalte zu erstellen, die wahrscheinlich für Phishing-Kampagnen verwendet werden könnten.

Ein weiteres Beispiel ist das iranische Unternehmen Crimson Sandstorm, das LLMs verwendete, um Code-Snippets im Zusammenhang mit der App- und Webentwicklung zu generieren, Inhalte zu generieren, die wahrscheinlich für Spear-Phishing-Kampagnen geeignet sind, und um Unterstützung bei der Entwicklung von Code zu erhalten, um der Erkennung zu entgehen.

Darüber hinaus soll der russische Nationalstaatskonzern Forest Blizzard OpenAI-Dienste vor allem für die Open-Source-Forschung zu Satellitenkommunikationsprotokollen und Radarbildtechnologie sowie zur Unterstützung bei Scripting-Aufgaben genutzt haben.

OpenAI teilte am Mittwoch mit, dass es die identifizierten OpenAI-Konten gekündigt habe, die mit staatlich geförderten Hackerakteuren in Verbindung stehen. Diese Akteure versuchten im Allgemeinen, OpenAI-Dienste für die Abfrage von Open-Source-Informationen, Übersetzungen, das Auffinden von Codierungsfehlern und das Ausführen grundlegender Codierungsaufgaben zu nutzen, so das KI-Unternehmen.

"Sprachunterstützung ist ein natürliches Merkmal von LLMs und attraktiv für Bedrohungsakteure, die sich ständig auf Social Engineering und andere Techniken konzentrieren, die auf falscher, irreführender Kommunikation basieren, die auf die Jobs, beruflichen Netzwerke und anderen Beziehungen ihrer Zielpersonen zugeschnitten ist. Wichtig ist, dass unsere Forschung mit OpenAI keine signifikanten Angriffe identifiziert hat, bei denen die LLMs eingesetzt werden, die wir genau überwachen", heißt es in dem neuen KI-Sicherheitsbericht, der am Mittwoch von Microsoft in Zusammenarbeit mit OpenAI veröffentlicht wurde.

Glücklicherweise wurden nach Angaben des Unternehmens bisher keine signifikanten oder neuartigen Angriffe entdeckt, die die LLM-Technologie nutzen. "Unsere Analyse der aktuellen Nutzung der LLM-Technologie durch Bedrohungsakteure ergab Verhaltensweisen, die mit Angreifern übereinstimmen, die KI als weiteres Produktivitätswerkzeug nutzen. Microsoft und OpenAI haben bisher keine besonders neuartigen oder einzigartigen KI-gestützten Angriffs- oder Missbrauchstechniken beobachtet, die sich aus der Nutzung von KI durch Bedrohungsakteure ergeben", stellte Microsoft in seinem Bericht fest.

Um auf die Bedrohung zu reagieren, hat Microsoft eine Reihe von Grundsätzen angekündigt, die seine Richtlinien und Maßnahmen zur Bekämpfung des Missbrauchs seiner KI-Dienste durch nationalstaatliche Advanced Persistent Threats (APTs), Advanced Persistent Manipulators (APMs) und cyberkriminelle Syndikate prägen.

"Zu diesen Prinzipien gehören die Identifizierung und Bekämpfung der Nutzung durch böswillige Bedrohungsakteure, die Benachrichtigung anderer KI-Dienstleister, die Zusammenarbeit mit anderen Interessengruppen und die Transparenz", sagte der Redmonder Riese.