Ein Bericht zeigt, dass Microsoft und OpenAI staatliche Cyber-Bedrohungen mithilfe von KI erkennen und abwehren
Auch Bösewichte nutzen große Sprachmodelle.
Mit der Weiterentwicklung generativer KI-Technologien nehmen auch Cyberangriffe zu. Das sagen Microsoft und OpenAI, die Forschungsergebnisse zum böswilligen Einsatz von Large Language Models (LLMs) durch staatlich unterstützte Gegner geteilt haben.
Am Mittwoch veröffentlichte Microsoft seinen Bericht „Cyber Signals 2024“, in dem detailliert beschrieben wird, welche nationalstaatlichen Angriffe das Unternehmen zusammen mit OpenAI von russischen, nordkoreanischen, iranischen und chinesischen Gegnern erkannt und abgewehrt hat, und welche Maßnahmen Einzelpersonen und Organisationen ergreifen können Bereiten Sie sich auf mögliche Angriffe vor.
Die beiden Technologieunternehmen verfolgten staatsnahe gegnerische Angriffe von Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon und Salmon Typhoon. Bei jedem Angriff wurden LLMs genutzt, um die Cyberoperationen in gewisser Weise zu verbessern, einschließlich der Unterstützung bei der Recherche, Fehlerbehebung und der Generierung von Inhalten.
Beispielsweise nutzte Emerald Sleet, ein nordkoreanischer Bedrohungsakteur, LLMs, um Denkfabriken und Experten zu Nordkorea zu recherchieren, Inhalte zu generieren, die wahrscheinlich in Spear-Phishing-Kampagnen verwendet würden, öffentlich bekannte Schwachstellen zu verstehen, technische Probleme zu beheben und sogar bei der Behebung von Problemen zu helfen Dem Bericht zufolge werden verschiedene Web-Technologien verwendet.
In ähnlicher Weise nutzte Crimson Sandstorm, ein iranischer Bedrohungsakteur, LLMs für technische Hilfe, einschließlich Unterstützung beim Social Engineering, Unterstützung bei der Fehlerbehebung und mehr.
Wenn Sie daran interessiert sind, mehr über jede einzelne Bedrohung durch einen Nationalstaat zu erfahren, einschließlich ihrer Zugehörigkeit und ihrer Verwendung von LLMs, können Sie sich den Bericht ansehen, der einen Abschnitt über individuelle Bedrohungsinformationen enthält.
Microsoft teilt mit, dass KI-gestützter Betrug, wie z. B. Sprachsynthese, die es Schauspielern ermöglicht, ein Modell so zu trainieren, dass es mit nur einem dreisekündigen Ton wie jeder andere klingt, eine aufkommende und zunehmend besorgniserregende Bedrohung darstellt.
Während der Bericht zeigt, dass generative KI von böswilligen Akteuren eingesetzt wird, kann die Technologie auch von Verteidigern wie Microsoft genutzt werden, um einen intelligenteren Schutz zu entwickeln und im ständigen Katz-und-Maus-Rennen um die Cybersicherheit die Nase vorn zu behalten.
Microsoft erkennt täglich über 65 Millionen Cybersicherheitssignale. Laut dem Bericht stellt die KI sicher, dass diese Signale auf ihre wertvollsten Informationen hin analysiert werden, um Bedrohungen abzuwehren.
Microsoft teilt auch andere Möglichkeiten des Einsatzes von KI mit, darunter „KI-gestützte Bedrohungserkennung, um Änderungen in der Nutzung von Ressourcen oder Datenverkehr im Netzwerk zu erkennen; Verhaltensanalysen, um riskante Anmeldungen und anomales Verhalten zu erkennen; Modelle des maschinellen Lernens (ML). um riskante Anmeldungen und Malware zu erkennen; Zero-Trust-Modelle, bei denen jede Zugriffsanfrage vollständig authentifiziert, autorisiert und verschlüsselt und der Gerätezustand überprüft werden muss, bevor ein Gerät eine Verbindung zu einem Unternehmensnetzwerk herstellen kann.“
Abschließend führt Microsoft zum Abschluss des Berichts aus, dass eine kontinuierliche Aufklärung der Mitarbeiter und der Öffentlichkeit von entscheidender Bedeutung bei der Bekämpfung von Social-Engineering-Techniken ist, die nur dann erfolgreich sind, wenn Menschen sie nicht erkennen, und dass Prävention, ob KI-fähig oder nicht, der Schlüssel zur Bekämpfung aller Cyber-Bedrohungen ist .