Die am meisten gelobte Funktion von ChatGPT birgt auch große Risiken für Unternehmen
Seine Fähigkeit, mit seinen Reaktionen den Menschen nachzuahmen, hat einen Großteil des Hypes entfacht, der derzeit um das KI-gestützte Werkzeug herumschwirrt, und stellt auch die größte Bedrohung dar.
Während die Fähigkeit von ChatGPT, menschenähnliche Antworten zu generieren, weithin gefeiert wird, stellt sie auch das größte Risiko für Unternehmen dar.
Das Tool der künstlichen Intelligenz (KI) werde bereits zur Verbesserung von Phishing-Angriffen eingesetzt, sagte Jonathan Jackson, BlackBerrys Asien-Pazifik-Direktor für Technik.
Er verwies auf Aktivitäten, die in Untergrundforen entdeckt wurden, und sagte, es gebe Hinweise darauf, dass Hacker ChatGPT von OpenAI und andere KI-gestützte Chatbots nutzten, um Identitätsdiebstahlangriffe zu verbessern. Sie wurden auch dazu verwendet, Deepfakes zu betreiben und Fehlinformationen zu verbreiten, sagte Jackson in einem Videointerview mit ZDNET. Er fügte hinzu, dass Hacker-Foren Dienste anboten, um ChatGPT für schändliche Zwecke zu nutzen.
In einer im letzten Monat veröffentlichten Notiz wies Sergey Shykevich, Leiter der Threat Intelligence Group von Check Point Technologies, auch darauf hin, dass es Anzeichen dafür gebe, dass Cyberkriminelle ChatGPT verwenden, um das Schreiben ihres Codes zu beschleunigen. In einem Fall stellte der Sicherheitsanbieter fest, dass das Tool verwendet wurde, um einen Infektionsfluss erfolgreich abzuschließen. Dazu gehörte die Erstellung einer überzeugenden Spear-Phishing-E-Mail und einer Reserve-Shell, die Befehle auf Englisch akzeptieren konnte.
Während die bisher entwickelten Angriffscodes recht einfach blieben, sei es laut Shykevich lediglich eine Frage der Zeit, bis ausgefeiltere Bedrohungsakteure die Art und Weise verbessern, wie sie solche KI-basierten Tools einsetzen.
Einige „Nebenwirkungen“ werden sich aus Technologien ergeben, die Deepfakes und ChatGPT unterstützen, schrieb Sammy Migues, leitender Wissenschaftler der Synopsys Software Integrity Group, in seinen Prognosen für 2023. Personen, die „fachkundigen“ Rat oder technische Unterstützung bei der Konfiguration eines neuen Sicherheitsgeräts benötigen, können sich an ChatGPT wenden. Sie können auch über das KI-Tool verfügen, um Kryptomodule zu schreiben oder jahrelange Protokolldaten durchzugehen, um Budgetüberprüfungen zu erstellen.
„Die Möglichkeiten sind endlos“, sagte Migues. „Sicher, die KI ist nur ein gedankenloser Automat, der die von ihr zusammengebauten Dinge ausspuckt, aber sie kann auf den ersten Blick ziemlich überzeugend sein.“
Tippen Sie auf KI, um gegen KI zu kämpfen
Jackson wies darauf hin, dass das Aufkommen generativer KI-Anwendungen wie ChatGPT einen erheblichen Wandel in der Cyberlandschaft bewirken würde. Sicherheits- und Cyber-Verteidigungstools müssten dann in der Lage sein, neue Bedrohungen zu erkennen, die sich aus großen Sprachmodellen ergeben, auf denen diese Anwendungen aufbauen, sagte er.
Dies ist relevant, da Unternehmen damit rechnen, dass solche Risiken bald auftreten werden.
In Australien äußerten 84 % der IT-Entscheidungsträger Bedenken hinsichtlich der potenziellen Bedrohungen, die generative KI und große Sprachmodelle mit sich bringen könnten, so eine aktuelle BlackBerry-Studie, für die 500 Befragte im Land befragt wurden.
Die größte Sorge war bei der Hälfte der Befragten, dass die Technologie weniger erfahrenen Hackern helfen könnte, ihr Wissen zu verbessern und speziellere Fähigkeiten zu entwickeln.
Weitere 48 % waren besorgt über die Fähigkeit von ChatGPT, glaubwürdigere und legitimer aussehende Phishing-E-Mail-Nachrichten zu erstellen; 36 % sahen darin das Potenzial, Social-Engineering-Angriffe zu beschleunigen.
Etwa 46 % waren besorgt über die Verwendung von ChatGPT zur Verbreitung von Falsch- oder Desinformationen, während 67 % glaubten, es sei wahrscheinlich, dass ausländische Nationen ChatGPT bereits für böswillige Zwecke nutzten.
Etwas mehr als die Hälfte, nämlich 53 %, ging davon aus, dass die Branche weniger als ein Jahr von dem ersten erfolgreichen Cyberangriff mit KI-Technologie entfernt sein würde, während 26 % sagten, dass dies innerhalb von ein bis zwei Jahren geschehen würde, und 12 % sagten, dass dies der Fall sein würde drei bis fünf Jahre dauern.
Und während 32 % der Meinung waren, dass die Technologie die Cybersicherheit weder verbessern noch verschlechtern würde, glaubten 24 %, dass sie die Bedrohungslandschaft verschärfen würde. Andererseits gaben 40 % an, dass es zur Verbesserung der Cybersicherheit beitragen könnte.
Etwa 90 % der australischen Befragten glaubten, dass Regierungen dafür verantwortlich seien, fortschrittliche Technologien wie ChatGPT zu regulieren. Weitere 40 % meinten, dass Cybersicherheitstools derzeit hinter der Innovation bei Cyberkriminalität zurückbleiben, wobei 30 % anmerkten, dass Cyberkriminelle am meisten von ChatGPT profitieren würden.
Etwa 60 % sagten jedoch, dass die Technologie den Forschern am meisten zugute kommen würde, während 56 % glaubten, dass Sicherheitsberufe am meisten davon profitieren könnten.
Etwa 85 % planen, in den nächsten zwei Jahren in KI-gestützte Cybersicherheitstools zu investieren.
Der Einsatz von KI und Automatisierung auf beiden Seiten zum Starten und Abwehren von Cyberangriffen ist jedoch alles andere als neu. Warum also jetzt die Aufregung?
Jackson räumte ein, dass KI seit Jahren in der Cyberabwehr eingesetzt werde, stellte jedoch fest, dass die einzigartige Eigenschaft von ChatGPT und anderen ähnlichen Tools ihre Fähigkeit sei, von Natur aus komplexe Konzepte wie Programmiersprachen in etwas umzuwandeln, das jeder verstehen könne.
Solche Tools basieren auf großen Sprachmodellen, die auf riesigen Mengen kuratierter, kontextbezogener Handelsdatensätze basieren. „Es ist bei bestimmten Dingen sehr kraftvoll“, bemerkte er. „ChatGPT ist eine unglaublich leistungsstarke Ressource für jeden, der gute Codes oder in diesem Fall bösartige Codes erstellen möchte, beispielsweise Skripte, um die Verteidigung eines Netzwerks zu umgehen.“
Es kann auch zum Web-Scraping des Social-Media-Profils bestimmter Personen verwendet werden, um sie für Spear-Phishing-Angriffe zu erstellen und sich als diese auszugeben
„Die größten Auswirkungen haben Social Engineering und Identitätsdiebstahl“, sagte er und fügte hinzu, dass Tools wie ChatGPT zur Verbesserung von Phishing-Kampagnen eingesetzt werden.
Angesichts des Aufkommens großer Sprachmodelle betonte er die Notwendigkeit, traditionelle Ansätze der Cyber- und Datenverteidigung zu überdenken. Er wies darauf hin, wie wichtig es sei, KI und maschinelles Lernen zu nutzen, um KI-gestützte Angriffe zu bekämpfen.
Investitionen in KI- und maschinelle Lernfähigkeiten würden Unternehmen dabei helfen, potenzielle Bedrohungen schneller zu erkennen, was wichtig sei, sagte er. „Der Einsatz von Menschen ist nicht mehr realistisch und das schon seit einigen Jahren nicht mehr.“
Jackson wies darauf hin, dass BlackBerry an einem Algorithmus gearbeitet hat, der zum Trainieren von Modellen erforderlich ist, um Änderungen in Angriffstechniken zu erkennen und schädliche Inhalte zu blockieren, die scheinbar von großen Sprachmodellen generiert werden. Volumen und Geschwindigkeit seien entscheidend, fügte er hinzu, damit das Unternehmen mit potenziellen Angriffen Schritt halten könne, selbst wenn sich ChatGPT und ähnliche Tools weiterentwickeln.
Er betonte weiter, dass diese Anwendungen auch positive Auswirkungen auf die Branche hätten. BlackBerry beispielsweise nutzt ChatGPT für die erweiterte Bedrohungssuche und nutzt seine Codierungsfunktionen, um komplexe Skripte zu verarbeiten und zu analysieren, um deren Funktionsweise zu untersuchen und seine Verteidigungstaktiken zu verbessern.