Wer ist am stärksten haftbar, wenn Ihr KI-generierter Code fehlerhaft wird?

Der Chatbot von OpenAI hat viele großartige Einsatzmöglichkeiten - aber wie bei jeder neuen Technologie gibt es Leute da draußen, die versuchen, ihn auf eine Weise auszunutzen, die Probleme verursachen könnte.

Von relativ einfachen Aufgaben wie dem Verfassen von E-Mails bis hin zu komplexeren Aufgaben wie dem Schreiben von Aufsätzen oder dem Kompilieren von Code hat ChatGPT - das KI-gesteuerte Tool zur Verarbeitung natürlicher Sprache von OpenAI - seit seiner Einführung großes Interesse geweckt.

Es ist natürlich keineswegs perfekt - es ist bekannt, dass es Fehler macht, wenn es die Informationen, aus denen es lernt, falsch interpretiert, aber viele sehen darin und andere KI-Tools die Zukunft unserer Nutzung des Internets.

Im Detail: Diese Experten kämpfen darum, die KI vor Hackern zu schützen. Die Zeit wird knapp

Die Nutzungsbedingungen von OpenAI für ChatGPT verbieten ausdrücklich die Generierung von Malware, einschließlich Ransomware, Keyloggern, Viren oder „anderer Software, die einen gewissen Schaden anrichten soll“. Es verbietet auch Versuche, Spam zu erstellen, sowie Anwendungsfälle, die auf Cyberkriminalität abzielen.

Aber wie bei jeder innovativen Online-Technologie gibt es bereits Leute, die damit experimentieren, wie sie ChatGPT für dunklere Zwecke nutzen könnten.

Aber wenn die KI richtig ausgenutzt wird, könnte ein Chatbot verwendet werden, um Texte für E-Mails in jeder beliebigen Sprache zu schreiben, die der Angreifer möchte.

„Die große Hürde für russische Cyberkriminelle ist die Sprache - Englisch“, sagt Shykevich. „Sie stellen jetzt Absolventen der Anglistik an russischen Hochschulen ein, um für Phishing-E-Mails zu schreiben und in Callcentern zu arbeiten - und dafür müssen sie Geld bezahlen.“

Er fährt fort: „So etwas wie ChatGPT kann ihnen bei der Erstellung verschiedener Phishing-Nachrichten viel Geld sparen. Es kann ihr Leben einfach verbessern. Ich denke, das ist der Weg, den sie suchen werden.“

Theoretisch gibt es Schutzmaßnahmen, die Missbrauch verhindern sollen. Bei ChatGPT müssen Benutzer beispielsweise eine E-Mail-Adresse registrieren und außerdem eine Telefonnummer angeben, um die Registrierung zu überprüfen.

Und während ChatGPT sich weigert, Phishing-E-Mails zu schreiben, ist es möglich, es zu bitten, E-Mail-Vorlagen für andere Nachrichten zu erstellen, die häufig von Cyber-Angreifern ausgenutzt werden. Zu diesem Aufwand können Meldungen wie die Meldung gehören, dass ein Jahresbonus angeboten wird, ein wichtiges Software-Update heruntergeladen und installiert werden muss oder ein angehängtes Dokument dringend geprüft werden muss.

„Eine E-Mail zu verfassen, um jemanden davon zu überzeugen, auf einen Link zu klicken, um so etwas wie eine Konferenzeinladung zu erhalten - das ist ziemlich gut, und wenn Sie kein englischer Muttersprachler sind, sieht das wirklich gut aus“, sagt Adam Meyers, Senior Vice President von Intelligence bei Crowdstrike, einem Anbieter von Cybersicherheits- und Bedrohungsinformationen.

„Sie können damit eine schön formulierte, grammatikalisch korrekte Einladung erstellen lassen, die Sie nicht unbedingt machen könnten, wenn Sie kein englischer Muttersprachler wären.“

Der Missbrauch dieser Tools beschränkt sich jedoch nicht nur auf den E-Mail-Versand. Kriminelle könnten damit beim Schreiben von Skripten für jede textbasierte Online-Plattform helfen. Für Angreifer, die Betrug betreiben, oder sogar für fortgeschrittene Cyber-Bedrohungsgruppen, die versuchen, Spionagekampagnen durchzuführen, könnte dies ein nützliches Werkzeug sein - insbesondere zum Erstellen gefälschter sozialer Profile, um Menschen anzulocken.

„Wenn Sie für LinkedIn plausible Geschäfte generieren möchten, damit es so aussieht, als wären Sie ein echter Geschäftsmann, der versucht, Kontakte zu knüpfen, ist ChatGPT ideal dafür“, sagt Kelly Shortridge, Expertin für Cybersicherheit und leitende Produkttechnologin bei Cloud- Computeranbieter Fastly.

Verschiedene Hackergruppen versuchen, LinkedIn und andere Social-Media-Plattformen als Werkzeuge für die Durchführung von Cyberspionagekampagnen zu nutzen. Aber das Erstellen gefälschter, aber legitim aussehender Online-Profile und das Füllen dieser mit Beiträgen und Nachrichten ist ein zeitaufwändiger Prozess.

Shortridge glaubt, dass Angreifer KI-Tools wie ChatGPT nutzen könnten, um überzeugende Inhalte zu schreiben, und dabei gleichzeitig den Vorteil haben, dass die Arbeit weniger arbeitsintensiv ist als die manuelle Arbeit.

„Viele dieser Art von Social-Engineering-Kampagnen erfordern viel Aufwand, weil man diese Profile einrichten muss“, sagt sie und argumentiert, dass KI-Tools die Eintrittsbarriere erheblich senken könnten.

„Ich bin sicher, dass ChatGPT sehr überzeugend klingende Thought-Leadership-Beiträge verfassen könnte“, sagt sie.

Es liegt in der Natur der technologischen Innovation, dass es immer, wenn etwas Neues entsteht, diejenigen geben wird, die versuchen, es für böswillige Zwecke auszunutzen. Und selbst mit den innovativsten Mitteln zur Verhinderung von Missbrauch bedeutet die hinterlistige Natur von Cyberkriminellen und Betrügern, dass sie wahrscheinlich Wege finden werden, Schutzmaßnahmen zu umgehen.

„Es gibt keine Möglichkeit, Missbrauch vollständig zu beseitigen. Das ist bei keinem System passiert“, sagt Shykevich und hofft, dass die Hervorhebung potenzieller Cybersicherheitsprobleme dazu führen wird, dass es mehr Diskussionen darüber gibt, wie verhindert werden kann, dass KI-Chatbots für fehlerhafte Zwecke ausgenutzt werden.

„Es ist eine großartige Technologie - aber wie immer bei neuen Technologien gibt es Risiken und es ist wichtig, sie zu diskutieren, um sich ihrer bewusst zu sein. Und ich denke, je mehr wir diskutieren, desto wahrscheinlicher ist es, dass OpenAI und ähnliche Unternehmen mehr investieren.“ bei der Reduzierung von Missbrauch“, schlägt er vor.

KI-Chatbots wie ChatGPT bieten auch Vorteile für die Cybersicherheit. Sie sind besonders gut darin, mit Code umzugehen und ihn zu verstehen, daher besteht die Möglichkeit, sie zu nutzen, um Verteidigern dabei zu helfen, Malware zu verstehen. Da sie auch Code schreiben können, ist es möglich, dass diese Tools durch die Unterstützung von Entwicklern bei ihren Projekten dazu beitragen können, schneller besseren und sichereren Code zu erstellen, was für alle von Vorteil ist.

Wie Jeff Pollard, Chefanalyst bei Forrester, kürzlich schrieb, könnte ChatGPT zu einer massiven Reduzierung des Zeitaufwands für die Erstellung von Sicherheitsvorfallberichten führen.

„Eine schnellere Abwicklung bedeutet mehr Zeit für die anderen Dinge - Testen, Bewerten, Untersuchen und Reagieren, was den Sicherheitsteams bei der Skalierung hilft“, stellt er fest und fügt hinzu, dass ein Bot auf der Grundlage der verfügbaren Daten die nächsten empfohlenen Maßnahmen vorschlagen könnte.

„Wenn Sicherheitsorchestrierung, Automatisierung und Reaktion richtig eingerichtet sind, um den Abruf von Artefakten zu beschleunigen, könnte dies die Erkennung und Reaktion beschleunigen und den Analysten des [Security Operations Centers] helfen, bessere Entscheidungen zu treffen“, sagt er.

Chatbots könnten also einigen im Bereich Cybersicherheit das Leben schwerer machen, aber es könnte auch positive Hoffnungen geben.

ZDNET kontaktierte OpenAI mit der Bitte um einen Kommentar, erhielt jedoch keine Antwort. Allerdings fragte ZDNET ChatGPT, welche Regeln es gibt, um zu verhindern, dass es für Phishing missbraucht wird - und wir erhielten den folgenden Text.

„Es ist wichtig zu beachten, dass KI-Sprachmodelle wie ChatGPT zwar Text generieren können, der Phishing-E-Mails ähnelt, sie jedoch selbst keine böswilligen Aktionen ausführen können und die Absicht und Handlungen eines Benutzers erfordern, um Schaden anzurichten. Daher ist es wichtig für.“ Benutzer müssen beim Einsatz von KI-Technologie Vorsicht und gutes Urteilsvermögen walten lassen und beim Schutz vor Phishing und anderen böswilligen Aktivitäten wachsam sein.“

MEHR ÜBER CYBERSICHERHEIT

• Russische Hacker versuchen, in ChatGPT einzudringen, sagt Check Point
• Cybersicherheit, Cloud und Codierung: Warum diese drei Fähigkeiten im Jahr 2023 die Nachfrage anführen werden
• Das Metaversum kommt und die Sicherheitsbedrohungen sind bereits da
• Dies sind die Cybersicherheitsbedrohungen von morgen, über die Sie heute nachdenken sollten
• Die nächste große Sicherheitsbedrohung steht vor unserer Tür. Es wird schwierig sein, es in Angriff zu nehmen