Sind KI-Bots genauso anfällig für Social Engineering wie wir?
Vielleicht sollten Chatbots nicht allem vertrauen, was Menschen sagen.
„Social Engineering“ ist eine bewährte Taktik, die Hacker gegen den menschlichen Teil von Computersicherheitssystemen einsetzen, oft weil es einfacher ist, als ausgefeilte Sicherheitstechnologie zu besiegen. Wird dieser Ansatz funktionieren, wenn neue KI immer menschenähnlicher wird?
Was ist Social Engineering?
Nicht zu verwechseln mit dem ethisch fragwürdigen Konzept in der Politikwissenschaft, in der Welt der Cybersicherheit ist Social Engineering die Kunst, Menschen mithilfe psychologischer Manipulation dazu zu bringen, das zu tun, was man will. Wenn Sie ein Hacker sind, erwarten Sie von den Leuten, dass sie vertrauliche Informationen preisgeben, Passwörter aushändigen oder einfach Geld direkt auf Ihr Konto einzahlen.
Es gibt viele verschiedene Hacking-Techniken, die unter den Begriff Social Engineering fallen. Das Herumliegenlassen eines mit Schadsoftware infizierten Flash-Laufwerks hängt beispielsweise von der menschlichen Neugier ab. Der Stuxnet-Virus, der die Ausrüstung einer iranischen Nuklearanlage zerstörte, ist möglicherweise dank implantierter USB-Sticks in diese Computer gelangt.
Aber das ist nicht die Art von Social Engineering, die hier relevant ist. Vielmehr sind hier gängige Angriffe wie „Spear Phishing“ (gezielte Phishing-Angriffe) und „Pretexting“ (Täuschung von Zielen mit einer falschen Identität) relevant, bei denen es zur Täuschung kommt, dass eine Person im Gespräch mit einer anderen Person ist.
Da es sich bei der „Person“ am Telefon oder in einem Chatroom mit ziemlicher Sicherheit irgendwann um einen KI-Chatbot irgendeiner Art handelt, stellt sich die Frage, ob die Kunst des Social Engineering bei synthetischen Zielen noch wirksam sein wird.
KI-Jailbreaking ist bereits eine Sache
Chatbot-Jailbreaking gibt es schon seit einiger Zeit, und es gibt viele Beispiele, bei denen jemand einen Chatbot dazu überreden kann, gegen seine eigenen Verhaltensregeln zu verstoßen oder auf andere Weise etwas völlig Unangemessenes zu tun.
Grundsätzlich lassen die Existenz und Wirksamkeit von Jailbreaking darauf schließen, dass Chatbots tatsächlich anfällig für Social Engineering sein könnten. Chatbot-Entwickler mussten ihren Anwendungsbereich immer wieder einschränken und strenge Leitplanken einführen, um sicherzustellen, dass sie sich ordnungsgemäß verhalten. Dies scheint eine weitere Runde von Jailbreaking anzuregen, um zu sehen, ob diese Leitplanken aufgedeckt oder umgangen werden können.
Wir können einige Beispiele dafür finden, die von Nutzern von
Können Bots vor Social Engineering geschützt werden?
Die Vorstellung, dass beispielsweise ein Bank-Chatbot dazu gebracht werden könnte, sensible Informationen preiszugeben, ist zu Recht besorgniserregend. Andererseits bestünde eine erste Verteidigungslinie gegen diese Art von Missbrauch darin, diesen Chatbots überhaupt keinen Zugriff auf solche Informationen zu gewähren. Es bleibt abzuwarten, wie viel Verantwortung wir einer solchen Software ohne menschliche Aufsicht übertragen können.
Die Kehrseite davon ist, dass diese KI-Programme, damit sie nützlich sind, Zugang zu Informationen benötigen. Daher ist es keine wirkliche Lösung, ihnen Informationen vorzuenthalten. Wenn ein KI-Programm beispielsweise Hotelbuchungen abwickelt, benötigt es für seine Arbeit Zugriff auf die Daten der Gäste. Die Befürchtung besteht also darin, dass ein kluger Betrüger diese KI dazu überreden könnte, preiszugeben, wer in diesem Hotel übernachtet und in welchem Zimmer.
Eine andere mögliche Lösung könnte darin bestehen, ein „Buddy“-System zu verwenden, bei dem ein KI-Chatbot einen anderen überwacht und eingreift, wenn dieser aus dem Ruder läuft. Ein KI-Supervisor, der jede Antwort überprüft, bevor sie an den Benutzer weitergeleitet wird, könnte eine Möglichkeit sein, diese Art von Methode abzumildern.
Wenn Sie letztendlich Software erstellen, die natürliche Sprache und Logik nachahmt, liegt es auf der Hand, dass die gleichen Überzeugungstechniken, die bei Menschen funktionieren, zumindest bei einigen dieser Systeme funktionieren. Vielleicht möchten potenzielle Hacker neben Büchern über Cybersicherheit auch How to Win Friends & Influence People lesen.