Trotz der Risiken geben Mitarbeiter sensible Daten in generative KI-Tools ein
Einige Arbeitnehmer haben geheime Daten, wie etwa Kundeninformationen, in öffentlich zugängliche generative KIs eingegeben.
Mitarbeiter erkennen möglicherweise den potenziellen Verlust sensibler Daten als größtes Risiko an, doch einige Personen geben solche Informationen immer noch in öffentlich verfügbare Tools für generative künstliche Intelligenz (KI) ein.
Zu diesen sensiblen Daten gehören Kundeninformationen, Verkaufszahlen, Finanzdaten und persönlich identifizierbare Informationen wie E-Mail-Adressen und Telefonnummern. Laut einer von Veritas Technologies veröffentlichten Studie mangelt es den Mitarbeitern auch an klaren Richtlinien oder Anleitungen für den Einsatz dieser Tools am Arbeitsplatz.
Für die vom Marktforscher 3Gem im Dezember 2023 durchgeführte Studie wurden 11.500 Mitarbeiter weltweit befragt, darunter Arbeitnehmer in Australien, China, Japan, Singapur, Südkorea, Frankreich, Deutschland, Großbritannien und den USA.
Auf die Frage nach den Risiken für ihr Unternehmen durch den Einsatz öffentlicher generativer KI-Tools wiesen 39 % der Befragten auf den möglichen Verlust sensibler Daten hin, während 38 % sagten, diese Tools könnten falsche, ungenaue oder nicht hilfreiche Informationen liefern. Weitere 37 % der Befragten nannten Compliance-Risiken und 19 % gaben an, dass die Technologie negative Auswirkungen auf die Produktivität haben könnte.
Etwa 57 % der Mitarbeiter nutzten öffentliche generative KI-Tools mindestens einmal wöchentlich im Büro, 22,3 % nutzten die Technologie täglich. Etwa 28 % der Menschen gaben an, solche Tools überhaupt nicht zu nutzen.
Nahezu die Hälfte (42 %) der Befragten gaben an, die Tools für Recherchen und Analysen zu nutzen, während 41 % bzw. 40 % generative KI nutzten, um E-Mail-Nachrichten und Memos zu schreiben bzw. ihr Schreiben zu verbessern.
Im Hinblick auf die Arten von Daten, die einen geschäftlichen Mehrwert bieten können, wenn sie in öffentliche generative KI-Tools eingegeben werden, verwiesen 30 % der Mitarbeiter auf Kundeninformationen wie Referenzen, Bankdaten und Adressen. Etwa 29 % nannten Verkaufszahlen, während 28 % Finanzinformationen hervorhoben und 25 % auf persönlich identifizierbare Informationen verwiesen. Weitere 22 % der Arbeitnehmer verwiesen auf vertrauliche Personaldaten und 17 % auf vertrauliche Unternehmensinformationen.
Etwa 27 % der Befragten glaubten nicht, dass die Bereitstellung dieser sensiblen Informationen in öffentliche generative KI-Tools einen Mehrwert für das Unternehmen bringen würde.
Fast ein Drittel (31 %) der Mitarbeiter gab an, solch sensible Daten in diese Tools eingegeben zu haben, während 5 % nicht sicher waren, ob sie dies getan hatten. Fast zwei Drittel (64 %) gaben an, keine sensiblen Daten in öffentliche generative KI-Tools eingegeben zu haben.
Der Einsatz neuer Technologien könnte jedoch einen schnelleren Zugriff auf Informationen ermöglichen, sagten 48 % der Befragten, als sie nach den Vorteilen für ihr Unternehmen gefragt wurden. 40 % gaben eine höhere Produktivität an, 39 % gaben an, dass generative KI alltägliche Aufgaben ersetzen könnte und 34 % glaubten, sie helfe bei der Generierung neuer Ideen.
Interessanterweise betrachteten 53 % der Mitarbeiter die Nutzung generativer KI-Tools durch einen Kollegen als unfairen Vorteil und 40 % waren der Meinung, dass diejenigen, die dies taten, verpflichtet werden sollten, den Rest ihres Teams oder ihrer Kollegen zu unterrichten. Weitere 29 % sagten, Kollegen, die solche Tools nutzten, sollten ihrem Vorgesetzten gemeldet werden, während 27 % der Meinung waren, dass sie mit Disziplinarmaßnahmen rechnen müssten.
In Bezug auf formelle Leitlinien und Richtlinien für den Einsatz öffentlicher generativer KI-Tools am Arbeitsplatz gaben 36 % der Befragten an, dass keine verfügbar seien. Etwa 24 % gaben an, verbindliche Richtlinien für eine solche Nutzung zu haben, während 21 % sagten, solche Richtlinien seien für ihren Arbeitsplatz freiwillig. Weitere 12 % gaben an, dass ihre Organisation ein Verbot des Einsatzes generativer KI-Tools am Arbeitsplatz eingeführt habe.
Eine Mehrheit von 90 % der Befragten hielt es für wichtig, Richtlinien und Richtlinien für den Einsatz neuer Technologien zu haben, wobei 68 % die Notwendigkeit betonten, dass jeder den „richtigen Weg“ zur Einführung generativer KI kennen müsse.
Die Risiken werden mit zunehmendem Einsatz generativer KI eskalieren
Es ist wahrscheinlich, dass mit der zunehmenden Einführung generativer KI auch die damit verbundenen Sicherheitsrisiken zunehmen werden.
Laut dem X-Force Threat Intelligence Index 2024 von IBM könnten wichtige Plattformen groß angelegte Angriffe erleben, wenn eine einzelne generative KI-Technologie einen Marktanteil von 50 % erreicht oder wenn sich der Markt auf nicht mehr als drei Technologien konsolidiert.
Die Studie basiert auf der Analyse des Technologieanbieters aus der Überwachung von mehr als 150 Milliarden Sicherheitsereignissen pro Tag in mehr als 130 Ländern und Datenerkenntnissen von IBM, einschließlich seiner Managed Security Services-Einheit und Red Hat.
IBM stellte fest, dass Cyberkriminelle Technologien ins Visier nehmen, die in Unternehmen auf der ganzen Welt allgegenwärtig sind, um aus ihren Kampagnen einen Nutzen zu ziehen. Dieser Ansatz wird auf die KI ausgeweitet, sobald die generative KI die Marktbeherrschung erlangt, was die Reife der KI als Angriffsfläche auslöst und Cyberkriminelle dazu motiviert, in neue Tools zu investieren.
Daher sei es von entscheidender Bedeutung, dass Unternehmen ihre KI-Modelle sichern, bevor Bedrohungsakteure ihre Aktivitäten ausweiten, warnte IBM. Im Jahr 2023 gab es in Dark-Web-Foren mehr als 800.000 Beiträge zu KI und GPT, hieß es und fügte hinzu, dass identitätsbasierte Bedrohungen weiter zunehmen werden, da Angreifer die Technologie nutzen, um ihre Angriffe zu optimieren.
Der Technologieanbieter beschrieb generative KI als die nächste große Grenze, die es zu sichern gilt: „Unternehmen sollten auch erkennen, dass ihre bestehende zugrunde liegende Infrastruktur ein Tor zu ihren KI-Modellen ist, das keine neuartigen Taktiken von Angreifern erfordert - was die Notwendigkeit einer solchen hervorhebt.“ ganzheitlicher Ansatz zur Sicherheit im Zeitalter der generativen KI.“
Charles Henderson, globaler geschäftsführender Gesellschafter von IBM Consulting und Leiter von IBM auf das Grundlegende und Bekannte - nicht auf das Neue und Unbekannte. Identität wird immer wieder gegen Unternehmen eingesetzt, ein Problem, das sich verschlimmern wird, wenn Gegner in KI investieren, um die Taktik zu optimieren.“
Darüber hinaus ist die Ausnutzung gültiger Konten für Cyberkriminelle zum Weg des geringsten Widerstands geworden. Der IBM Threat Intelligence Index verzeichnete einen Anstieg von 266 % bei Angriffen mit Malware, die darauf abzielen, persönlich identifizierbare Informationen zu stehlen, darunter Anmeldeinformationen für soziale Medien und Messaging-Apps, Bankdaten und Krypto-Wallet-Daten.
Im Jahr 2023 war Europa die am stärksten angegriffene Region. Hier entfielen 32 % der Vorfälle, auf die X-Force von IBM weltweit reagierte, darunter 26 % aller Ransomware-Angriffe weltweit. Auf solche Angriffe entfielen 44 % aller Vorfälle in Europa, was teilweise zum Aufstieg der Region auf die Spitzenposition im vergangenen Jahr beitrug. Laut IBM könnte die starke Nutzung von Cloud-Plattformen in Europa auch die Angriffsfläche im Vergleich zu seinen globalen Pendants vergrößert haben.
Der asiatisch-pazifische Raum, der in den Jahren 2021 und 2022 die am stärksten betroffene Region war, war mit 23 % der weltweiten Vorfälle am drittstärksten betroffen, während auf Nordamerika 26 % entfielen.
Weltweit richteten sich fast 70 % der Angriffe gegen Organisationen mit kritischer Infrastruktur, wobei fast 85 % dieser Vorfälle durch die Ausnutzung öffentlich zugänglicher Anwendungen, Phishing-E-Mails und die Verwendung gültiger Konten verursacht wurden.
IBM stellte fest, dass bei 85 % der Angriffe auf kritische Sektoren die Kompromittierung durch Patching, Multi-Faktor-Authentifizierung oder das Prinzip der geringsten Rechte hätte abgemildert werden können.