Generative KI bringt für alle neue Risiken mit sich. So bleiben Sie auf der sicheren Seite
Unternehmen müssen die potenziellen Auswirkungen der Nutzung generativer künstlicher Intelligenztools wie ChatGPT herausfinden, während Verbraucher darüber nachdenken sollten, wie sie digitales Engagement aufbauen.
Es müssen noch kritische Fragen zum Einsatz generativer künstlicher Intelligenz (KI) geklärt werden. Unternehmen und Verbraucher, die die Technologie erkunden möchten, müssen sich daher potenzieller Risiken bewusst sein.
Da es sich derzeit noch in der Experimentierphase befindet, müssen Unternehmen die möglichen Auswirkungen der Nutzung generativer KI herausfinden, sagt Alex Toh, lokaler Leiter der IP- und Technologiepraxis von Baker McKenzie Wong & Leow.
Wichtige Fragen sollten dahingehend gestellt werden, ob solche Erkundungen weiterhin sicher sind, sowohl rechtlich als auch in Bezug auf die Sicherheit, sagt Toh, der von der International Association of Privacy Professionals ein Certified Information Privacy Professional ist. Er ist außerdem ein zertifizierter KI-Ethik- und Governance-Experte der Singapore Computer Society.
Angesichts des gestiegenen Interesses an generativer KI hat der Technologieanwalt häufig Fragen von Mandanten zu urheberrechtlichen Auswirkungen und Richtlinien beantwortet, die sie möglicherweise umsetzen müssen, wenn sie solche Tools verwenden.
Ein zentraler Problembereich, der auch in anderen Rechtsordnungen, darunter den USA, der EU und dem Vereinigten Königreich, heftig diskutiert wird, ist die Legitimität der Erfassung und Nutzung online verfügbarer Daten zum Trainieren von KI-Modellen. Ein weiterer Diskussionsbereich sei, ob kreative Werke, die von KI-Modellen generiert würden, wie Poesie und Malerei, urheberrechtlich geschützt seien, sagt er gegenüber ZDNET.
Es besteht das Risiko einer Marken- und Urheberrechtsverletzung, wenn generative KI-Modelle Bilder erstellen, die bestehenden Werken ähneln, insbesondere wenn sie angewiesen werden, die Kunstwerke einer anderen Person zu reproduzieren.
Laut Toh möchten Unternehmen wissen, welche Überlegungen sie berücksichtigen müssen, wenn sie den Einsatz generativer KI oder sogar KI im Allgemeinen untersuchen, damit der Einsatz und die Nutzung solcher Tools nicht zu rechtlichen Verpflichtungen und damit verbundenen Geschäftsrisiken führt.
Er sagt, dass Organisationen Richtlinien, Prozesse und Governance-Maßnahmen einführen, um Risiken zu reduzieren, denen sie möglicherweise ausgesetzt sind. Ein Kunde fragte beispielsweise nach den Haftungsrisiken, denen sein Unternehmen ausgesetzt sein könnte, wenn ein von ihm angebotenes generatives KI-gestütztes Produkt nicht richtig funktioniert.
Toh sagt, dass Unternehmen, die sich für den Einsatz von Tools wie ChatGPT entscheiden, um den Kundenservice beispielsweise über einen automatisierten Chatbot zu unterstützen, dessen Fähigkeit bewerten müssen, Antworten zu geben, die die Öffentlichkeit wünscht.
Der Anwalt schlägt vor, dass Unternehmen eine Risikoanalyse durchführen sollten, um potenzielle Risiken zu identifizieren und zu beurteilen, ob diese bewältigt werden können. Den Menschen sollte die Aufgabe übertragen werden, Entscheidungen zu treffen, bevor eine Maßnahme ergriffen wird, und sie sollten nur dann außen vor bleiben, wenn die Organisation feststellt, dass die Technologie ausgereift genug ist und die mit ihrem Einsatz verbundenen Risiken gering sind.
Solche Bewertungen sollten den Einsatz von Eingabeaufforderungen umfassen, was ein Schlüsselfaktor in der generativen KI ist. Toh weist darauf hin, dass ähnliche Fragen von verschiedenen Benutzern unterschiedlich formuliert werden können. Er sagt, dass Unternehmen Gefahr laufen, ihre Marke zu beschädigen, wenn ein Chatbot-System beschließt, entsprechend auf einen aggressiven Kunden zu reagieren.
Länder wie Singapur haben Rahmenwerke geschaffen, um Unternehmen aller Branchen bei der Einführung von KI zu unterstützen, mit dem Hauptziel, ein vertrauenswürdiges Ökosystem zu schaffen, sagt Toh. Er fügt hinzu, dass diese Rahmenwerke Grundsätze enthalten sollten, die Organisationen leicht übernehmen können.
In einer kürzlich verfassten schriftlichen Antwort des Parlaments zu den Regulierungsrahmen für KI wies das Ministerium für Kommunikation und Information Singapurs auf die Notwendigkeit einer „verantwortungsvollen“ Entwicklung und Bereitstellung hin. Es hieß, dieser Ansatz würde eine vertrauenswürdige und sichere Umgebung gewährleisten, in der die Vorteile der KI genutzt werden könnten.
Das Ministerium sagte, es habe mehrere Tools eingeführt, um diesen Ansatz voranzutreiben, darunter ein Test-Toolkit namens AI Verify zur Bewertung des verantwortungsvollen Einsatzes von KI und das Model AI Governance Framework, das wichtige ethische und Governance-Fragen bei der Bereitstellung von KI-Anwendungen abdeckt. Das Ministerium sagte, Organisationen wie DBS Bank, Microsoft, HSBC und Visa hätten das Governance-Rahmenwerk übernommen.
Die Personal Data Protection Commission, die Singapurs Personal Data Protection Act überwacht, arbeitet ebenfalls an Beratungsrichtlinien für die Verwendung personenbezogener Daten in KI-Systemen. Nach Angaben des Ministeriums werden diese Richtlinien innerhalb des Jahres gemäß dem Gesetz veröffentlicht.
Sie wird außerdem weiterhin die KI-Entwicklungen beobachten und den Regulierungsansatz des Landes sowie seine Wirksamkeit zur „Aufrechterhaltung von Vertrauen und Sicherheit“ überprüfen.
Achten Sie auf Ihren eigenen KI-Einsatz
Während sich die Landschaft vorerst weiterentwickelt, sollten sowohl Einzelpersonen als auch Unternehmen auf den Einsatz von KI-Tools achten.
Organisationen benötigen angemessene Prozesse, um die Risiken zu mindern, während die breite Öffentlichkeit die Technologie besser verstehen und sich mit ihr vertraut machen sollte. Jede neue Technologie hat ihre eigenen Nuancen, sagt Toh.
Baker & McKenzie erlaubt aus Bedenken hinsichtlich der Vertraulichkeit der Kunden die Verwendung von ChatGPT in seinem Netzwerk nicht. Während personenbezogene Daten (PII) verworfen werden können, bevor die Daten einem KI-Trainingsmodell zugeführt werden, gibt es immer noch Fragen dazu, ob die zugrunde liegenden Falldetails, die in einer Plattform für maschinelles Lernen oder generative KI verwendet werden, abgefragt und extrahiert werden können. Aufgrund dieser Unsicherheiten war ein Nutzungsverbot erforderlich, um sensible Daten zu schützen.
Die Anwaltskanzlei ist jedoch daran interessiert, den allgemeinen Einsatz von KI zu untersuchen, um die Arbeit ihrer Anwälte besser zu unterstützen. Laut Toh arbeitet eine KI-Lerneinheit innerhalb des Unternehmens an der Erforschung potenzieller Initiativen und der Frage, wie KI in der Belegschaft eingesetzt werden kann.
Auf die Frage, wie Verbraucher sicherstellen sollten, dass ihre Daten bei Unternehmen geschützt sind, wenn die KI-Einführung zunimmt, sagt er, dass es bei Verstößen in der Regel rechtliche Schritte gibt, weist jedoch darauf hin, dass es wichtiger sei, dass Einzelpersonen sich darauf konzentrieren, wie sie ihr digitales Engagement kuratieren.
Verbraucher sollten vertrauenswürdige Marken wählen, die in die Verantwortung für ihre Kundendaten und deren Verwendung in KI-Einsätzen investieren. Toh verweist auf Singapurs KI-Rahmenwerk und sagt, dass seine Grundprinzipien auf Transparenz und Erklärbarkeit basieren, die für den Aufbau des Vertrauens der Verbraucher in die von ihnen verwendeten Produkte von entscheidender Bedeutung sind.
Die Fähigkeit der Öffentlichkeit, ihre eigenen Risiken zu verwalten, wird wahrscheinlich von entscheidender Bedeutung sein, insbesondere da die Gesetze Schwierigkeiten haben, mit der Geschwindigkeit der Technologie Schritt zu halten.
KI beispielsweise beschleunigt sich mit „Warp-Geschwindigkeit“ ohne angemessene Regulierung, bemerkt Cyrus Vance Jr., Partner bei Baker McKenzies nordamerikanischen Rechtsstreitigkeiten und der Durchsetzungspraxis für staatliche Stellen sowie weltweiten Untersuchungen, Compliance und Ethik-Praxis. Er betont, dass die öffentliche Sicherheit mit der Entwicklung der Technologie Schritt halten muss.
„Wir haben die Technologie in den 1990er-Jahren nicht reguliert und tun dies auch heute noch nicht“, sagt Vance und nennt ChatGPT und KI als jüngste Beispiele.
Das gestiegene Interesse an ChatGPT habe zu Spannungen in der EU und im Vereinigten Königreich geführt, insbesondere aus Sicht des Datenschutzes, sagt Paul Glass, Leiter für Cybersicherheit bei Baker & McKenzie im Vereinigten Königreich und Teil des Datenschutzteams der Anwaltskanzlei.
Die EU und Großbritannien diskutieren derzeit darüber, wie die Technologie reguliert werden soll, ob neue Gesetze erforderlich sind oder ob bestehende ausgeweitet werden sollten, sagt Glass.
Er weist auch auf andere damit verbundene Risiken hin, darunter Urheberrechtsverletzungen und Cyberrisiken, bei denen ChatGPT bereits zur Erstellung von Malware eingesetzt wurde.
Länder wie China und die USA prüfen ebenfalls die Gesetzgebung zum Einsatz von KI und holen öffentliches Feedback dazu ein. Die chinesische Regierung hat letzten Monat einen neuen Verordnungsentwurf veröffentlicht, der ihrer Meinung nach notwendig sei, um die sichere Entwicklung generativer KI-Technologien, einschließlich ChatGPT, zu gewährleisten.
Erst diese Woche sagte Geoffrey Hinton - oft als „Godfather of AI“ bezeichnet - er habe seine Rolle bei Google aufgegeben, um freier über die Risiken der Technologie diskutieren zu können, die er selbst mitentwickelt hat. Hinton hatte Algorithmen für maschinelles Lernen entwickelt und zur Erforschung neuronaler Netzwerke beigetragen.
Hinton erläuterte gegenüber BBC seine Bedenken hinsichtlich der KI: „Im Moment sehen wir Dinge wie GPT-4, die eine Person in puncto Allgemeinwissen in den Schatten stellen, und zwar bei weitem. Was die Argumentation angeht.“ „Es ist nicht so gut, aber es liefert bereits einfache Überlegungen. Und angesichts der Geschwindigkeit des Fortschritts erwarten wir, dass sich die Dinge ziemlich schnell verbessern.“