Der heutige KI-Boom wird soziale Probleme verstärken, wenn wir jetzt nicht handeln, sagt der KI-Ethiker
KI-Systeme, die auf Internetdaten trainiert werden, laufen Gefahr, negative Vorurteile zu verstärken und gesellschaftlichen Schaden anzurichten. Kathy Baxter von Salesforce erklärt, wie man das Problem behebt.
KI-Entwickler müssen schnell handeln, um Systeme zu entwickeln und bereitzustellen, die algorithmische Vorurteile beseitigen, sagte Kathy Baxter, Hauptarchitektin für ethische KI-Praxis bei Salesforce. In einem Interview mit ZDNET betonte Baxter die Notwendigkeit einer vielfältigen Darstellung in Datensätzen und Benutzerforschung, um faire und unvoreingenommene KI-Systeme zu gewährleisten. Sie betonte auch, wie wichtig es sei, KI-Systeme transparent, verständlich und rechenschaftspflichtig zu machen und gleichzeitig die Privatsphäre des Einzelnen zu schützen. Baxter betont die Notwendigkeit einer sektorübergreifenden Zusammenarbeit, wie das Modell des National Institute of Standards and Technology (NIST), damit wir robuste und sichere KI-Systeme entwickeln können, von denen alle profitieren.
Eine der grundlegenden Fragen der KI-Ethik besteht darin, sicherzustellen, dass KI-Systeme entwickelt und eingesetzt werden, ohne bestehende gesellschaftliche Vorurteile zu verstärken oder neue zu schaffen. Um dies zu erreichen, betonte Baxter, wie wichtig es sei, zu fragen, wer von der KI-Technologie profitiert und wer dafür bezahlt. Es ist von entscheidender Bedeutung, die verwendeten Datensätze zu berücksichtigen und sicherzustellen, dass sie die Stimmen aller widerspiegeln. Wichtig ist auch die Einbindung in den Entwicklungsprozess und die Identifizierung potenzieller Schäden durch Nutzerforschung.
„Das ist eine der grundlegenden Fragen, die wir diskutieren müssen“, sagte Baxter. „Besonders farbige Frauen stellen diese Frage und forschen seit Jahren auf diesem Gebiet. Ich freue mich, dass viele Menschen darüber sprechen, insbesondere im Hinblick auf den Einsatz generativer KI. Aber die Dinge, die wir tun müssen.“ Grundsätzlich stellt sich die Frage, wer von dieser Technologie profitiert und wer sie bezahlt. Wessen Stimmen sind dabei?
Durch die Datensätze, mit denen sie trainiert werden, können soziale Vorurteile in KI-Systeme einfließen. Nicht repräsentative Datensätze, die Verzerrungen enthalten, wie z. B. Bilddatensätze mit überwiegend einer Rasse oder fehlender kultureller Differenzierung, können zu verzerrten KI-Systemen führen. Darüber hinaus kann der ungleiche Einsatz von KI-Systemen in der Gesellschaft bestehende Stereotypen aufrechterhalten.
Um KI-Systeme für den Durchschnittsbürger transparent und verständlich zu machen, ist die Priorisierung der Erklärbarkeit während des Entwicklungsprozesses von entscheidender Bedeutung. Techniken wie „Chain of Thought Prompts“ können KI-Systemen dabei helfen, ihre Arbeit zu zeigen und ihren Entscheidungsprozess verständlicher zu machen. Benutzerrecherchen sind ebenfalls von entscheidender Bedeutung, um sicherzustellen, dass die Erklärungen klar sind und Benutzer Unsicherheiten in KI-generierten Inhalten erkennen können.
Der Schutz der Privatsphäre des Einzelnen und die Gewährleistung eines verantwortungsvollen Einsatzes von KI erfordern Transparenz und Einwilligung. Salesforce befolgt Richtlinien für verantwortungsvolle generative KI, zu denen die Achtung der Datenherkunft und die Verwendung von Kundendaten nur mit Einwilligung gehören. Für den Datenschutz ist es von entscheidender Bedeutung, Benutzern die Möglichkeit zu geben, sich anzumelden oder abzumelden oder die Kontrolle über ihre Datennutzung zu haben.
„Wir verwenden Kundendaten nur, wenn wir deren Einwilligung haben“, sagte Baxter. „Es ist wirklich wichtig, transparent zu sein, wenn Sie die Daten einer Person verwenden, ihnen die Möglichkeit zu geben, sich dafür zu entscheiden, und ihnen die Möglichkeit zu geben, zurückzugehen und zu sagen, wann sie nicht mehr möchten, dass ihre Daten einbezogen werden.“
Da der Wettbewerb um Innovationen in der generativen KI immer intensiver wird, ist es wichtiger denn je, die Kontrolle und Autonomie des Menschen über immer autonomere KI-Systeme aufrechtzuerhalten. Wenn Benutzer in die Lage versetzt werden, fundierte Entscheidungen über die Verwendung von KI-generierten Inhalten zu treffen, und ein Mensch auf dem Laufenden bleibt, kann dies dazu beitragen, die Kontrolle zu behalten.
Es ist von entscheidender Bedeutung, sicherzustellen, dass KI-Systeme sicher, zuverlässig und nutzbar sind. Um dies zu erreichen, ist eine branchenweite Zusammenarbeit von entscheidender Bedeutung. Baxter lobte das von NIST geschaffene KI-Risikomanagement-Framework, an dem mehr als 240 Experten aus verschiedenen Sektoren beteiligt waren. Dieser kollaborative Ansatz bietet eine gemeinsame Sprache und einen gemeinsamen Rahmen für die Identifizierung von Risiken und den Austausch von Lösungen.
Wenn diese ethischen KI-Probleme nicht berücksichtigt werden, kann dies schwerwiegende Folgen haben, wie zum Beispiel bei unrechtmäßigen Verhaftungen aufgrund von Gesichtserkennungsfehlern oder der Erzeugung schädlicher Bilder. Investitionen in Schutzmaßnahmen und die Konzentration auf das Hier und Jetzt statt nur auf potenzielle zukünftige Schäden können dazu beitragen, diese Probleme zu mildern und die verantwortungsvolle Entwicklung und Nutzung von KI-Systemen sicherzustellen.
Während die Zukunft der KI und die Möglichkeit künstlicher allgemeiner Intelligenz faszinierende Themen sind, betont Baxter, wie wichtig es ist, sich auf die Gegenwart zu konzentrieren. Die Sicherstellung eines verantwortungsvollen KI-Einsatzes und die Bekämpfung gesellschaftlicher Vorurteile heute wird die Gesellschaft besser auf künftige KI-Fortschritte vorbereiten. Indem wir in ethische KI-Praktiken investieren und branchenübergreifend zusammenarbeiten, können wir dazu beitragen, eine sicherere und integrativere Zukunft für die KI-Technologie zu schaffen.
„Ich denke, der Zeitplan ist sehr wichtig“, sagte Baxter. „Wir müssen wirklich in das Hier und Jetzt investieren und dieses Muskelgedächtnis schaffen, diese Ressourcen schaffen, Vorschriften schaffen, die es uns ermöglichen, weiter voranzukommen, aber dabei sicher zu sein.“