Das KI-Ethik-Toolkit wurde aktualisiert und enthält jetzt weitere Bewertungskomponenten
Die zweite Version des Veritas Toolkits umfasst Bewertungsmethoden für Rechenschaftspflicht und Transparenz, um Finanzinstituten beim „verantwortungsvollen“ Einsatz künstlicher Intelligenz Orientierung zu geben.
Ein Software-Toolkit wurde aktualisiert, um Finanzinstituten dabei zu helfen, mehr Bereiche bei der Bewertung ihres „verantwortungsvollen“ Einsatzes von künstlicher Intelligenz (KI) abzudecken.
Das im Februar letzten Jahres erstmals eingeführte Bewertungstoolkit konzentriert sich auf vier Schlüsselprinzipien rund um Fairness, Ethik, Rechenschaftspflicht und Transparenz - zusammenfassend FEAT genannt. Es bietet eine Checkliste und Methoden für Unternehmen im Finanzsektor, um die Ziele ihres KI- und Datenanalyseeinsatzes zu definieren und potenzielle Verzerrungen zu identifizieren.
Das Toolkit wurde von einem Konsortium unter der Leitung der Monetary Authority of Singapore (MAS) entwickelt, dem 31 Branchenakteure angehören, darunter Bank of China, BNY Mellon, Google Cloud, Microsoft, Goldman Sachs, Visa, OCBC Bank, Amazon Web Services, IBM, und Citibank.
Die erste Version des Toolkits konzentrierte sich auf die Bewertungsmethodik für die „Fairness“-Komponente in den FEAT-Prinzipien, einschließlich der Automatisierung der Metrikbewertung und Visualisierung dieses Prinzips.
Die zweite Iteration wurde aktualisiert und enthält nun Überprüfungsmethoden für die anderen drei Prinzipien sowie eine verbesserte Bewertungsmethode für „Fairness“, sagte MAS. Mehrere Banken im Konsortium hatten das Toolkit getestet.
Das auf GitHub verfügbare Open-Source-Toolkit ermöglicht Plugins zur Integration in die IT-Systeme des Finanzinstituts.
Das Konsortium namens Veritas entwickelte außerdem neue Anwendungsfälle, um zu demonstrieren, wie die Methodik angewendet werden kann, und um wichtige Erkenntnisse für die Implementierung zu gewinnen. Dazu gehörte eine Fallstudie mit Swiss Reinsurance, die eine Transparenzbewertung für ihre prädiktive, KI-basierte Underwriting-Funktion durchführte. Google teilte auch seine Erfahrungen mit der Anwendung der FEAT-Methoden auf seine Zahlungssysteme zur Betrugserkennung in Indien und bei der Abbildung seiner KI-Prinzipien und -Prozesse.
Veritas veröffentlichte außerdem ein Whitepaper, in dem die Erkenntnisse von sieben Finanzinstituten, darunter Standard Chartered Bank und HSBC, zur Integration der KI-Bewertungsmethodik in ihr internes Governance-Framework dargelegt werden. Dazu gehört die Notwendigkeit eines „verantwortungsvollen KI-Frameworks“, das sich über alle Regionen erstreckt, und eines risikobasierten Modells zur Bestimmung der für die KI-Anwendungsfälle erforderlichen Governance. Das Dokument beschreibt außerdem verantwortungsvolle KI-Praktiken und Schulungen für eine neue Generation von KI-Fachkräften im Finanzsektor.
Sopnendu Mohanty, Chief Fintech Officer von MAS, sagte: „Angesichts der rasanten Entwicklungen im Bereich KI ist es für Finanzinstitute von entscheidender Bedeutung, über solide Rahmenbedingungen für den verantwortungsvollen Einsatz von KI zu verfügen. Das Veritas Toolkit Version 2.0 wird Finanzinstituten und Fintech-Unternehmen eine effektive Bewertung ermöglichen.“ ihre KI-Anwendungsfälle für Fairness, Ethik, Verantwortlichkeit und Transparenz. Dies wird dazu beitragen, ein verantwortungsvolles KI-Ökosystem zu fördern.“
Die Regierung von Singapur hat sechs Hauptrisiken im Zusammenhang mit generativer KI identifiziert und einen Rahmen vorgeschlagen, wie diese Probleme angegangen werden können. Außerdem wurde eine Stiftung gegründet, die die Open-Source-Community nutzen möchte, um Test-Toolkits zu entwickeln, die die Risiken der Einführung von KI mindern.
Während seines Besuchs in Singapur Anfang dieses Monats forderte OpenAI-CEO Sam Altman die Entwicklung generativer KI neben öffentlicher Konsultation, wobei der Mensch die Kontrolle behalten sollte. Er sagte, dies sei wichtig, um potenzielle Risiken oder Schäden zu mindern, die mit der Einführung von KI verbunden sein könnten.
Altman sagte, es sei auch wichtig, die Herausforderungen im Zusammenhang mit Voreingenommenheit und Datenlokalisierung anzugehen, da KI an Bedeutung gewonnen habe und das Interesse der Nationen geweckt habe. Für OpenAI, die Idee hinter ChatGPT, bedeutete dies, herauszufinden, wie man seine generative KI-Plattform auf Datensätzen trainieren kann, die „so vielfältig wie möglich“ sind und sich unter anderem über mehrere Kulturen, Sprachen und Werte erstrecken.