SAS wirbt für die Integration mit dem Singapur-Toolkit, um die Einführung einer verantwortungsvollen KI zu unterstützen
Das SAS Institute sagt, dass die Integration seiner Viya-Plattform in das von der Monetary Authority of Singapore veröffentlichte Software-Toolkit darauf abzielt, Finanzinstituten zu helfen, die Schwierigkeiten haben, Kernprinzipien für den ethischen und verantwortungsvollen Einsatz von künstlicher Intelligenz in die Praxis umzusetzen.
Das SAS Institute hat seine Plattform für das Management von Datenanalysen in ein Software-Toolkit integriert, das von der Monetary Authority of Singapore (MAS) in Singapur veröffentlicht wurde, um Finanzinstitute dabei zu unterstützen, sicherzustellen, dass sie künstliche Intelligenz (KI) verantwortungsvoll einsetzen. Der Schritt zielt darauf ab, eine gemeinsame Herausforderung anzugehen, mit der diese Unternehmen konfrontiert sind, indem sie Kernprinzipien für den ethischen Einsatz von KI einbeziehen.
Die MAS hat im Februar das Open-Source-Toolkit auf den Markt gebracht, um Prozesse zu automatisieren, die zur Bewertung der KI-Einführung eines Unternehmens erforderlich sind, basierend auf vier Prinzipien: Fairness, Ethik, Rechenschaftspflicht und Transparenz (FEAT). Das vom Veritas-Konsortium entwickelte Toolkit ermöglicht Plugins, um die Integration in die IT-Systeme des Finanzinstituts zu ermöglichen.
SAS teilte am Mittwoch mit, dass die Integration seiner Analytics-Management-Plattform Viya mit dem Veritas-Toolkit die Bewertung von FEAT-Prinzipien in analytischen Modellen ermöglichen würde, indem die Generierung natürlicher Sprache und Workflow-Funktionen in Viya genutzt werden. Die SAS-Plattform arbeitet auch mit dem Toolkit zusammen, um die Automatisierung zu verbessern.
Unternehmen in Singapur hatten oft Schwierigkeiten, ihre Einführung von KI auf der Grundlage der Veritas-Prinzipien zu operationalisieren, sagte Manisha Khanna, Leiterin des Bereichs KI und Analytik bei SAS im asiatisch-pazifischen Raum. Die Integration mit dem Toolkit trug dazu bei, die Komplexität zu reduzieren, z. B. durch die automatische Identifizierung sensibler Attribute, um die Einhaltung von Vorschriften zu gewährleisten.
Es erleichterte auch den Entscheidungsfluss für "erklärbare KI", sagte Khanna und fügte hinzu, dass die von KI-Modellen generierten Ergebnisse automatisch mit einer textbasierten Erklärung versehen wurden, wie diese ermittelt wurden.
Darüber hinaus könnten regulatorische und Audit-Berichte automatisch ausgefüllt werden, was die Produktivität der Mitarbeiter weiter verbessert, sagte sie.
Lim Hsin Yin, Managing Director von SAS Singapur, merkte an, dass die Akzeptanz von verantwortungsvoller KI aufgrund von Vertrauen und Ausgewogenheit gering sei, da Unternehmen Vertrauen in die Technologie haben und die Rentabilität des Unternehmens mit sozialer Verantwortung in Einklang bringen müssten, um KI ethisch einzusetzen.
Die Zusammenarbeit mit der MAS zielte darauf ab, dieses Problem anzugehen, sagte Lim.
Reggie Townsend, Chief Data Ethics Practice Officer von SAS, sagte: "Die Notwendigkeit regulatorischer Rahmenbedingungen, um das Versprechen der KI zu nutzen und gleichzeitig ihre Risiken zu mindern, ist in diesen Zeiten nicht nur wichtig, sondern auch dringend. Sowohl Technologieanbieter als auch Regulierungsbehörden spielen eine entscheidende Rolle, um sicherzustellen, dass sich die KI-Entwicklung auf den Menschen konzentriert, um einen positiven Einfluss auf unsere Gesellschaft zu haben."
Townsend sagte, dass KI- und maschinelle Lernanwendungen im Laufe der Zeit lernen und Gesellschaften in Szenarien versetzen könnten, die sie nicht vorhersehen könnten. Daher sei eine Gesetzgebung erforderlich, um dies zu bewältigen, während sich die Definition von "verantwortungsvoller Innovation" mit KI weiter entwickle, sagte er.
Dies war nicht unähnlich früheren Übergängen, zum Beispiel als das Automobil eingeführt wurde und neben Pferdekutschen und ohne Ampeln auf den Straßen unterwegs war.
Er sagte, SAS habe ein Aufsichtskomitee eingerichtet, das intern arbeite, um sicherzustellen, dass die notwendigen Kontrollen vorhanden seien, um dem Softwareanbieter zu helfen, seine eigenen Risiken zu mindern und KI verantwortungsvoll einzusetzen. Manchmal bedeutete dies, dass man sich von bestimmten Kundeneinsätzen verabschieden musste, so dass die Plattform nicht Teil eines Ökosystems war, in dem sie nicht sein wollte, fügte er hinzu.
Auf die Frage nach Anbietern wie Microsoft und IBM, die den Verkauf von Gesichtserkennung an Strafverfolgungsbehörden verboten haben, sagte Townsend, SAS habe solche "harten Linien" nicht gezogen, weil der Kontext hinter dem Einsatz von KI wichtig sei. Zum Beispiel lieferte die Einführung von Gesichtserkennungstechnologie zur Erleichterung der Passauthentifizierung ein positives Ergebnis.
Er fügte hinzu, dass die internen Prozesse, die SAS eingerichtet hat, dazu beigetragen haben, dass Implementierungen, die gegen die Prinzipien des verantwortungsvollen Einsatzes von KI verstoßen, gekennzeichnet werden.
Laut Damien Pang, stellvertretender Chief Fintech Officer und Executive Director für Daten- und Technologiearchitektur bei MAS, ist das Veritas-Konsortium seit dem Start auf mehr als 30 Unternehmen angewachsen. Dies spiegele das starke Interesse der Branche wider, das Vertrauen in den Einsatz von KI durch die FEAT-Prinzipien zu stärken.
Auf die Frage nach der Nutzungsrate des Toolkits sagte Pang, dass MAS die Anzahl der Downloads nicht verfolgt habe, da dies nicht unbedingt ein genauer Hinweis auf die tatsächliche Nutzung sei.
Er forderte Unternehmen auf, zu verstehen, was für einen verantwortungsvollen Umgang mit KI erforderlich ist. Er fügte hinzu, dass die FEAT-Prinzipien dazu beitragen würden, das Vertrauen der Verbraucher aufzubauen, und sagte, dass dies entscheidend sei, um die Einführung digitaler Dienste voranzutreiben und Unternehmen in die Lage zu versetzen, Daten zu nutzen, um Kunden besser zu bedienen.