Singapur identifiziert sechs generative KI-Risiken und legt eine Grundlage für die Einführung fest

Die AI Verify Foundation wird Test-Toolkits entwickeln, die die Risiken von KI mindern.

Singapur hat sechs Hauptrisiken im Zusammenhang mit generativer künstlicher Intelligenz (KI) identifiziert und einen Rahmen vorgeschlagen, wie diese Probleme angegangen werden können. Außerdem wurde eine Stiftung gegründet, die die Open-Source-Community nutzen möchte, um Test-Toolkits zu entwickeln, die die Risiken der Einführung von KI mindern.

Halluzinationen, beschleunigte Desinformation, urheberrechtliche Herausforderungen und eingebettete Vorurteile gehören zu den Hauptrisiken generativer KI, die in einem Bericht der Infocomm Media Development Authority (IMDA) in Singapur dargelegt werden. Das Diskussionspapier beschreibt detailliert den Rahmen des Landes für eine „vertrauenswürdige und verantwortungsvolle“ Einführung der neuen Technologie, einschließlich Offenlegungsstandards und globaler Interoperabilität. Der Bericht wurde gemeinsam mit Aicadium entwickelt, einem KI-Technologieunternehmen, das von der staatlichen Investmentfirma Temasek Holdings gegründet wurde.

Das Rahmenwerk bietet einen Blick darauf, wie politische Entscheidungsträger die bestehende KI-Governance stärken können, um „einzigartige Merkmale“ und unmittelbare Bedenken der generativen KI anzugehen. Laut IMDA werden auch Investitionen erörtert, die erforderlich sind, um langfristig Governance-Ergebnisse sicherzustellen.

Bei der Identifizierung von Halluzinationen als Hauptrisiko stellte der Bericht fest, dass generative KI-Modelle - ähnlich wie alle KI-Modelle - Fehler machen, die oft anschaulich sind und eine Anthropomorphisierung annehmen.

„Aktuelle und frühere Versionen von ChatGPT machen bekanntermaßen sachliche Fehler. Solche Modelle haben es auch schwerer, Aufgaben wie Logik, Mathematik und gesunden Menschenverstand zu erledigen“, heißt es in dem Diskussionspapier.

„Das liegt daran, dass ChatGPT ein Modell dafür ist, wie Menschen Sprache nutzen. Während Sprache oft die Welt widerspiegelt, verfügen diese Systeme jedoch noch nicht über ein tiefes Verständnis darüber, wie die Welt funktioniert.“

Diese falschen Antworten können auch täuschend überzeugend oder authentisch sein, fügte der Bericht hinzu und verwies darauf, wie Sprachmodelle scheinbar legitime, aber fehlerhafte Antworten auf medizinische Fragen erstellt und Softwarecodes generiert haben, die anfällig für Schwachstellen sind.

Darüber hinaus wird die Verbreitung falscher Inhalte aufgrund überzeugender, aber irreführender Texte, Bilder und Videos, die mithilfe generativer KI möglicherweise in großem Maßstab generiert werden können, immer schwieriger zu erkennen.

Identitätsdiebstahl und Reputationsangriffe sind einfacher geworden, einschließlich Social-Engineering-Angriffen, bei denen Deepfakes verwendet werden, um Zugang zu privilegierten Personen zu erhalten.

Generative KI ermöglicht es auch, andere Arten von Schaden anzurichten, bei denen Bedrohungsakteure mit geringen oder gar keinen technischen Fähigkeiten potenziell bösartigen Code generieren können.

Diese aufkommenden Risiken könnten dem Diskussionspapier zufolge neue Ansätze für die Steuerung der generativen KI erfordern.

Die Ministerin für Kommunikation und Information Singapurs, Josephine Teo, stellte fest, dass weltweit führende Unternehmen immer noch alternative KI-Architekturen und -Ansätze erforschen und viele Menschen sich vor den Gefahren der KI zurückhalten.

KI liefert „menschenähnliche Intelligenz“ auf potenziell hohem Niveau und zu deutlich reduzierten Kosten, was besonders für Länder wie Singapur wertvoll ist, in denen Humankapital ein entscheidendes Unterscheidungsmerkmal ist, sagte Teo, der diese Woche auf dem Asia Tech x Singapore-Gipfel sprach .

Der unsachgemäße Einsatz von KI könne jedoch großen Schaden anrichten, stellte sie fest. „Leitlinien sind daher notwendig, um die Menschen zu einem verantwortungsvollen Umgang damit zu leiten und damit KI-Produkte von Natur aus ‚sicher für uns alle‘ sind“, sagte sie.

„Wir hoffen, dass [das Diskussionspapier] viele Gespräche anregen und das Bewusstsein für die erforderlichen Leitplanken stärken wird“, fügte sie hinzu.

Während eines nichtöffentlichen Dialogs auf dem Gipfel enthüllte sie, dass hochrangige Regierungsbeamte auch über die jüngsten Fortschritte in der KI, einschließlich generativer KI-Modelle, debattierten und darüber nachdachten, wie diese das Wirtschaftswachstum ankurbeln und Auswirkungen auf die Gesellschaft haben könnten.

Die Beamten hätten einen Konsens darüber erzielt, dass KI „angemessen“ gesteuert und zum Wohle der Menschheit eingesetzt werden müsse, sagte Teo, der als Vorsitzender der Diskussion eine Zusammenfassung lieferte. Zu den Teilnehmern des Treffens, zu denen auch Minister gehörten, gehörten Länder wie Deutschland, Japan, Thailand und die Niederlande.

Die Delegierten waren sich auch einig, dass eine verstärkte Zusammenarbeit und ein verstärkter Informationsaustausch zu KI-Governance-Richtlinien dazu beitragen würden, Gemeinsamkeiten zu ermitteln und zu einer besseren Abstimmung zwischen den Ansätzen zu führen. Diese Einheit würde zu nachhaltigen und zweckmäßigen KI-Governance-Rahmenwerken und technischen Standards führen, sagte Teo.

Die Beamten forderten eine größere Interoperabilität zwischen Governance-Rahmenwerken, die ihrer Meinung nach notwendig ist, um eine verantwortungsvolle Entwicklung und Einführung von KI-Technologien weltweit zu erleichtern.

Es wurde auch anerkannt, dass KI-Ethik in den frühen Phasen der Bildung verankert werden sollte, während Investitionen in Umschulung Vorrang haben sollten.

Die Gemeinschaft aufrütteln

Singapur hat eine gemeinnützige Stiftung ins Leben gerufen, um „die kollektive Macht“ und die Beiträge der globalen Open-Source-Community für die Entwicklung von KI-Testtools zu nutzen. Ziel ist es, die Einführung verantwortungsvoller KI zu erleichtern und Best Practices und Standards für KI zu fördern.

Unter dem Namen AI Verify Foundation wird sie die strategische Ausrichtung und Entwicklungs-Roadmap von AI Verify festlegen, das letztes Jahr als Framework und Toolkit für Governance-Tests eingeführt wurde. Das Test-Toolkit wurde als Open Source bereitgestellt.

Zu den derzeit 60 Mitgliedern der AI Verify Foundation gehören IBM, Salesforce, DBS, Singapore Airlines, Zoom, Hitachi und Standard Chartered.

Die Stiftung ist eine hundertprozentige Tochtergesellschaft der IMDA. Da KI-Testtechnologien noch im Entstehen begriffen sind, sagte die Regierungsbehörde von Singapur, dass die Erschließung der Open-Source- und Forschungsgemeinschaften dazu beitragen würde, das Marktsegment weiterzuentwickeln.

Teo sagte: „Wir glauben, dass KI der nächste große Wandel seit dem Internet und dem Mobilfunk ist. Angesichts der sehr realen Befürchtungen und Bedenken hinsichtlich ihrer Entwicklung müssen wir die KI aktiv auf vorteilhafte und von schlechten Anwendungen abwenden. Dies ist der Kern der Strategie Singapurs.“ denkt über KI nach.“

In seiner Rede auf dem Gipfel bekräftigte Singapurs stellvertretender Premierminister und Finanzminister Lawrence Wong außerdem, wie wichtig es sei, Vertrauen in KI aufzubauen, damit die Technologie breite Akzeptanz finden könne.

„Wir nutzen maschinelles Lernen bereits, um die Entscheidungsfindung zu optimieren, und generative KI wird darüber hinausgehen, um potenziell neue Inhalte zu erstellen und neue Ideen zu generieren“, sagte Wong. „Dennoch bestehen nach wie vor ernsthafte Bedenken. Bei unsachgemäßer Anwendung kann [KI] gefährliche Vorurteile bei der Entscheidungsfindung aufrechterhalten. Und mit der neuesten KI-Welle sind die Risiken sogar noch höher, da KI immer intimer und menschlicher wird.“

Diese Herausforderungen stellen Regulierungsbehörden, Unternehmen und die Gesellschaft insgesamt vor schwierige Fragen, sagte er. „Bei welcher Art von Arbeit sollte die KI unterstützen dürfen? Wie viel Kontrolle über die Entscheidungsfindung sollte eine KI haben und welche ethischen Schutzmaßnahmen sollten wir einführen, um ihre Entwicklung zu steuern?“

Wong fügte hinzu: „Keine einzelne Person, Organisation oder auch nur ein Land wird alle Antworten haben. Wir müssen alle zusammenkommen, um kritische Diskussionen zu führen und die geeigneten Leitplanken festzulegen, die für den Aufbau vertrauenswürdigerer KI-Systeme erforderlich sind.“

Bei einer Podiumsdiskussion erkannte Alexandra van Huffelen vom niederländischen Ministerium für Inneres und Königreichsbeziehungen die potenziellen Vorteile von KI, äußerte jedoch Bedenken hinsichtlich ihrer möglichen Auswirkungen, insbesondere angesichts gemischter Signale aus der Branche.

Der Minister für Digitalisierung stellte fest, dass Marktteilnehmer wie OpenAI die Vorteile ihrer Produkte anpreisen, gleichzeitig aber warnen, dass KI das Potenzial hat, die Menschheit zu zerstören.

„Das ist eine verrückte Geschichte“, witzelte van Huffelen, bevor er einen anderen Diskussionsteilnehmer von Microsoft fragte, wie er sich fühle, da sein Unternehmen ein Investor in OpenAI sei, der Idee hinter ChatGPT.

Die Mitbegründer und der CEO von OpenAI veröffentlichten letzten Monat gemeinsam eine Mitteilung auf der Website des Unternehmens, in der sie die Regulierung von KI-Systemen mit „Superintelligenz“ forderten. Sie sprachen über die Notwendigkeit einer globalen Behörde wie der Internationalen Atomenergiebehörde, die die Entwicklung der KI überwacht. Diese Behörde solle neben anderen Verantwortlichkeiten „Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen und Beschränkungen für Einsatzgrade und Sicherheitsniveaus festlegen“.

„Es wäre wichtig, dass sich eine solche Agentur auf die Reduzierung existenzieller Risiken konzentriert und nicht auf Themen, die einzelnen Ländern überlassen werden sollten, wie etwa die Festlegung, was eine KI sagen darf“, stellten sie fest. „Was sowohl die potenziellen Vor- als auch die Nachteile angeht, wird die Superintelligenz mächtiger sein als andere Technologien, mit denen die Menschheit in der Vergangenheit zu kämpfen hatte … Angesichts der Möglichkeit eines existenziellen Risikos können wir nicht einfach nur reagieren. Kernenergie ist eine weitverbreitete Technologie.“ verwendetes historisches Beispiel einer Technologie mit dieser Eigenschaft.“

Als Reaktion darauf räumte Ahmed Mazhari, Asien-Präsident von Microsoft, ein, dass van Huffelens Zurückhaltung nicht ungerechtfertigt war, und wies darauf hin, dass dieselben Befürworter, die im März eine Petition zur Aussetzung der KI-Entwicklungen unterzeichnet hatten, im darauffolgenden Monat damit begonnen hatten, in ihren eigenen KI-Chatbot zu investieren.

Mazhari verwies auf den gesellschaftlichen Schaden, der aus der mangelnden Aufsicht über Social-Media-Plattformen resultierte, und sagte, die Technologiebranche liege in der Verantwortung, eine Wiederholung dieses Versagens bei der KI zu verhindern.

Er wies darauf hin, dass die anhaltende Diskussion und das gestiegene Bewusstsein für die Notwendigkeit von KI-Regulierungen, insbesondere in den Bereichen der generativen KI, ein positives Zeichen für eine Technologie seien, die erst vor sechs Monaten auf den Markt gekommen sei.

Darüber hinaus betonte van Huffelen, dass Technologieunternehmen verantwortungsbewusst handeln müssen und dass Regeln festgelegt und durchgesetzt werden müssen, um sicherzustellen, dass Unternehmen diese Vorschriften einhalten. Sie sagte, es sei „ungetestet“, ob dieser duale Ansatz gleichzeitig erreicht werden könne.

Sie betonte auch, wie wichtig es sei, Vertrauen aufzubauen, damit die Menschen die Technologie nutzen möchten, und sicherzustellen, dass die Benutzer die Kontrolle darüber haben, was sie online tun, so wie sie es in der physischen Welt tun würden.

Mitdiskussionsteilnehmer Keith Strier, Nvidias Vizepräsident für weltweite KI-Initiativen, wies auf die Komplexität der Governance aufgrund der breiten Zugänglichkeit von KI-Tools hin. Diese allgemeine Verfügbarkeit bedeutet, dass es mehr Möglichkeiten gibt, unsichere Produkte herzustellen.

Strier schlug vor, dass Vorschriften Teil der Lösung, aber nicht die einzige Antwort sein sollten, da Industriestandards, soziale Normen und Bildung ebenso entscheidend für die sichere Einführung von KI seien.