Technologiegiganten versprechen, betrügerische KI-Inhalte im Jahr der Mega-Wahlen zu bekämpfen
Technologieunternehmen wie Google, Meta und OpenAI haben eine Vereinbarung unterzeichnet, um im Jahr 2024, einem Jahr mit mehr Wahlen als jedes andere in der Geschichte, betrügerische, von KI generierte Inhalte zu filtern.
Google, Meta, OpenAI und X (ehemals Twitter) gehören zu den 20 Technologieunternehmen, die sich verpflichtet haben, betrügerische Inhalte, die durch künstliche Intelligenz (KI) generiert werden, auszusortieren, um die weltweiten Wahlen zu schützen, die dieses Jahr voraussichtlich stattfinden werden.
Die Unternehmensgruppe unterzeichnete auf der Münchner Sicherheitskonferenz das Tech Accord to Combat Deceptive Use of AI in 2024 Elections , das einen „freiwilligen Rahmen von Grundsätzen und Maßnahmen“ umreißt, der die Prävention, Erkennung, Reaktion und Bewertung abdeckt und Identifizierung der Quelle irreführender KI-Wahlinhalte.
Dazu gehören auch Bemühungen, die Öffentlichkeit dafür zu sensibilisieren, wie sie sich vor der Manipulation durch solche Inhalte schützen kann, heißt es in einer gemeinsamen Erklärung der Unterzeichner des Technologieabkommens, zu denen auch TikTok, Amazon, IBM, Anthropic und Microsoft gehören.
Mit der Vereinbarung verpflichten sich die 20 Organisationen, acht Leitbilder einzuhalten, darunter das Ziel, die Verbreitung betrügerischer KI-Wahlinhalte zu erkennen und zu verhindern und der Öffentlichkeit Transparenz darüber zu bieten, wie mit solchen Inhalten umgegangen wird. Sie werden zusammenarbeiten, um die Tools zu entwickeln und umzusetzen, um die Verbreitung der Inhalte zu erkennen und einzudämmen sowie die Herkunft dieser Inhalte zu verfolgen.
Diese Bemühungen können die Entwicklung von Klassifikatoren oder Herkunftsmethoden und -standards wie Wasserzeichen oder signierte Metadaten sowie das Anhängen maschinenlesbarer Informationen an KI-generierte Inhalte umfassen.
Die acht Verpflichtungen gelten, sofern relevant, für die von den einzelnen Unternehmen bereitgestellten Dienstleistungen.
Die Vereinbarung umfasst Inhalte, die als „überzeugende“ KI-generierte Audio-, Video- und Bildinhalte definiert sind, die „das Erscheinungsbild, die Stimme oder die Handlungen“ politischer Kandidaten, Wahlbeamter und anderer wichtiger Interessengruppen bei einer Wahl „täuschend fälschen oder verändern“ oder die Druck ausüben betrügerische Informationen an die Öffentlichkeit darüber, wo, wann und wie gewählt werden soll.
„2024 wird mehr Wahlen mit mehr Menschen bringen als jedes Jahr in der Geschichte, wobei mehr als 40 Länder und mehr als vier Milliarden Menschen ihre Führer und Vertreter wählen“, heißt es in dem Technologieabkommen. „Gleichzeitig schafft die rasante Entwicklung der KI neue Chancen und Herausforderungen für den demokratischen Prozess. Die gesamte Gesellschaft muss sich auf die Möglichkeiten der KI stützen und gemeinsam neue Schritte unternehmen, um Wahlen und den Wahlprozess zu schützen.“ in diesem außergewöhnlichen Jahr.“
Ziel des Abkommens ist es, Erwartungen darüber festzulegen, wie die Unterzeichner mit Risiken umgehen werden, die sich aus irreführenden KI-Wahlinhalten ergeben, die über ihre öffentlichen Plattformen oder offenen Basismodelle erstellt oder auf ihren sozialen Plattformen und Veröffentlichungsplattformen verbreitet werden. Diese stehen im Einklang mit den eigenen Richtlinien und Praktiken der Unterzeichner.
Modelle oder Demos, die für Forschungszwecke oder hauptsächlich für den Unternehmensgebrauch bestimmt sind, fallen nicht unter die Vereinbarung.
Die Unterzeichner fügten hinzu, dass KI eingesetzt werden kann, um Verteidiger bei der Bekämpfung böswilliger Akteure zu unterstützen und eine schnellere Erkennung betrügerischer Kampagnen zu ermöglichen. KI-Tools können auch die Gesamtkosten der Verteidigung erheblich senken und ermöglichen es kleineren Unternehmen, robuste Schutzmaßnahmen zu implementieren.
„Wir sind bestrebt, unseren Teil als Technologieunternehmen beizutragen, erkennen jedoch an, dass der betrügerische Einsatz von KI nicht nur eine technische Herausforderung, sondern auch ein politisches, soziales und ethisches Problem darstellt, und hoffen, dass sich auch andere in der gesamten Gesellschaft zu ähnlichen Maßnahmen verpflichten“, so die Unterzeichner sagte. „Wir bekräftigen, dass der Schutz der Wahlintegrität und des öffentlichen Vertrauens eine gemeinsame Verantwortung und ein Gemeinwohl ist, das über Parteiinteressen und nationale Grenzen hinausgeht.“
Christoph Heusgen, Vorsitzender der Münchner Sicherheitskonferenz, sagte, das Abkommen sei ein „entscheidender Schritt“ zur Förderung der Wahlintegrität und der gesellschaftlichen Widerstandsfähigkeit. Es werde auch dazu beitragen, „vertrauenswürdige Technologiepraktiken“ zu schaffen, sagte er.
Laut dem Global Risks Report 2024, der letzten Monat vom Weltwirtschaftsforum (WEF) veröffentlicht wurde, werden die damit verbundenen Risiken durch KI-gestützte Fehlinformationen über den gesellschaftlichen Zusammenhalt die Landschaft in diesem Jahr dominieren. Der Bericht listet Fehlinformationen und Desinformationen als größte globale Gefahr in den nächsten zwei Jahren auf und warnt davor, dass ihre weit verbreitete Verwendung sowie die Instrumente zu ihrer Verbreitung die Legitimität neuer Regierungen untergraben könnten.