Wir sind nicht auf die Auswirkungen generativer KI auf Wahlen vorbereitet

Der Präsidentschaftsforscher von ZDNET befasst sich eingehend mit Deepfakes politischer Kampagnen im Zeitalter der generativen KI. Dies betrifft weit mehr als nur die nationalen Wettbewerbe. KI wird auch die lokale Politik verändern.

Bringt dich das alles zum Weinen? Nun ja, George Washington hat auch hier geweint.

Haben Sie gehört, dass George Washington den Unabhängigkeitskrieg nicht unterstützt hat?

Als General an der Spitze der Rebellentruppen war George Washington davon überzeugt, dass der amerikanische Unabhängigkeitskrieg ein Fehler war. Er sei „weit davon entfernt, sicher zu sein, dass wir den Erfolg verdienen“.

Im Jahr 1777 fand ein Soldat, der unter dem britischen General Oliver De Lancey diente, einen Koffer, der General Washington gehörte. Der Koffer enthielt eine Reihe von Briefen von Washingtons eigener Hand, die von seinem Wunsch nach Versöhnung mit England und sogar von „Ich liebe meinen König“ berichteten.

Der Koffer wurde in den Händen von Washingtons Kammerdiener (und versklavter Person) William Lee gefunden, als Lee von den Briten gefangen genommen wurde.

Dies war ein handfester Beweis dafür, dass nicht einmal Washington selbst den Krieg unterstützte.

Jahre später, im Jahr 1795, als Washington beim Senat die Ratifizierung des Jay-Vertrags mit Frankreich beantragte, wurden die Briefe als Beweis dafür angeführt, dass Washingtons Loyalität nicht vertrauenswürdig sei und ihm die Demokratie egal sei. Dies machte die Verabschiedung des Jay-Vertrags sehr schwierig.

Außer ... William Lee wurde nie von den Briten gefangen genommen. Tatsächlich hat William Lee während des Unabhängigkeitskrieges nie die Seite Washingtons verlassen. Bei den Briefen handelte es sich um sorgfältig gefertigte Fälschungen, das Äquivalent von Deepfakes aus dem 18. Jahrhundert.

Sie beschäftigten Washington so sehr, dass er - als eine seiner letzten Amtshandlungen - in einem Brief an US-Außenminister Timothy Pickering eine Widerlegung der Fälschungen verfasste.

Von George Washington nach Washington, D.C

Spulen wir vor ins Jahr 2018. Ich werde jetzt Themen ansprechen, die politisch brisant sind. Bitte ignorieren Sie für einen Moment die Politik und konzentrieren Sie sich auf diese als Beispiele für die Existenz von Desinformation. Das ist das Thema dieses Artikels. Desinformation schadet allen Parteien. Aber um Ihnen zu zeigen, was passiert ist, muss ich reale Beispiele nennen. Und das bedeutet, dass ich Politiker erwähnen muss.

Auf geht's…

Beispiel 1: Vom Kreml unterstützte Desinformationskampagne

Der Geheimdienstausschuss des Repräsentantenhauses, der die Präsidentschaftswahl 2016 untersuchte, veröffentlichte eine Bibliothek mit mehr als 3.500 Anzeigen mit gefälschten Behauptungen, die darauf abzielten, das amerikanische politische System zu stören.

Die Anzeigen wurden zwischen 2015 und 2017 von einer vom Kreml unterstützten Trollfarm produziert und gekauft. Zusätzlich zu den gekauften Anzeigen gab der Geheimdienstausschuss des Repräsentantenhauses an, dass es mindestens „80.000 organische“ Social-Media-Inhalte gab, die von russischen Interessen produziert wurden.

Beispiel 2: Modifiziertes Video, das betrunkenes Verhalten vortäuscht

Als nächstes werden wir im Jahr 2019 anhalten, um uns ein Video anzusehen, das zeigt, wie die damalige Sprecherin des Repräsentantenhauses, Nancy Pelosi, ihre Worte undeutlich spricht und betrunken wirkt. Dies stammt aus einem Video, in dem Pelosi eine Rede bei einer Veranstaltung des Center for American Progress (einer liberal ausgerichteten „Denkfabrik“) hielt.

Das Video, das mehr als 45.000 Mal auf Facebook geteilt wurde und mehr als 23.000 Kommentare hervorrief, war eine Fälschung. Das Originalvideo sei so bearbeitet worden, dass „ihre Stimme verstümmelt und verzerrt klang“ und sie betrunken wirkte.

Der Einsatz generativer KI als Waffe in politischen Kampagnen

Fotos, Videos, Audioaufnahmen und sogar handgeschriebene Briefe wurden im Laufe der Jahre im Dienste politischer schmutziger Tricks gefälscht. Obwohl die Qualität je nach den Fähigkeiten der Fälscher variierte, ist die Praxis nichts Neues.

Denken Sie daran, wenn wir mit der Diskussion über Deepfakes im Zeitalter der generativen KI fortfahren. Peggy Noonan, die in einem früheren Leben die Hauptredenschreiberin von Präsident Ronald Reagan war, schrieb dies in ihrer Kolumne im Wall Street Journal:

Bei fast jeder Versammlung kam künstliche Intelligenz zum Thema. Ich würde sagen, die Menschen nähern sich der KI mit frei schwebender Angst, gesät von der pragmatischen Verpflichtung, das Beste daraus zu machen und zu sehen, was sie tun kann, um das Leben besser zu machen. Es kann genauso wenig gestoppt werden, wie man die Flut stoppen kann. Es besteht das Gefühl: „Es könnte die tiefsten Codes des Krebses brechen“, kombiniert mit: „Es könnte sich gegen uns wenden und uns mit Atomwaffen belegen.“

Das bringt es auf den Punkt. Da Noonan in anspruchsvollen politischen Kreisen unterwegs ist, ist diese Aussage ein Beweis dafür, dass selbst die politische Oberschicht generative KI mit Besorgnis betrachtet.

Das hindert sie natürlich nicht daran, die Technologie zu ihrem Vorteil zu nutzen.

Letzten Monat nutzten Anhänger von Ron DeSantis, dem Gouverneur von Florida und dem republikanischen Präsidentschaftskandidaten, der laut Umfragedaten derzeit auf Platz 2 steht, eine KI-generierte Stimme, um Präsident Trump in einer Anzeige nachzuahmen, die ihn als den ehemaligen republikanischen Präsidenten erscheinen ließ griff die Republikaner an.

Um es klarzustellen: Die von der KI gesprochenen Worte basierten auf einem echten Beitrag von Trump im sozialen Netzwerk Truth Social. Die Anzeige wurde vom Never Back Down PAC finanziert, das technisch gesehen nicht mit Gouverneur DeSantis verbunden ist. Das PAC unterstützt DeSantis jedoch stark. Vermutlich war das PAC der Meinung, dass es effektiver oder realistischer wäre, die Stimme des ehemaligen Präsidenten mit seinen eigenen Worten zu verwenden, als wenn ein Ansager sie im Off sprechen würde.

In einer anderen Anzeige, die DeSantis zugeschrieben wird, ist Präsident Trump zu sehen, wie er Dr. Anthony Fauci umarmt. Dies war ein KI-generiertes Bild. Fauci ist ehemaliges Mitglied von Trumps Coronavirus Task Force, ehemaliger medizinischer Chefberater des Präsidenten und - fast 40 Jahre lang - Direktor des National Institute of Allergy and Infectious Diseases. Wie die meisten wissen, wurde Fauci in den frühen Tagen der Pandemie zu einer spaltenden Figur. Die DeSantis-Kampagne versuchte offenbar, Trump aus politischen Gründen mit Fauci in Verbindung zu bringen.

Der Zweck dieses Artikels besteht nicht darin, den Inhalt politischer Anzeigen zu diskutieren. Stattdessen geht es darum, sich auf den Einsatz von KI und dessen Bedeutung für die Zukunft zu konzentrieren. Die Bilder von Herrn Trump, der Dr. Fauci umarmte, waren bemerkenswert, weil sie von KI generiert wurden.

Im März beschrieb die New York Times, wie die Demokratische Partei den Einsatz von KI zum Verfassen von Spendenbotschaften testete, mit „Aufrufen, die oft besser abschneiden als solche, die vollständig von Menschen verfasst wurden“.

Die Times berichtete auch über gefälschte Bilder, die in sozialen Medien verbreitet wurden und die die Verhaftung von Präsident Trump in New York City zeigten.

Während sich KI bei nationalen Wahlen definitiv als Kraftverstärker erweisen könnte, erwarte ich, dass sie in großem Umfang in Wahlkämpfen eingesetzt wird, bei denen geringere Budgets einen kreativeren Einsatz von Ressourcen erfordern. Eine dieser Kampagnen betraf, wie Insider berichtete, den Bürgermeister von Toronto. Der Insider teilte ein Bild aus einem Wahlkampfflyer, der im Auftrag des Kandidaten Anthony Furey erstellt wurde und eine Frau mit drei Armen zeigte.

Als ich mir das von The Insider zitierte Rundschreiben online ansah, war darin nicht das Bild zu sehen, das im Artikel gezeigt wurde. Ich vermute, dass dieser Fehler von Furey oder seinem Wahlkampfteam korrigiert wurde. Unabhängig davon verlor Furey und wurde Vierter, wobei der Sieger nur knapp mehr als 10 % der Stimmen erhielt.

Auch wenn KI dabei helfen kann, gefälschte Bilder zu erstellen oder Kosten zu senken, garantiert sie keinen Erfolg. Nichts geht.

Was soll das alles heißen?

Nur weil eine Kampagne generative KI nutzt, heißt das nicht, dass sie diese zu einer Waffe macht. Es gibt vier Hauptkategorien für die Verwendung generativer KI-Tools in Kampagnen, von denen nur eine ausschließlich negativer Natur ist.

Deepfakes und Fälschungen: Dies ist die potenziell destruktivste. Jedes Mal, wenn eine Kampagne Informationen fälscht, ist sie destruktiv und fällt in die Kategorie der schmutzigen Tricks. Was dies jetzt noch besorgniserregender macht, ist, dass die KIs die Generierung gefälschter Bilder für viel mehr Menschen ermöglichen, sodass wir dies wahrscheinlich häufiger sehen werden - und nicht nur bei Kampagnen.

Unterstützung beim Verfassen von Anzeigen und Briefen: Erwarten Sie, dass KI den Kampagnenmitarbeitern beim Verfassen von Anzeigen und Briefen hilft. Auch wenn der Inhalt Unwahrheiten oder Falschdarstellungen enthalten kann, ist das nichts Neues. Kampagnenhelfer haben schon lange vor dem Aufkommen der generativen KI die Wahrheit in schriftlichen Dokumenten verfälscht.

Erhöhung der Geschwindigkeit und Individualisierung von Inhalten für eine breite Öffentlichkeitsarbeit: Die effektivsten Kampagnen verfügen häufig über umfangreiche Datenbanken zu potenziellen Wählern, insbesondere zu potenziellen Spendern. Sie kaufen Listen, sammeln Daten aus früheren Kampagnen und anderen Kandidaten und versuchen, Profile zu erstellen, die dabei helfen, Interessenten gezielt anzusprechen. Erwarten Sie, dass generative KI eingesetzt wird, um die Outreach-Bemühungen individuell auf jeden potenziellen Kunden abzustimmen, und zwar in großen Mengen.

Durchführen von Trend- und Stimmungsanalysen auf der Suche nach Erkenntnissen: In einem früheren Artikel habe ich gezeigt, wie leistungsfähig KI beim Data Mining für Erkenntnisse sein kann. Bei Kampagnen kam häufig Data-Mining-Software auf Unternehmensebene zum Einsatz, Sie können jedoch davon ausgehen, dass Tools wie ChatGPT Plus mit Code Interpreter durch ihre Leistungsfähigkeit, Benutzerfreundlichkeit und den vergleichsweise niedrigen Preis diese Funktionen auf allen Kampagnenebenen verfügbar machen.

Lawrence Pingree, Gartners Vizepräsident für neue Technologien und Trends - Sicherheit, fügte einige Einblicke zu diesem Thema hinzu. Er sagte gegenüber ZDNET:

Ich denke, die größte neue Gefahr besteht darin, dass große Sprachmodelle der generativen KI jetzt mit Automatisierung instrumentiert werden können. Diese Automatisierung (Beispiele - AutoGPT, BabyAGI) kann für zielgerichtete Fehlinformationskampagnen genutzt werden.

Dies erleichtert sowohl politischen Parteien als auch Nationalstaaten die Durchführung von Einflussnahmen erheblich.

LLMs können auch mit Deepfake-Technologien kombiniert werden, um Kampagnen durchzuführen, die potenziell sogar Audio und Video umfassen können. In den sozialen Medien können solche Tools ein sehr schwieriges digitales Umfeld für Wähler schaffen, die die Wahrheit wissen wollen.

Wenn man generative KI in Kampagnen betrachtet, werden die tatsächlichen Auswirkungen außerhalb von Präsidentschaftskampagnen liegen. Schließlich geht es bei Präsidentschaftswahlkämpfen um viel Geld.

Nach Angaben der Bundeswahlkommission „haben Präsidentschaftskandidaten in den 24 Monaten des Wahlzyklus 2019-2020 4,1 Milliarden US-Dollar gesammelt und ausgegeben.“ Laut Open Secrets, das die Wahlausgaben erfasst, gab der durchschnittliche siegreiche US-Senatskandidat 15,7 Millionen US-Dollar aus, während der durchschnittliche Kandidat des Repräsentantenhauses bei den Wahlen 2018 2 Millionen US-Dollar ausgab.

Einige lokale Kampagnen verfügen über vergleichsweise große Kampagnenbudgets. Mit Blick auf die Wahlen zum Stadtrat von Los Angeles und zum Los Angeles Unified School District im Jahr 2024 hat Adrin Nazarian, Kandidat für den Stadtrat des Distrikts 2, bereits 432.000 US-Dollar gesammelt, während Janie Dam, Kandidatin des Distrikts 3 von LAUSD, bereits 38.000 US-Dollar gesammelt hat.

Bedenken Sie nun, dass LA District 2 im Jahr 2020 eine Bevölkerung von 793.342 Menschen hatte. Insgesamt hat LA County selbst eine Bevölkerung von 9,7 Millionen Menschen. Im Gegensatz dazu hat die kleine historische Landstadt, in der ich hier in Oregon lebe, weniger als 10.000 Einwohner.

Kleinere Kampagnen, insbesondere Kampagnen in Städten von der Größe meiner, haben viel kleinere Kriegskassen als die nationalen Kampagnen. Mit generativen KI-Tools können selbst kleinste Kampagnen Analysetools erhalten, die bisher nur für Kampagnen mit sechs- und siebenstelligen Budgets verfügbar waren.

Während wir also durchaus damit rechnen können, dass in Präsidentschaftswahlkämpfen KI eingesetzt wird, um gegnerische Kandidaten in kompromittierende Positionen zu bringen (oder sie zumindest auf eine Weise darzustellen, die Red-Fleisch-Anhänger gerne über soziale Medien teilen würden), erwarten wir, dass die generative Wirkung den größten Einfluss haben wird KI ist weit unten auf der Karte.

Als zumindest eine Art Abwehr gegen den Ansturm KI-generierter Anzeigen verlangt Google nun, dass KI-generierte Anzeigen einen Haftungsausschluss enthalten, der besagt, dass die Anzeigen auf synthetischem Wege erstellt wurden. Das bedeutet natürlich nicht, dass betrügerische Promoter diesen Anweisungen folgen werden. Wir werden höchstwahrscheinlich immer noch Dump-and-Run-Strategien von politischen Aktivisten und feindlichen Agenten sehen, die Tausende von KI-generierten Anzeigen ohne Haftungsausschluss schalten und dann auf neue Konten übergehen, wodurch die Anforderungen von Google durch den Einsatz von Geschwindigkeit und Agilität effektiv umgangen werden. Willkommen zu einem weiteren Wettrüsten.

Bleiben Sie dran, denn schmutzige Tricks im Wahlkampf gibt es zwar schon immer, aber jetzt, da jeder Zugang zu den Werkzeugen hat, die es absurd einfach machen, sie durchzuführen, werden wir bestimmt noch mehr davon sehen

Bringt dich das alles zum Weinen? Denken Sie daran: George Washington hat hier geweint.