OpenAI führt kostenlose KI-Schulungen für Pädagogen ein - wie Sie darauf zugreifen können

Marcus nimmt uns mit auf einen Rundgang durch die 12 größten aktuellen Gefahren der KI, um zu zeigen, warum eine Agentur gut informierter Regulierungsbehörden eine gute Sache wäre.

Der Gelehrte Gary Marcus ist zu einer Art Poet Laureate für die Mängel der künstlichen Intelligenz (KI) geworden und schildert in zahlreichen Büchern und Artikeln, dass die Technologie oft zu kurz kommt und weniger beeindruckend ist, als der Durchschnittsmensch glaubt.

Als Marcus vor fünf Jahren zusammen mit Co-Autor Ernest Davis in seinem Buch Rebooting AI über die technischen Mängel der KI schrieb, war seine Kritik noch eher theoretisch und wies auf mögliche Gefahren der Technologie hin.

Seitdem hat ChatGPT die Welt im Sturm erobert. Diese Situation gibt Marcus eine reale Leinwand, auf der er über die tatsächliche, gegenwärtige Gefahr der KI nachdenken kann.

Sein neuestes Werk, Taming Silicon Valley, das letzten Monat bei MIT Press veröffentlicht wurde, katalogisiert diese realen Auswirkungen. Das Buch sollte eine Pflichtlektüre für jeden sein, dessen Leben auch nur in geringem Maße von KI berührt wird, was heute so ziemlich jeder ist.

Wie immer schreibt Marcus mit einer kraftvollen Stimme, die sich in einem lockeren, gebieterischen Stil durch das Material bewegt, unterstützt von einer soliden Beherrschung von Wissenschaft und Technologie. Der Lohn ist oft unverblümt, und Marcus prognostiziert bei jedem anekdotischen Beispiel, das er anführt, Schlimmeres.

Während er knietief im Twitterverse (Xverse) steckt, macht Marcus das Beste aus anderen Stimmen und zitiert Gelehrte und besorgte Personen, die selbst ausführlich über die Gefahren geschrieben haben.

Auf den ersten 50 Seiten des Buches geht es um Missgeschicke mit KI, insbesondere generativer KI, und die Risiken und Schäden, die sie mit sich bringen können - und in einigen Fällen bereits mit sich bringen. Dies ist für jeden, der Marcus' Substack oder seinen X-Feed verfolgt, vertrautes Gebiet, aber es ist nützlich, den Kontext an einer Stelle zu haben.

Die Gefahr hat nichts mit superintelligenter KI oder „künstlicher allgemeiner Intelligenz“ zu tun. Marcus ist seit langem ein Skeptiker gegenüber der Erlangung übermenschlicher Fähigkeiten durch maschinelles Lernen und Deep Learning. Er macht sich über die Vorstellung lustig, dass eine solche Intelligenz die Menschheit auf einen Schlag vernichten würde.

„Auf diesem Gebiet wird viel von p(doom) gesprochen, einer etwas ironischen mathematischen Notation für die Wahrscheinlichkeit, dass Maschinen alle Menschen vernichten“, schreibt Marcus in Taming Silicon Valley. „Ich persönlich bezweifle, dass wir erleben werden, dass KI buchstäblich zum Aussterben führt.“

Stattdessen beschäftigt sich Marcus mit den alltäglichen Gefahren dessen, was nicht ganz so intelligente Maschinen über ChatGPT und andere ähnliche Programme bereits für die Gesellschaft anrichten.

Marcus nimmt uns mit auf einen Rundgang durch die 12 größten aktuellen Gefahren der KI. Zu diesen Gefahren gehören große Sprachmodelle (LLMs), die als Maschinen zur Massenproduktion von Informationen fungieren, wie etwa das Dilemma „betrügerische KI-generierte Buchumschreibungen, die Amazon überschwemmen“, so ein Wired-Magazin Artikel, den er zitiert.

Schwerwiegender sind Fake-Stimmen, die vorgeben, entführte Personen zu sein, was bereits mehrfach vorgekommen ist. „Wir können damit rechnen, dass es noch viel mehr passieren wird“, prognostiziert er die erpressenden Betrügereien.

Marcus verbringt viele Seiten damit, den Diebstahl geistigen Eigentums in Form von urheberrechtlich geschützten Werken zu diskutieren, die OpenAI und andere für die Ausbildung von LLMs ohne Einholung der Zustimmung angeeignet haben. Wie so oft kann Marcus der Sache ein größeres Gewicht beimessen, als man zunächst denkt.

„Das Ganze wurde als „Großer Datenraub“ bezeichnet - ein Landraub nach geistigem Eigentum, der (sofern er nicht durch staatliche Eingriffe oder Maßnahmen der Bürger gestoppt wird) zu einer riesigen Vermögensübertragung - von fast allen von uns - zu einem winzigen Unternehmen führen wird Anzahl der Unternehmen", schreibt er.

Das mittlere Drittel des Buches geht über die Erörterung von Schäden hinaus und kritisiert die räuberischen Praktiken des Silicon Valley und wie riesige Technologiefirmen die Öffentlichkeit und den Gesetzgeber täuschen, indem sie ihre Erfindungen mit Mythologien umweben, um sie gleichzeitig wichtig und völlig harmlos erscheinen zu lassen.

Die gebrochenen Versprechen von OpenAI werden von Marcus zu Recht gewürdigt. Dazu gehört, dass das Unternehmen nicht mehr gemeinnützig und nicht mehr in irgendeiner sinnvollen Weise „offen“ ist, sondern seinen gesamten Code vor öffentlicher Kontrolle verbirgt.

Aber das Problem ist mehr als ein einzelner Bösewicht: Im Silicon Valley wimmelt es von Irreführung und Unaufrichtigkeit.

Neben mehreren rhetorischen Tricks hebt Marcus Unternehmen wie Microsoft, OpenAI und Google von Alphabet hervor, die behaupten, sie seien zu sehr damit beschäftigt, über Weltuntergangsszenarien nachzudenken, als dass sie sich mit den Arten von gegenwärtigen Gefahren beschäftigen könnten, die er beschreibt.

„Big Tech möchte uns von all dem ablenken, indem sie - ohne wirkliche Rechenschaftspflicht - sagen, dass sie daran arbeiten, die KI der Zukunft sicher zu halten (Hinweis: Sie haben auch keine wirkliche Lösung dafür), obwohl sie es tun „Wir tun viel zu wenig gegen das gegenwärtige Risiko“, schreibt er.

„Zu zynisch? Dutzende Technologieführer haben im Mai 2023 einen Brief unterzeichnet, in dem sie davor warnen, dass KI vom Aussterben bedroht sein könnte, doch keiner dieser Führer scheint auch nur ein bisschen langsamer geworden zu sein.“

Das Ergebnis dieses Ansatzes der großen Technologieunternehmen war die Kooptierung der Regierung, die von der Politik als „Regulatory Capture“ bezeichnet wird.

„Eine winzige Anzahl von Menschen und Unternehmen haben einen enormen, weitgehend unsichtbaren Einfluss“, schreibt Marcus. „Es ist kein Zufall, dass wir trotz all der Diskussionen, die wir über die Steuerung der KI in den Vereinigten Staaten gesehen haben, größtenteils freiwillige Richtlinien haben und fast nichts wirklich Durchgreifendes.“

Was kann angesichts der nachweisbaren Gefahren und eigennützigen Manöver der Big Tech getan werden?

Im letzten Drittel denkt Marcus darüber nach, wie man mit den gegenwärtigen Gefahren und der Tech-Kultur der Falschdarstellung und des Egoismus umgehen kann. Er ist ein Außenseiter der politischen Welt, obwohl er als Experte vor dem US-Kongress ausgesagt hat.

Daher liefert er keine Blaupause dafür, was passieren sollte, macht aber einen intelligenten Job, indem er Vorschläge unterbreitet, die - größtenteils - offensichtlich sinnvoll sind.

Beispielsweise sollte das Urheberrecht an das Zeitalter der LLMs angepasst werden.

„Es sollte jetzt darauf ankommen, diese Gesetze zu aktualisieren“, schreibt er, „um zu verhindern, dass Menschen auf eine neue Art und Weise betrogen werden, nämlich durch die chronischen (Beinahe-)Aufstoßer, die als große Sprachmodelle bekannt sind. Wir müssen unsere Gesetze aktualisieren.“ "

Es bedarf auch neuer Gesetze zum Schutz der Privatsphäre angesichts des „Überwachungskapitalismus“, der mithilfe von Sensoren alle Daten absaugt.

„Zum jetzigen Zeitpunkt gibt es kein Bundesgesetz, das garantiert, dass das Echo-Gerät von Amazon nicht in Ihrem Schlafzimmer herumschnüffelt oder dass Ihr Autohersteller Ihre Standortdaten nicht an jeden verkauft, der danach fragt“, stellt Marcus fest.

Die größte Lücke in der Regulierungswelt ist Abschnitt 230 des vom US-Kongress verabschiedeten Communications Decency Act von 1996. Abschnitt 230 befreit Online-Dienste, einschließlich Facebook und X von Meta, von jeglicher Verantwortung für Inhalte, einschließlich brutaler, herabwürdigender und gewalttätiger Inhalte. Es gibt den Benutzern dieser Dienste auch die Freiheit, ihre Mitbenutzer zu schikanieren und sich dabei hinter der Ausrede zu verstecken, dass es nur die Meinung einer Person sei.

„Zeitungen können wegen Lügen verklagt werden; warum sollten soziale Medien davon ausgenommen sein?“ Marcus bemerkt zu Recht. „Abschnitt 230 muss aufgehoben (oder neu geschrieben) werden und die Verantwortung für alles übertragen, was weit verbreitet ist.“ Amen dazu.

Marcus untersucht auch umfassende Präventivmaßnahmen als erste Prinzipien, einschließlich Transparenz, wie z. B. nicht nur die Forderung nach Open-Source-Code, sondern in vielen Fällen auch die Verpflichtung von Unternehmen, offenzulegen, wie LLMs und dergleichen verwendet werden.

„Wurden beispielsweise große Sprachmodelle verwendet, um Berufsentscheidungen zu treffen, und zwar auf eine voreingenommene Art und Weise? Wir wissen es einfach nicht“, stellt Marcus fest, weil es an Transparenz, Nachvollziehbarkeit und Verantwortlichkeit mangelt.

Unter all den möglichen Wegen, die Marcus für den Umgang mit Risiken untersucht, plädiert sein Buch am stärksten dafür, dass es eine Regulierungsbehörde für KI - sowohl im Inland als auch auf internationaler Ebene - gibt, die die Komplexität der Aufgabe bewältigen kann.

Gesetze zu erlassen sei letztendlich ein zu langsamer Prozess, um bestehende Schäden zu beheben, schreibt Marcus. „Rechtsstreitigkeiten können ein Jahrzehnt oder länger dauern“, stellte er in einer Aussage vor dem US-Senat im Jahr 2023 fest. Eine Behörde könne auch „flinker“ sein als der Gesetzgeber, stellt er fest.

Obwohl wenig Interesse an einer KI-Agentur bestehe, schreibt er, „ist die Alternative schlimmer: Ohne eine neue Agentur für KI (oder vielleicht allgemeiner für digitale Technologie im Allgemeinen) werden die Vereinigten Staaten für immer aufholen und versuchen, zurechtzukommen.“ KI und die digitale Welt mit einer Infrastruktur, die lange vor der modernen Welt existiert.“

Bei seiner Argumentation für eine KI-Agentur steht Marcus vor zwei Herausforderungen. Einer weist einen erheblichen Schaden auf. Es ist eine Sache, Risiken aufzuzeigen, wie Marcus es auf den ersten 50 Seiten tut; Alle diese Risiken müssen jedoch zu einem ausreichenden Schaden führen, um sowohl die öffentliche Meinung als auch die Dringlichkeit der Gesetzgeber zu stärken.

Die moderne Geschichte der Regulierung zeigt, dass Regeln und Behörden erst geschaffen wurden, nachdem großer Schaden nachgewiesen wurde. Auf den Börsencrash von 1929, der ganze Vermögen vernichtete und die Weltwirtschaft ruinierte, folgte der Securities Act von 1933, der strenge Anforderungen an die Maßnahmen festlegte, die börsennotierte Unternehmen tun dürfen und was nicht, um das Anlegerpublikum zu schützen. Es war ein Moment einer so beispiellosen Katastrophe, dass er die Regulierungsbemühungen in Schwung brachte.

Die Internationale Atomenergiebehörde wurde gegründet, um die Kernspaltung erst nach der Atombombe zu regulieren, bei der in Hiroshima und Nagasaki, Japan, 200.000 Menschen ums Leben kamen. In kleinerem Maßstab entstand zu Beginn des 20. Jahrhunderts die US-amerikanische Food and Drug Administration, nachdem Journalisten und fortschrittliche Aktivisten die massiven Schäden durch verdorbene Substanzen beleuchtet hatten.

Mit anderen Worten: Regierungen haben selten Maßnahmen ergriffen, um die Regulierung voranzutreiben, bevor ein erheblicher Schaden nachgewiesen wurde.

Sind die ersten 50 Seiten von Marcus überzeugend? Es ist nicht klar. Wenn man bedenkt, wie viele Personen ChatGPT und dergleichen nutzen, muss jede Vorstellung von Schaden mit der Massenattraktivität der Tools konkurrieren. Jeder von Marcus identifizierte Schaden könnte von begeisterten Nutzern von ChatGPT, Perplexity oder Google Gemini als bloßer Preis für die Anschaffung eines neuen Tools abgetan werden.

Ich schickte Marcus eine E-Mail mit der Frage: „Werden auf den ersten 50 Seiten des Buches genügend Schäden nachgewiesen, um die auf den letzten 60 Seiten des Buches vorgeschlagenen Maßnahmen zu rechtfertigen?“

Als Antwort bemerkte Marcus: „Jemand hat tatsächlich Selbstmord begangen, was offenbar mit LLM zu tun hat“, und bezog sich dabei auf einen Vorfall im April 2023, bei dem ein Mann in den Dreißigern Selbstmord beging, nachdem er sechs Wochen lang mit einem Chatbot interagiert hatte.

Marcus bemerkte, dass wir über einen tatsächlichen Vorfall hinaus „bereits mit vielen negativen Folgen der generativen KI konfrontiert sind, die von Fehlinformationen über verdeckten Rassismus bis hin zu nicht einvernehmlichen Deepfake-Pornos und Umweltschäden reichen; diese nehmen alle schnell zu.“

„Wir sind bereits mit vielen negativen Folgen der generativen KI konfrontiert“, argumentiert Marcus.

Marcus‘ Antwort bekräftigt die Frage, wie viel Schaden zu viel ist, bevor die Gesellschaft „genug“ sagt und Kontrollen einführt.

Tatsächlich könnte der beste Grund für eine KI-Agentur sein, dass es unwahrscheinlich ist, dass es eine gesellschaftliche Einigung über Schäden gibt. Für einige, wie zum Beispiel Marcus, ist jeder Schaden zu groß, während andere in erster Linie die beginnende Technologie fördern wollen, ohne zu viele Einschränkungen aufzuerlegen.

Eine KI-Agentur könnte diese tiefe Kluft überwinden, indem sie gemeldete Schäden streng protokolliert und weiterverfolgt sowie theoretische Schäden untersucht, um über Vermutungen hinaus zu einem umfassenden Verständnis der Gefahren für die Gesellschaft zu gelangen.

Die zweite große Herausforderung bei Marcus‘ Forderung nach einer KI-Agentur besteht darin, zu definieren, was sie überwachen soll. Die meisten Agenturen haben ein Mandat, das zumindest grobe Umrisse dessen vorgibt, was in ihren Zuständigkeitsbereich fällt.

Die US-amerikanische Börsenaufsichtsbehörde (Securities and Exchange Commission) regelt beispielsweise den Handel mit „Wertpapieren“, zu denen Aktien wie Stammaktien eines börsennotierten Unternehmens oder Schuldtitel wie Anleihen gehören können. Die SEC regelt keine anderen handelbaren Instrumente wie Derivatekontrakte, die einer anderen Behörde, der Commodities Futures Trading Commission, überlassen werden.

Das Problem mit dem Begriff „künstliche Intelligenz“ ist, dass er nie ein echter Begriff war. Marcus und andere Gelehrte verwenden den Begriff als Abkürzung. Aber in Wirklichkeit hat KI keine genaue Bedeutung. KI ist eine Wundertüte, ein Allheilmittel für jede Art von Informatikarbeit, die man als KI bezeichnen möchte.

Der verstorbene KI-Forscher Marvin Minsky vom MIT prägte den Begriff „Kofferwörter“, um Ausdrücke zu bezeichnen, die alles darstellen können, was jemand darin enthalten möchte. KI ist ein Kofferwort. Es kann LLMs umfassen, aber mit der zunehmenden Vermarktung jeglicher Software als KI könnten alle Arten von Code als „KI“ bezeichnet werden, unabhängig davon, ob sie etwas mit LLMs gemeinsam haben oder nicht.

Diese Situation stellt die Regulierungsbehörden vor ein Problem: Wo soll die Grenze für ihre Regulierungsbehörde gezogen werden?

Sollten Regulierungsbehörden nur Dinge regulieren, die eine bestimmte technologische Komponente nutzen, die mit maschinell lernenden Formen der KI verknüpft ist, wie zum Beispiel stochastischer Gradientenabstieg, der zum Trainieren der meisten LLMs verwendet wird?

Oder sollten sie alle Dinge regulieren, die eine bestimmte beobachtete Wirkung haben, wie etwa die Aneignung von urheberrechtlich geschütztem Material oder die Produktion von Ausgaben in natürlicher Sprache? Oder sollten sie ihre Herrschaft auf alles und jedes ausweiten, was behauptet ist, KI zu sein?

Ich fragte Marcus in einer E-Mail: „Woher wissen die Aufsichtsbehörden, was in ihrem Zuständigkeitsbereich liegt?“

Marcus ist der Ansicht, dass Experten die Definitionsfragen klären werden: „Natürlich brauchen wir Experten, genauso wie wir es z. B. für die FDA oder die Regulierung von Flugzeugen tun.“

Marcus fuhr fort: „Irgendwie schaffen wir es, diese Definitionsfragen für ‚Lebensmittel‘, ‚Medikament‘ usw. relativ gut zu bewältigen.“ Stimmt, außer dass es sich bei diesen Dingen um reale Dinge handelt, für die letztlich Definitionen gefunden werden können; KI ist es nicht.

Marcus forderte mich auf, die Angelegenheit nicht zu „überdenken“: „Jede Verordnung wird einen für die Verordnung relevanten Geltungsbereich haben, z. B. der Gesetzentwurf, den [Gouverneur von Kalifornien Gavin] Newsom gerade zu Schulung und Transparenz unterzeichnet hat, dreht sich ausschließlich um trainierte Modelle“, bemerkte er Marcus. „Eine Regelung, die sich mit Diskriminierung am Arbeitsplatz befasst, sollte sich auf jeden Algorithmus beziehen, ob trainiert oder fest codiert, der zur Entscheidungsfindung im Beschäftigungsbereich usw. verwendet wird.“

Dieser Ansatz gilt für einzelne Maßnahmen, löst aber nicht die Frage nach dem Auftrag einer KI-Agentur. Jede neu gegründete Behörde muss ein Mandat haben, genau wie die FDA. Das wird sich als knifflig erweisen, solange der Begriff „KI“ unklar und voller Hype ist.

Diese Situation sollte die Gesellschaft jedoch nicht von dem Projekt einer KI-Agentur abhalten. Marcus‘ Hauptargument ist immer noch das stärkste: Die Gesetzgebung kann einfach nicht mit der Verbreitung von KI Schritt halten, egal wie man die Technologie definiert. Eine Aufsichtsbehörde, die mit Experten auf diesem Gebiet besetzt und mit Regulierungsbefugnissen ausgestattet ist, muss täglich wachsam sein.

Angesichts des bevorstehenden Machtwechsels in Washington, D.C., da Donald J. Trump im Januar US-Präsident wird, habe ich Marcus gefragt, wie er die Chancen einschätzt, dass eine solche Agentur Gestalt annimmt.

Er ist nicht optimistisch:

America absolutely needs an AI agency - both to encourage and leverage innovation, but also to mitigate the risks of AI, such as misinformation, discrimination, cybercrime, damage to environment, and the widespread theft of intellectual property. I fear that the Trump administration will ignore many of these risks, letting them escalate, and leaving society to bear them. I very much hope that I am wrong.