Wer ist am stärksten haftbar, wenn Ihr KI-generierter Code fehlerhaft wird?
Das formelle GPT-4-Papier von OpenAI bricht mit der KI-Praxis, die technischen Details eines Programms offenzulegen.
Ein roter Faden der Forschung im Bereich der künstlichen Intelligenz ist die Offenlegung technischer Details der Software in Forschungsarbeiten, damit andere Fachleute die Programme verstehen und daraus lernen können.
Diese Tradition hat am Dienstag mit der Veröffentlichung des GPT-4-Programms von OpenAI eine Schwelle überschritten, der neuesten Technologie in einer Reihe von Programmen, die das Herzstück des äußerst beliebten ChatGPT-Chatbots bilden.
In dem am Dienstag zusammen mit dem Blogbeitrag von OpenAI veröffentlichten technischen GPT-4-Bericht gibt das Unternehmen an, dass es aus Wettbewerbs- und Sicherheitsgründen keine technischen Details preisgibt.
„Angesichts der Wettbewerbslandschaft und der Sicherheitsauswirkungen von Großmodellen wie GPT-4“, heißt es darin, „enthält dieser Bericht keine weiteren Details zur Architektur (einschließlich Modellgröße), Hardware, Trainingsberechnung, Datensatzkonstruktion und Trainingsmethode.“ , oder ähnlich.“
Der Begriff „Architektur“ bezieht sich auf den grundlegenden Aufbau eines KI-Programms, die Anordnung seiner künstlichen Neuronen und ist das wesentliche Element jedes KI-Programms. Die „Größe“ eines Programms gibt an, wie viele neuronale „Gewichte“ oder Parameter es nutzt, ein Schlüsselelement, das ein Programm von einem anderen unterscheidet.
Ohne solche Details ist das GPT-4-Programm ein völliges Rätsel. In diesem Sinne offenbart die Forschungsarbeit nichts von der Forschung.
Das Papier bietet nur zwei Sätze, die in sehr groben Zügen beschreiben, wie das Programm aufgebaut ist.
„GPT-4 ist ein Modell im Transformer-Stil, das vorab trainiert wurde, um das nächste Token in einem Dokument vorherzusagen. Dabei werden sowohl öffentlich verfügbare Daten (z. B. Internetdaten) als auch von Drittanbietern lizenzierte Daten verwendet. Das Modell wurde dann mithilfe von optimiert Verstärkung des Lernens durch menschliches Feedback.
Keiner der Sätze bietet etwas, was ein zufälliger Beobachter nicht bereits über die Sendung herausgefunden hätte.
Die mangelnde Offenlegung stellt einen Bruch mit den Gewohnheiten der meisten KI-Forscher dar. Andere Forschungslabore veröffentlichen häufig nicht nur detaillierte technische Informationen, sondern auch Quellcode, damit andere Forscher ihre Ergebnisse duplizieren können.
Darüber hinaus steht die mangelnde Offenlegung im Widerspruch zu den begrenzten Offenlegungsgewohnheiten von OpenAI.
GPT-4 ist, wie der Name schon sagt, die vierte Version eines sogenannten „generativen vortrainierten Transformators“, eines Programms zur Manipulation der menschlichen Sprache. Als die allererste Version des Programms im Jahr 2018 auf den Markt kam, bot OpenAI keinen Quellcode an. Das Unternehmen beschrieb jedoch ausführlich, wie es die verschiedenen Arbeitsteile von GPT-1, seine Architektur, zusammensetzte.
Diese technische Offenlegung ermöglichte es vielen Forschern, über die Funktionsweise des Programms nachzudenken, auch wenn sie dessen Konstruktion nicht nachahmen konnten.
GPT-1 wurde 2018 in einem Systemdiagramm erklärt, das es Forschern ermöglichte, die wichtigsten Eigenschaften des Programms zu verstehen. Im technischen Dokument von GPT-4 erscheint keine solche Beschreibung, noch verraten beschreibende Formulierungen die Architektur oder andere Schlüsselfunktionen.
Mit GPT-2, das am 14. Februar 2019 veröffentlicht wurde, bot OpenAI nicht nur keinen Quellcode an, sondern schränkte auch die Verbreitung des fertigen Programms ein. Das Unternehmen betonte, dass die Fähigkeiten des Programms zu extrem seien, um das Risiko einzugehen, dass die Veröffentlichung es böswilligen Parteien ermöglichen würde, das Programm für bösartige Zwecke zu nutzen.
„Aufgrund unserer Bedenken hinsichtlich böswilliger Anwendungen der Technologie veröffentlichen wir das trainierte Modell nicht“, sagte OpenAI.
Obwohl sie weder Code noch trainierte Modelle veröffentlichten, beschrieben die OpenAI-Forscher Alec Radford und ihr Team etwas weniger detailliert als in der Vorgängerversion, wie sie das erste GPT modifiziert hatten.
Als OpenAI 2020 das dritte GPT veröffentlichte, hielten Radford und sein Team erneut den Quellcode zurück und stellten überhaupt keine Downloads des Programms zur Verfügung, sondern griffen stattdessen auf einen Cloud-Dienst mit Warteliste zurück. Sie taten dies, sagten sie, sowohl um die Nutzung von GPT-3 durch böswillige Akteure einzuschränken als auch um Geld zu verdienen, indem sie eine Gebühr für den Zugang erhoben.
Trotz dieser Einschränkung stellte OpenAI eine Reihe technischer Spezifikationen bereit, die anderen einen Einblick in den großen Fortschritt von GPT-3 gegenüber den beiden Vorgängerversionen gaben.
Im Vergleich zu dieser Erfolgsbilanz markiert das GPT-4-Papier einen neuen Meilenstein in Sachen mangelnder Offenlegung. Die Entscheidung, nicht nur den Quellcode und das fertige Programm zurückzuhalten, sondern auch technische Details zurückzuhalten, die es externen Forschern ermöglichen würden, die Zusammensetzung des Programms zu erraten, ist eine neue Art von Unterlassung.
Obwohl es an technischen Details mangelt, ist das 98 Seiten lange GPT-4-Papier auf andere Weise neu. Es ist bahnbrechend, da es die enormen Ressourcen anerkennt, die für den Betrieb des Programms bereitgestellt werden.
Anstelle der üblichen Autorenzitate auf der Titelseite enthält der technische Bericht am Ende drei Seiten mit Quellenangaben, auf denen Hunderte von Mitwirkenden zitiert werden, darunter alle bei OpenAI bis hin zur Finanzabteilung:
„Wir würdigen und danken auch jedem OpenAI-Teammitglied, das oben nicht ausdrücklich erwähnt wurde, einschließlich der großartigen Leute in den Teams Assistent der Geschäftsführung, Finanzen, Markteinführung, Personalwesen, Recht, Betrieb und Rekrutierung. Von der Einstellung aller Mitarbeiter im Unternehmen bis hin zur Sicherstellung Wir verfügen über fantastische Büroräume, bis hin zum Aufbau der Verwaltungs-, Personal-, Rechts- und Finanzstrukturen, die es uns ermöglichen, unsere beste Arbeit zu leisten. Jeder bei OpenAI hat zu GPT-4 beigetragen.“
In dem Papier wird angedeutet, dass OpenAI zu einem unbestimmten Zeitpunkt weitere Offenlegungen anbieten könnte und sich möglicherweise immer noch dem wissenschaftlichen Fortschritt durch Transparenz verpflichtet fühlt:
Wir verpflichten uns zu einer unabhängigen Prüfung unserer Technologien und haben in der dieser Version beiliegenden Systemkarte einige erste Schritte und Ideen in diesem Bereich vorgestellt. Wir planen, weitere technische Details weiteren Dritten zur Verfügung zu stellen, die uns beraten können, wie wir die oben genannten Wettbewerbs- und Sicherheitsaspekte gegen den wissenschaftlichen Wert einer größeren Transparenz abwägen können.