Warum Open Source unerlässlich ist, um KI-Ängste zu zerstreuen, so der Gründer von Stability.ai

Treffen Sie Herrn Anti-OpenAI. „Es gibt keine Möglichkeit, Black-Box-Modelle für die wertvollsten Daten der Welt zu verwenden“, betont Stability.ai-Gründer Emad Mostaque.

Etwa eine Stunde lang an den Knöpfen auf der Website von Stability.ai herumzudrehen, kann ein süchtig machender Zeitvertreib sein. Mit der DreamStudio-Software des vier Jahre alten britischen Startups kann man raffinierte Illustrationen erstellen, indem man einfach einen Satz eingibt wie: „Die äußerst unterschiedlichen ZDNET-Autoren, gesehen durch die Fenster ihres Sternenkreuzers auf dem Weg nach Ceti Alpha V.“ ."

Wenn man mit der Sprache spielt - Prompt Engineering -, kann man verschiedene Szenarien hinzufügen, wie zum Beispiel „Die Autoren von ZDNET sind eine intergalaktische Truppe halb Mensch, halb Panda-Krieger-Superhelden, die ein riesiges Z auf der Vorderseite ihrer Kostüme tragen.“

Oder man kann ein vorhandenes Foto verändern, wie zum Beispiel das Porträtfoto des Gründers und CEO von Stability.ai, Emad Mostaque, bis sich seine Gesichtszüge in Ton oder Glasscherben verwandeln, ein Vorgang, der Photoshop-Filtern auf Steroiden ähnelt.

Die DreamStudio-Software, die vor einem Jahr auf den Markt kam, ist eines der jüngsten Programme für „generative“ künstliche Intelligenz, ähnlich wie ChatGPT von OpenAI.

Aber Mostaque etabliert sich als Anti-OpenAI. Seiner Ansicht nach sind Programme wie ChatGPT und DreamStudio so wichtig für die Zukunft der Menschheit, dass die Welt - und insbesondere die Geschäftswelt - verlangen wird, zu wissen, wie die Programme funktionieren, wenn wir den Programmen unsere sensiblen Daten anvertrauen wollen .

„Offene Modelle werden für private Daten unerlässlich sein“, sagte Mostaque letzten Monat während eines kleinen Treffens von Presse und Führungskräften über Zoom. „Man muss alles wissen, was drin ist; diese Modelle sind so leistungsstark.“

Das sei wichtig, behauptet er, denn „viele Menschen erkennen, dass die meisten wertvollen Daten auf der Welt private Daten sind, regulierte Daten“, sagte Mostaque. „Es gibt keine Möglichkeit, Black-Box-Modelle für Ihre Gesundheits-Chatbots, Ihre Ausbildung oder Finanzdienstleistungen zu verwenden, wohingegen ein offenes Modell mit einer Open-Source-Basis, aber mit lizenzierten Variantendaten und dann denen des Unternehmens verwendet werden kann.“ „Private Daten sind wirklich wichtig.“

Der Geschäftsplan von Mostaque lässt sich wie folgt zusammenfassen: „Ich kann der Anführer von Open sein, so wie es alle anderen auch bei Closed tun.“

Bild erstellt im DreamStudio von Stability.ai mit der Eingabeaufforderung „Die äußerst unterschiedlichen ZDNET-Autoren, gesehen durch die Fenster ihres Sternenkreuzers auf dem Weg nach Ceti Alpha V.“

Mit „geschlossen“ bezog sich Mostaque auf die Entscheidung von OpenAI im März, keine technischen Details zu seinem neuesten generativen KI-Programm, dem großen Sprachmodell namens GPT-4, preiszugeben. Einige KI-Forscher haben gewarnt, dass dieser Schritt eine abschreckende Wirkung auf die Forschung haben könnte und dass die mangelnde Offenlegung enorme moralische Auswirkungen habe.

Stability.ai ist eine von mehreren kommerziellen und akademischen Parteien, die auf die mangelnde Offenlegung von OpenAI reagiert haben, indem sie Alternativen geschaffen haben. Manche widmen sich der Offenheit per se. Andere glauben, dass Open-Source-Software zu mehr Effizienz führen wird, um das enorme Rechenbudget zu bändigen, das große Sprachmodelle mit sich bringen.

Mostaque, ein ehemaliger Hedgefonds-Manager, sieht eine große Geschäftsmöglichkeit, „eine sehr große Arbitrage-Chance“, wie er es ausdrückt, darin, versicherungsmathematisch „das maximale Bedauern“ von Unternehmen zu minimieren.

Die Open-Source-Welt der Technik und Wissenschaft könne seiner Ansicht nach die Befürchtungen der Unternehmen vor KI zerstreuen, insbesondere vor den vielen publik gemachten Problemen mit ChatGPT und dergleichen. Dazu gehören unter anderem „Halluzinationen“, wenn Programme die falsche Antwort geben; Voreingenommenheit; unethischer Output; und Urheberrechtsverletzung.

Bild erstellt mit DreamStudio von Stability.ai mit der Aufforderung: „Die Autoren von ZDNET sind eine intergalaktische Truppe halb Mensch, halb Panda-Krieger-Superhelden, die ein riesiges Z auf der Vorderseite ihrer Kostüme tragen.“

Wie Mostaque die Partnerschaften zwischen Wissenschaft und Wirtschaft sieht, wird Open-Source-Software „ein Benchmark-Modell für jede Modalität erstellen, basierend auf offenen Daten, von Allmende zu Allmende, und dann für jeden Sektor kommerziell lizenzierte Lager, bei denen man alles weiß.“ das ist da drin“, also im Programm und seinen Trainingsdaten.

Der Begriff „Modalität“ bezieht sich auf die Medienart von Daten, z. B. Text, Bild, Ton. Die Vision von Mostaque besteht darin, dass alle Modalitäten durch Open-Source-KI-Programme ermöglicht werden, nicht nur die Art natürlicher Sprache, die in aller Munde ist.

Die Bemühungen von Stability.ai sind Teil eines sich abzeichnenden Konsenses, dass viele Institutionen mit Code in die Bresche springen sollten, wenn Organisationen wie OpenAI scheitern.

Einige Gruppen haben einfach auf den früheren Versionen von OpenAIs GPT aufgebaut, wie zum Beispiel ein im März vorgestelltes Projekt des KI-Hardwareherstellers Cerebras Systems, der seine eigenen trainierten Versionen der GPT-Programme als Open Source veröffentlichte.

Aber es entsteht auch eine Art kollaboratives Ökosystem.

Die KI-Gruppe des Facebook-Eigentümers Meta veröffentlichte im Februar die Open-Source-Lösung LLaMA für die Verarbeitung natürlicher Sprache, die anschließend von Forschern der Stanford University zur Entwicklung von Alpaca weiterentwickelt wurde. Dann baute ein gemeinsames Team der UC Berkeley, Carnegie-Mellon, Stanford, UC San Diego und der Mohamed bin Zayed University of Artificial Intelligence in Abu Dhabi auf LLaMA auf, um ein weiteres Programm namens Vicuna zu entwickeln.

Letzte Woche veröffentlichte Mostaques Unternehmen ein großes Open-Source-Sprachmodell namens Stable Vicuna, das auf dem Vicuna-Programm basiert. (Ein Vicuña ist ein südamerikanisches Säugetier, eine Anspielung auf eine lange Tradition von Tiernamen in Open-Source-Programmen.)

Mostaque verfolgt diesen Weg der Zusammenarbeit seit einigen Jahren mit verschiedenen Institutionen. Die Technologie, auf der DreamStudio basiert, heißt Stable Diffusion und ist eine Parallele zum GPT von OpenAI. Es ermöglicht die Generierung eines Bildes basierend auf vom Benutzer eingegebenen Wortfolgen.

Stable Diffusion wurde von Stability.ai in Zusammenarbeit mit Forschern der Forschungsgruppe Computer Vision & Learning an der Ludwig-Maximilians-Universität München entwickelt, die die Originalarbeit zum Thema „latente Diffusion“ veröffentlichten.

Die latente Diffusionsarbeit, wie sie in der letztjährigen Arbeit von Robin Rombach und Kollegen von Ludwig Maximilian beschrieben wurde, zielte darauf ab, das enorme Rechenbudget der Bilderzeugung zu reduzieren, die eine der rechenintensivsten aller KI-Aufgaben ist.

Stability.ai hat sich auch auf Skaleneffekte konzentriert. Mostaque weist darauf hin, dass die stabile Diffusionssoftware „einhunderttausend Gigabyte an Bildern enthält, die in eine Zwei-Gigabyte-Datei komprimiert sind“.

Durch die Reduzierung des Rechenbudgets kann die Technologie großer KI-Modelle auf jedem Smartphone verfügbar sein, so Mostaque, und als persönlicher Assistent für jeden Einzelnen dienen.

„Das ist eine Infrastruktur der nächsten Generation“, sagte er.

Mostaque war eingeladener Redner für einen 90-minütigen Vortrag, der von Collective[i] Forecast veranstaltet wurde, einer interaktiven Online-Diskussionsreihe, die von Collective[i] organisiert wird, das sich selbst als „KI-Plattform zur Optimierung von B2B-Verkäufen“ bezeichnet.

Mostaque begann seine Karriere im Alter von 18 Jahren mit der Programmierung von Assembler-Routinen. „Kinder haben es heute leicht: Die Hälfte des Codes auf GitHub wird von KI generiert“, stellte er fest.

Mosque sei von künstlicher Intelligenz inspiriert worden, sagte er, als bei seinem Sohn Autismus diagnostiziert wurde. „Alle meinten, es gibt kein Heilmittel, keine Informationen“, erinnert er sich. „Wir haben ein KI-Team aufgebaut und ein Programm entwickelt, um die gesamte Literatur [über Autismus] zu analysieren, und dann ein Signalweganalysemodell zur Bewertung möglicher Ursachen, um Medikamente zu identifizieren, die mit medizinischer Unterstützung für ihn umfunktioniert werden könnten.“

„Am Ende ist er auf eine Regelschule gegangen, was ich ziemlich cool finde“, sagte Mostaque.

Jetzt will Mostaque die Vorteile der KI mit kompakten, effizienten KI-Programmen, die weit verbreitet werden können, auf den Rest der Menschheit ausweiten.

„Wir sind aus ethischer Sicht am richtigen Ort“, sagte er, „wenn es darum geht, diese Technologie jedem zugänglich zu machen, indem wir uns nicht auf AGI [künstliche allgemeine Intelligenz] konzentrieren, um den Menschen zu ersetzen, sondern darauf, wie wir Menschen mit kleinen, flinken Modellen erweitern können.“

Haftungsausschluss: Die Verwendung von KI-generierten Bildern könnte zu Urheberrechtsverletzungen führen. Daher sollten Benutzer vorsichtig sein, wenn sie die Bilder für kommerzielle Zwecke verwenden.