Das KI-Startup Mistral bringt ein 281-GB-KI-Modell auf den Markt, das mit OpenAI, Meta und Google konkurrieren kann
Mistrals neuestes LLM-Modell ist über ein Open-Source-Format verfügbar und erscheint inmitten neuer Modelle, die von OpenAI und Google veröffentlicht wurden.
Das französische KI-Startup Mistral hat am Dienstag Mixtral 8x22B veröffentlicht, ein neues großes Sprachmodell (LLM) und seinen jüngsten Versuch, mit den großen Jungs im KI-Bereich zu konkurrieren. Laut Gigazine wird Mixtral 8x22B voraussichtlich Mistrals vorheriges Mixtral 8x7B LLM übertreffen, das selbst Anzeichen dafür zeigte, dass es OpenAIs GPT-3.5 und Metas Llama 2 in den Schatten stellt.
Das neue Mixtral-Modell verfügt über ein Kontextfenster mit 65.000 Token, das sich auf die Textmenge bezieht, die ein KI-Modell gleichzeitig verarbeiten und referenzieren kann. Darüber hinaus verfügt Mixtral 8x22B über eine Parametergröße von bis zu 176 Milliarden, ein Hinweis auf die Anzahl interner Variablen, die das Modell verwendet, um Entscheidungen oder Vorhersagen zu treffen.
Mistral wurde von Forschern von Google und Meta gegründet und verfolgt bei seinen KI-Modellen einen Open-Source-Ansatz. In diesem Fall steht Mixtral 8x22B nach dem Herunterladen einer 281-GB-Datei für jedermann zur Nutzung zur Verfügung. Um dies selbst zu tun, fügen Sie einfach den Magnet-Link aus dem X-Beitrag von Mistral AI in Ihren bevorzugten BitTorrent-Client ein.
Die Veröffentlichung von Mistrals neuestem LLM erfolgt zu einer geschäftigen Zeit in der KI-Branche für neue und innovative Modelle.
Am Dienstag veröffentlichte OpenAI GPT-4 Turbo with Vision, das neueste GPT-4 Turbo-Modell mit Vision-Funktionen für die Arbeit mit Fotos, Zeichnungen und anderen vom Benutzer hochgeladenen Bildern. Am selben Tag veröffentlichte Google sein erweitertes Gemini Pro 1.5 LLM für Entwickler mit einer kostenlosen Option, die bis zu 50 Anfragen pro Tag gewährt. Um sich nicht übertreffen zu lassen, gab Meta bekannt, dass sein Llama 3-Modell noch in diesem Monat auf den Markt kommen wird.
Mixtral 8x22B und diese anderen fortschrittlichen LLMs werden als Frontier-Modelle bezeichnet, die eine Vielzahl von Aufgaben und Anforderungen bewältigen können. Sie erinnern an den Wilden Westen und zielen darauf ab, frühere Modelle mit bahnbrechenderer Technologie zu übertreffen. Der Begriff Grenze weckt auch ein Gefühl der Gefahr. In einem Blogbeitrag vom Juli 2023 beschrieb OpenAI die Risiken von Grenzmodellen.
„Frontier-KI-Modelle stellen eine deutliche regulatorische Herausforderung dar: Gefährliche Fähigkeiten können unerwartet auftreten; es ist schwierig, den Missbrauch eines eingesetzten Modells wirksam zu verhindern; und es ist schwierig, die umfassende Verbreitung der Fähigkeiten eines Modells zu verhindern“, schrieb OpenAI. „Die Selbstregulierung der Industrie ist ein wichtiger erster Schritt. Es sind jedoch umfassendere gesellschaftliche Diskussionen und staatliche Eingriffe erforderlich, um Standards zu schaffen und deren Einhaltung sicherzustellen.“
Der Open-Source-Ansatz von Mistral hat laut The Guardian auch einige Kritik hervorgerufen. Indem das Startup jedem erlaubt, seine KI-Modelle herunterzuladen und darauf aufzubauen, kann es nicht verhindern, dass seine Systeme für schädliche Zwecke verwendet werden. Darüber hinaus können die Modelle nicht offline geschaltet werden, wenn bestimmte Mängel oder Vorurteile auftauchen, die behoben werden müssen.