Red Hat enthüllt wichtige Verbesserungen der Red Hat Enterprise Linux AI
Nur wenige Wochen nach der Veröffentlichung von Red Hat Enterprise Linux AI führte das Unternehmen die nächste Version ein: RHEL AI 1.2.
Naja, das ging schnell. Erst Anfang September veröffentlichte Red Hat Red Hat Enterprise Linux AI (RHEL AI) 1.0. Nun hat Red Hat nachgelegt und die allgemeine Verfügbarkeit von RHEL AI 1.2 bekannt gegeben. Diese neueste Version führt mehrere wichtige Verbesserungen ein, die darauf abzielen, die Entwicklung, das Testen und die Bereitstellung großer Sprachmodelle (LLMs) zu rationalisieren.
Bevor wir uns mit den Neuerungen und Verbesserungen befassen, erfahren Sie hier etwas darüber, was RHEL AI bringt. Es wurde entwickelt, um die Entwicklung, das Testen und die Bereitstellung generativer KI-Modelle (Gen AI) zu optimieren. RHEL AI soll auch die Ausbildung von LLMs erschwinglich machen.
Diese neue Plattform kombiniert die Open-Source-lizenzierte Granite Large Language Model (LLM)-Familie von IBM Research, die auf der LAB-Methodik basierenden InstructLab-Ausrichtungstools und einen kollaborativen Ansatz zur Modellentwicklung über das Open-Source-InstructLab AI-Projekt.
RHEL AI nutzt außerdem Retrieval-Augmented Generation (RAG), um LLMs den Zugriff auf genehmigtes externes Wissen zu ermöglichen, das in Datenbanken, Dokumenten und anderen Datenquellen gespeichert ist. Dieser Ansatz verbessert die Fähigkeit von RHEL AI, die richtige Antwort zu liefern, anstatt eine Antwort, die richtig klingt.
Diese nächste Generation von RHEL AI bietet erweiterte Hardwareunterstützung. Die neue Version unterstützt jetzt Lenovo ThinkSystem SR675 V3-Server und bietet werkseitige Vorladeoptionen für eine schnellere und einfachere Bereitstellung. In einer Technologievorschau führt RHEL AI 1.2 die Unterstützung für AMD Instinct Accelerators ein, einschließlich der MI300x-GPUs für Training und Inferenz und MI210-GPUs für Inferenzaufgaben.
RHEL AI 1.2 hat seine Reichweite auch auf wichtige Cloud-Plattformen ausgeweitet - Benutzer können RHEL AI jetzt zusätzlich zur bestehenden Unterstützung für AWS und IBM Cloud auf Azure und Google Cloud Platform (GCP) bereitstellen.
Auch die Software hat deutliche Verbesserungen erfahren. Das neue Feature „Periodic Checkpointing“ erspart bei der Feinabstimmung lange Trainingsläufe in regelmäßigen Abständen. Benutzer können das Training vom zuletzt gespeicherten Kontrollpunkt aus fortsetzen, anstatt von vorne zu beginnen, was wertvolle Zeit und Rechenressourcen spart.
RHEL AI 1.2 wird mit PyTorch Fully Sharded Data Parallel (FSDP) geliefert. FSDP wurde als Technologievorschau eingeführt und reduziert die Trainingszeiten für das mehrphasige Training von Modellen mit synthetischen Daten erheblich. Die Technologie teilt die Parameter, Verläufe und Optimiererzustände eines Modells auf parallele Worker (z. B. GPUs) auf und verkürzt so die Trainingszeit erheblich.
RHEL AI setzt Red Hats Bestreben fort, die LLM-Schulung nicht nur für Datenwissenschaftler, sondern auch für Programmierer und Fachexperten zugänglicher zu machen.
Joe Fernandes, Vizepräsident der Foundation Model Platform von Red Hat, sagte: „RHEL AI bietet Domänenexperten und nicht nur Datenwissenschaftlern die Möglichkeit, zu einem zweckorientierten Gen-AI-Modell in der gesamten Hybrid Cloud beizutragen und gleichzeitig IT-Organisationen zu unterstützen.“ um diese Modelle für die Produktion durch Red Hat OpenShift AI zu skalieren.“
Mit anderen Worten: Mit RHEL AI wird es noch einfacher, KI für Ihre speziellen Anforderungen nutzbar zu machen.
Schließlich stellt Red Hat mit der Veröffentlichung von RHEL AI 1.2 auch die Unterstützung für Version 1.1 ein und gibt Benutzern 30 Tage Zeit, um auf die neueste Version zu aktualisieren. Diese schnelle Iteration unterstreicht den aggressiven Vorstoß von Red Hat in den Markt für Unternehmens-KI. Ob im Guten oder im Schlechten, die KI-Entwicklung schreitet immer schneller voran.