Red Hat entfesselt Enterprise Linux AI - und es ist wirklich nützlich
Viele KI-Programme sind trotz allem Hype nicht besonders nützlich. Andererseits wird Red Hat Enterprise Linux AI Systemadministratoren und Entwicklern gleichermaßen helfen.
Red Hat hat die KI von Red Hat Enterprise Linux (RHEL) offiziell zur allgemeinen Verfügbarkeit freigegeben. Dies ist nicht nur eine weitere Produktveröffentlichung; Es handelt sich um einen wirklich nützlichen KI-Ansatz, den RHEL-Administratoren und Programmierer außerordentlich hilfreich finden werden.
RHEL AI soll die unternehmensweite Einführung vereinfachen, indem es ein vollständig optimiertes, bootfähiges RHEL-Image für Serverbereitstellungen in Hybrid-Cloud-Umgebungen bietet. Diese optimierten bootfähigen Modelllaufzeitinstanzen funktionieren mit Granite-Modellen und InstructLab-Toolpaketen. Dazu gehören optimierte Pytorch-Laufzeitbibliotheken und GPU-Beschleuniger für AMD Instinct MI300X, Intel- und NVIDIA-GPUs sowie NeMo-Frameworks.
Dies ist die grundlegende KI-Plattform von Red Hat. Das Programm ist darauf ausgelegt, die Entwicklung, Prüfung und Bereitstellung generativer KI-Modelle (Gen AI) zu optimieren. Diese neue Plattform vereint die Open-Source-lizenzierte Granite Large Language Model (LLM)-Familie von IBM Research, die auf der LAB-Methodik basierenden InstructLab-Ausrichtungstools und einen kollaborativen Ansatz zur Modellentwicklung über das InstructLab-Projekt.
IBM Research war Vorreiter der LAB-Methodik, die synthetische Datengenerierung und mehrphasige Abstimmung nutzt, um KI-/ML-Modelle ohne kostspieligen manuellen Aufwand auszurichten. Der von der InstructLab-Community verfeinerte LAB-Ansatz ermöglicht es Entwicklern, LLMs zu erstellen und dazu beizutragen, genau wie sie es bei jedem Open-Source-Projekt tun würden.
Mit der Einführung von InstructLab veröffentlichte IBM auch ausgewählte englische Granite-Sprach- und Codemodelle unter einer Apache-Lizenz und stellte transparente Datensätze für Schulungen und Community-Beiträge bereit. Das englische Sprachmodell Granite 7B ist jetzt in InstructLab integriert, wo Benutzer seine Fähigkeiten gemeinsam verbessern können.
RHEL AI ist auch in OpenShift AI, der Machine Learning Operations (MLOps)-Plattform von Red Hat, integriert. Dies ermöglicht eine groß angelegte Modellimplementierung in verteilten Kubernetes-Clustern.
Seien wir ehrlich: KI ist nicht billig. Das Training führender Large Language Models (LLM) kostete Dutzende Millionen. Und das, bevor Sie überhaupt über die Feinabstimmung für bestimmte Anwendungsfälle nachdenken. RHEL AI ist der Versuch von Red Hat, diese astronomischen Kosten wieder auf die Erde zu bringen.
Red Hat erreicht dies teilweise durch den Einsatz von Retrieval-Augmented Generation (RAG). RAG ermöglicht LLMs den Zugriff auf genehmigtes externes Wissen, das in Datenbanken, Dokumenten und anderen Datenquellen gespeichert ist. Dies verbessert die Fähigkeit von RHEL AI, die richtige Antwort zu liefern, anstatt nur eine Antwort, die einfach richtig klingt.
Das bedeutet auch, dass Sie Ihre RHEL-KI-Instanzen von den Fachexperten Ihres Unternehmens trainieren können, ohne einen Doktortitel zu benötigen. im maschinellen Lernen. Dadurch wird RHEL-KI viel nützlicher als Allzweck-KI, um die Arbeit zu erledigen, die Sie erledigen müssen, anstatt Star Wars-Fanfiction zu schreiben.
In einer Erklärung sagte Joe Fernandes, Vizepräsident der Foundation Model Platform von Red Hat: „RHEL AI bietet Fachexperten und nicht nur Datenwissenschaftlern die Möglichkeit, zu einem zweckorientierten Gen-AI-Modell in der gesamten Hybrid Cloud beizutragen.“ Dadurch können IT-Organisationen diese Modelle mithilfe von Red Hat OpenShift AI für die Produktion skalieren.“
RHEL AI ist nicht an eine einzelne Umgebung gebunden. Es ist so konzipiert, dass es überall dort ausgeführt werden kann, wo sich Ihre Daten befinden - sei es vor Ort, am Edge oder in der öffentlichen Cloud. Diese Flexibilität ist entscheidend bei der Umsetzung von KI-Strategien, ohne Ihre bestehende Infrastruktur komplett zu überarbeiten.
Das Programm ist jetzt auf Amazon Web Services (AWS) und IBM Cloud als „Bring Your Own (BYO)“-Abonnementangebot verfügbar. In den nächsten Monaten wird es als Service auf AWS, Google Cloud Platform (GCP), IBM Cloud und Microsoft Azure verfügbar sein.
Dell Technologies hat eine Zusammenarbeit angekündigt, um RHEL AI auf Dell PowerEdge-Server zu bringen. Diese Partnerschaft zielt darauf ab, die KI-Bereitstellung durch die Bereitstellung validierter Hardwarelösungen, einschließlich NVIDIA Accelerated Computing, optimiert für RHEL AI, zu vereinfachen.
Als jemand, der sich seit Jahrzehnten mit Open-Source-Software beschäftigt und sich mit KI beschäftigt hat, als Lisp noch als State-of-the-Art galt, denke ich, dass RHEL AI einen bedeutenden Wandel in der Herangehensweise von Unternehmen an KI mit sich bringt. Durch die Kombination der Leistungsfähigkeit von Open Source mit Support auf Unternehmensniveau positioniert sich Red Hat an der Spitze der KI-Revolution.
Der eigentliche Test wird natürlich die Einführung und die realen Anwendungen sein. Aber wenn man sich an der Erfolgsbilanz von Red Hat orientieren kann, könnte RHEL AI durchaus die Plattform sein, die KI aus dem Reich der Technologiegiganten in die Hände von Unternehmen jeder Größe bringt.