Microsoft Azure erhält „Models as a Service“, erweiterte RAG-Angebote für generative KI in Unternehmen

Auf der jährlichen Entwicklerkonferenz Microsoft Build gab es eine Reihe von Upgrades für Azure AI Services - viele davon befinden sich bereits in der Vorschau.

Auf seiner jährlichen Build-Entwicklerkonferenz am Dienstag stellte Microsoft mehrere neue Funktionen seiner Azure AI Services innerhalb seines Azure-Cloud-Computing-Geschäfts vor, mit einem Schwerpunkt auf generativer künstlicher Intelligenz.

Die neuen Funktionen reichen von der Ermöglichung eines besseren Datenbankzugriffs über die automatische Synchronisierung von Videos in mehrere Sprachen bis hin zum schnellen Training großer Sprachmodelle zum Verständnis komplexer Dokumentstrukturen. Die meisten Neuerungen und Erweiterungen sind diese Woche bereits im Vorschaumodus.

Es beginnt mit Studio

Für die meisten Entwickler vielleicht am relevantesten ist, dass Microsoft seine integrierte Entwicklungsumgebung für KI, Azure AI Studio, erweitert hat.

Um alle Teile zusammenzuführen, die zur Erstellung einer Cloud-Anwendung auf Azure erforderlich sind, hat Microsoft die sogenannte Azure Developer CLI erweitert, eine Reihe von Befehlsvorlagen, die zum Bereitstellen von Anwendungen in der Cloud verwendet werden. Eine Funktion in der Vorschau ermöglicht es einem Entwickler, „Ressourcen in Copilot-Beispielrepositorys zu erstellen und große Sprachmodelloperationen (LLM Ops) als Teil von CI/CD-Lösungen (Continuous Integration/Continuous Delivery) zu ermöglichen, um Code-to-Cloud-Workflows zu beschleunigen.“

Eine weitere kommende Funktion von Azure AI Studio ist das, was Microsoft „Models as a Service“ nennt, wobei eine Auswahl großer Sprachmodelle von Programmierern als API aufgerufen werden kann, ohne dass die GPU-Infrastruktur für die Modelle verwaltet werden muss, so Microsoft.

Komplexe Dokumente schnell verstehen

Microsoft führt außerdem eine neue Art von KI-Modell namens „Custom Generative“ ein, eine Möglichkeit, schnell ein Sprachmodell zur Verarbeitung komplexer Dokumente zu entwickeln, indem Vorlagen zum Definieren der Struktur eines Dokuments verwendet werden. Der Ansatz reduziert die Anzahl der „Labels“, die ein Entwickler erstellen muss, die Metadaten, die einem KI-Modell die verschiedenen Felder in einem Dokument beibringen.

„Das Modell wird große Sprachmodelle (LLMs) verwenden, um die Felder zu extrahieren, und Benutzer müssen die Ausgabe nur dann korrigieren, wenn das Modell ein Feld nicht richtig erfasst“, sagte Microsoft.

Benutzerdefiniertes Generativ geht „bald“ in die Vorschau, sagte Microsoft.

Eine Reihe zusätzlicher Funktionen sollen die verschiedenen Teile der Erstellung einer generativen KI-App erleichtern, vom „prompten Ablauf“ über die Nachverfolgung und Fehlerbehebung bis hin zu den Statistiken zur generativen KI nach der Produktion.

Erweiterter Einsatz von RAG

Für Unternehmen, die große Sprachmodelle auf ihren eigenen Daten basieren möchten, um sowohl die Ergebnisse von Abfragen zu präzisieren als auch Halluzinationen zu vermeiden, hat das Unternehmen seine Azure AI Search aktualisiert. Der Dienst basiert auf der sogenannten Retrieval-Augmented Generation oder „RAG“, einer weit verbreiteten Praxis, bei der in einer Datenbank nach Antworten auf eine Eingabeaufforderung gesucht wird, anstatt nur nach den neuesten Eingabeaufforderungen zu suchen.

Zu den neuen Funktionen für Azure AI Search gehören Verbesserungen bei der Art und Weise, wie der Dienst Ergebnisse bewertet, die als „Vektoren“ gespeichert sind, komprimierte Darstellungen von Daten, die für LLMs geeignet sind. Die Änderungen „geben Kunden mehr Optionen und Flexibilität, um die Genauigkeit ihrer Antworten zu verbessern“, sagte Microsoft.

Der Dienst bietet außerdem die Möglichkeit, Bilder (nicht nur Text) in Vektoren umzuwandeln, um es LLMs zu erleichtern, Bilder für eine Anfrageantwort abzurufen.

Es wird auch einfacher sein, den Azure AI Search-Dienst mit Unternehmensdaten zu verbinden, indem Fabric, die letztes Jahr auf der Build vorgestellte Datenanalyseplattform, verwendet wird, und zwar über einen Connector, der Daten weiterleitet, die im OneLake Data Lake enthalten sind, der ebenfalls letztes Jahr vorgestellt wurde.

Microsoft betont die Möglichkeit, die RAG-Funktion mit großen Vektorgrößen und erweiterter Speicherkapazität in Azure AI Search zu skalieren.

Die Funktionen stehen in Azure AI Search jetzt in einer Vorschauform zur Verfügung.

Datenbankverbesserungen

Während RAG an und für sich nützlich ist, müssen die meisten Unternehmen Daten mit einer Kombination aus herkömmlichen Datenbankabrufmethoden abrufen. In einem Blogbeitrag schreibt Shireesh Thota, Corporate Vice President und verantwortlich für Azure Databases: „Da KI-Anwendungen immer mehr zum Mainstream werden, ist eine nahtlose Datenbankverwaltung von größter Bedeutung. Vertrauenswürdige Lösungen, die grenzenlos und autonom skalieren können, reagieren.“ Schnelligkeit und beispiellose Flexibilität und Zuverlässigkeit werden die Zukunft der Codierung prägen.“

Aus diesem Grund hat Microsoft seine Datenbankangebote um Funktionen erweitert, die für die Bereitstellung großer Sprachmodelle von entscheidender Bedeutung sind: „Vektorsuche“, die es ermöglicht, die komprimierte Darstellung von Inhalten zu indizieren und leichter abzurufen; und „Einbettungen“, eine Möglichkeit, Eingabedaten für ein Sprachmodell im Frontend zu komprimieren, damit sie auf eine der Datenbank vertraute Weise gespeichert werden können.

Azure Cosmos DB für NoSQL erweitert die Azure Cosmos-Datenbank um die Durchführung einer Vektorsuche. Laut Microsoft ist Cosmos die erste Cloud-Datenbank mit „Vektorsuche mit geringerer Latenz im Cloud-Maßstab, ohne dass Server verwaltet werden müssen“.

Durch die datenbankinterne Einbettung von Azure Database for PostgreSQL wird die Azure-Implementierung der ehrwürdigen PostgreSQL-Datenbank aktualisiert, sodass Eingabedaten automatisch in Darstellungen komprimiert werden können, die das LLM versteht.

Auf dem Weg zur App-Entwicklung

Mehrere neue Angebote sollen die Entwicklung generativer KI-Apps standardisieren. Dazu gehören „Muster und Praktiken für private Chatbots“, eine Sammlung von Referenzimplementierungen, die es laut Microsoft Unternehmen ermöglichen, „private Chatbots zu erstellen, die zuverlässig, kosteneffizient und konform sind“.

Die Chatbot-Vorlagen sind ab sofort verfügbar.

Neue Multimodalität

Keine Entwickler-KI-Konferenz wäre vollständig ohne einige neue Modelle. Microsoft hat eine Erweiterung seiner vor einem Jahr eingeführten Sprachmodellfamilie „Phi“ vorgestellt. Phi sind so konzipiert, dass sie klein sind, das heißt, dass sie über eine nicht sehr große Menge an Parametern oder neuronalen „Gewichten“ verfügen, sodass sie auf „Edge“-Geräten wie einem PC eingesetzt werden können. Eine neue Version, Phi-3-Vision, unterstützt jetzt die Durchführung von Abfragen für Bilder.

„Mit einer Größe von 4,2 Milliarden Parametern unterstützt Phi-3-vision allgemeine visuelle Denkaufgaben und Diagramm-/Grafik-/Tabellenschlussfolgerungen“, sagte Microsoft.

Zusätzlich zu den Phi-Updates kündigte Microsoft die Verfügbarkeit des neuesten großen Sprachmodells von OpenAI, GPT-4o, das letzte Woche eingeführt wurde, in Azure AI Studio in Vorschauform an. Studio erhält außerdem OpenAIs GPT-4 „Turbo with Vision Capabilities“, das letzten Monat von OpenAI eingeführt wurde. GPT-4 mit Vision, so Microsoft, „führt eine neue Dimension in KI-Apps ein und ermöglicht die Erstellung von Inhalten, die sich über Text, Bilder und mehr erstrecken, für ein umfassenderes Benutzererlebnis.“

„Zusammen mit den neuen Funktionen von Microsoft Azure AI Enterprise Chat (früher bekannt als On Your Data), die in Retrieval-Augmented Generation (RAG) integriert sind, markiert dies den Beginn einer Ära für multimodale KI-Apps, die Entwicklern die Tools zum Erstellen bieten.“ intuitivere und interaktivere Lösungen. Dieses Update ist jetzt allgemein verfügbar.

Anpassen der Leitplanken

Microsoft führt Tools ein, die es Unternehmen ermöglichen, die Art der Leitplanken für generative KI zu optimieren. Mit „Benutzerdefinierte Kategorien“ kann der Entwickler Filter seiner Wahl erstellen, um Inhaltsbeschränkungen zu präzisieren. „Diese neue Funktion beinhaltet auch eine Schnelloption, die es Ihnen ermöglicht, innerhalb einer Stunde neue benutzerdefinierte Filter bereitzustellen, um sich vor neuen Bedrohungen und Vorfällen zu schützen“, sagte Microsoft.

Eine weitere Funktion in der Vorschau, „Prompt Shields“, soll Jailbreak-Angriffe gegen große Sprachmodelle blockieren, was oft durch die einfache Gestaltung einer Eingabeaufforderung auf clevere Weise erreicht werden kann.

Beide Funktionen sind Teil des Azure AI Content Safety-Angebots von Microsoft.

Sprechen Sie die Rede

Microsoft folgt dem Weg von Vorbildern wie Googles Gemini und OpenAIs GPT-4o und legt größeren Wert darauf, Programmen eine Stimme zu verleihen. Zu den zwei Funktionen in der Vorschau gehören Analysetools zur Untersuchung von Audio- und Videodaten für Dinge wie Stimmungsanalysen und ein Video-Überspielungsdienst, der ein Video automatisch in mehrere Sprachen übersetzen kann.