Microsoft verbessert Translator- und Azure AI-Dienste mit neuen KI-Z-Code-Modellen
Die neuen Z-Code-Modelle von Microsoft, die einen "Mixed-of-Experts"-Ansatz verwenden, sollen dafür sorgen, dass Translator und andere Microsoft-KI-Dienste eine bessere Leistung erbringen und effizienter ausgeführt werden können.
Microsoft aktualisiert seinen Translator und andere Azure-KI-Dienste mit einer Reihe von KI-Modellen namens Z-Code, wie Beamte am 22. März bekannt gaben. Diese Updates werden die Qualität maschineller Übersetzungen verbessern und dazu beitragen, dass diese Dienste mehr als nur die gängigsten Sprachen unterstützen, für die weniger Trainingsdaten verfügbar sind.
Die neuen Z-Code-Modelle verwenden einen spärlichen "Mixture of Experts"-Ansatz, den Microsoft-Führungskräfte als effizienter beschrieben haben, da nur ein Teil des Modells zum Abschließen einer Aufgabe eingesetzt werden muss. Das Ergebnis laut Microsoft: Massive Skalierung der Anzahl der Modellparameter bei gleichbleibender Rechenmenge.
Microsoft hat kürzlich Z-Code-Modelle bereitgestellt, um allgemeine Sprachverständnisaufgaben wie die Erkennung von Namensentitäten, die Textzusammenfassung, die benutzerdefinierte Textklassifizierung und die Extraktion von Schlüsselbegriffen in seinen verschiedenen Azure AI-Diensten zu verbessern. Die heutige Entwicklung ist jedoch "das erste Mal, dass ein Unternehmen öffentlich demonstriert, dass es diese neue Klasse von Mixed-of-Experts-Modellen nutzen kann, um Produkte für maschinelle Übersetzung zu unterstützen".
Z-Code ist Teil des größeren XYZ-Code-Projekts von Microsoft, das darauf abzielt, Modelle für Text, Bild, Audio und mehrere Sprachen zu kombinieren, um leistungsfähigere und integrierte KI-Systeme zu schaffen, die besser sprechen, hören, sehen und verstehen können. Die Z-Code-Modelle fallen unter die Microsoft AI at Scale- und Turing-Initiativen, die darauf abzielen, große Modelle zu entwickeln, die mit großen Mengen an Textdaten vortrainiert werden und direkt in Microsoft- und kundenspezifische Produkte integriert werden können.
Um diese Modelle in die Produktion zu bringen, verwendet Microsoft NVIDIA-GPUs und seinen Triton Inference Server, um sie effizient bereitzustellen und zu skalieren.
Apropos NVIDIA: Microsoft hat heute bekannt gegeben, dass es mit NVIDIA zusammenarbeitet, um seine Confidential Computing-Funktionen auf NVIDIA-GPUs zu bringen.
Mark Russinovich, Chief Technology Officer und Technical Fellow von Azure, erklärte die Bedeutung in einem Blogbeitrag vom 22. März:
"Bei vertraulichen GPUs werden Daten verschlüsselt, wenn sie zwischen CPU und GPU über den PCIe-Bus mit Schlüsseln übertragen werden, die sicher zwischen dem NVIDIA-Gerätetreiber und der GPU ausgetauscht werden. Der einzige Ort, an dem Daten entschlüsselt werden, befindet sich in einer hardwaregeschützten, isolierten Umgebung innerhalb des GPU-Pakets, in der sie verarbeitet werden können, um Modelle oder Rückschlussergebnisse zu generieren. Ähnlich wie andere Azure Confidential Computing-Lösungen unterstützen vertrauliche GPUs den kryptografischen Nachweis auf der Grundlage einer eindeutigen GPU-Identität, die von NVIDIA während der Herstellung bereitgestellt wird. Mithilfe der Remote-Attestation können Unternehmen unabhängig überprüfen, ob ihre Daten nur in echten und korrekt konfigurierten vertraulichen GPUs verarbeitet werden."