Domino Data Lab fügt MLOps die automatische Skalierung hinzu
Domino Data Lab 5.0 konzentriert sich stark auf die Bereitstellung, automatische Skalierung und Überwachung des Lebenszyklus des maschinellen Lernens.
Wie der große Datenbruder Andrew Brust im letzten Herbst berichtete, hat das Domino Data Lab in letzter Zeit einen breiteren Blick auf MLOps geworfen, vom Experimentmanagement über die kontinuierliche Integration/kontinuierliche Bereitstellung von Modellen bis hin zum Feature Engineering und Lifecycle-Management. In der kürzlich veröffentlichten Version 5.0 konzentriert sich Domino auf Hindernisse, die in der Regel die physische Bereitstellung verlangsamen.
Die wichtigste der neuen Funktionen ist die automatische Skalierung. Zuvor mussten Data Scientists entweder die Rolle von Cluster-Ingenieuren übernehmen oder mit ihnen zusammenarbeiten, um Modelle in die Produktion zu bringen und die Rechenleistung zu verwalten. Die neue Version ermöglicht es, diesen Schritt zu automatisieren und gleiche Wettbewerbsbedingungen mit Cloud-Diensten wie Amazon SageMaker und Google Vertex AI zu schaffen, die dies bereits tun, und Azure Machine Learning, das in der Vorschau angeboten wird. Um den Weg weiter zu ebnen, ist es für die Ausführung auf der Nvidia AI Enterprise-Plattform zertifiziert (Nvidia ist einer der Investoren in Domino).
Die Funktionen für die automatische Skalierung bauen auf der Unterstützung für Ray und Dask (zusätzlich zu Spark) auf, die in der vorherigen Version 4.6 hinzugefügt wurde und APIs zum Integrieren von verteiltem Computing in den Code bereitstellt.
Eine weitere Neuerung von 5.0 ist die Hinzufügung einer neuen Bibliothek von Datenkonnektoren, sodass Datenwissenschaftler das Rad nicht jedes Mal neu erfinden müssen, wenn sie versuchen, eine Verbindung zu Snowflake, AWS Redshift oder AWS S3 herzustellen. Weitere Datenquellen werden in Zukunft hinzugefügt.
Abgerundet wird die Version 5.0 durch ein integriertes Monitoring. Diese integrierte tatsächlich eine zuvor eigenständige Funktion und musste manuell konfiguriert werden. Mit 5.0 richtet Domino automatisch die Überwachung ein, erfasst Live-Vorhersagestreams und führt statistische Überprüfungen von Produktions- und Trainingsdaten durch, sobald ein Modell bereitgestellt wird. Und für das Debuggen werden Momentaufnahmen des Modells erfasst: die Version des Codes, die Datasets und die Konfigurationen der Computeumgebung. Mit einem einzigen Klick richten Data Scientists eine Entwicklungsumgebung des versionierten Modells ein, um das Debuggen durchzuführen. Das System automatisiert jedoch zu diesem Zeitpunkt weder die Erkennung noch gibt es Empfehlungen, wo Modelle repariert werden müssen.
Der Funke (kein Wortspiel beabsichtigt) für die 5.0-Funktionen ist die Bewältigung betrieblicher Probleme, die Data Scientists dazu zwingen, System- oder Cluster-Engineering-Aufgaben durchzuführen oder sich auf Administratoren zu verlassen, die dies für sie erledigen.
Aber es gibt auch den Engpass beim Data Engineering, wie wir in Untersuchungen festgestellt haben, die wir 2018 für Ovum (jetzt Omdia) und Dataiku durchgeführt haben. In ausführlichen Gesprächen mit mehr als einem Dutzend Chief Data Officers haben wir herausgefunden, dass Data Scientists in der Regel mehr als die Hälfte der Zeit mit Data Engineering verbringen. Die Version 5.0 beseitigt eine große Hürde im Data Engineering - die Verbindung zu beliebten externen Datenquellen, aber derzeit befasst sich Domino nicht mit der Einrichtung von Datenpipelines oder, noch elementarer, mit der Automatisierung von Datenvorbereitungsaufgaben. Letzteres (Integration der Datenvorbereitung) war natürlich der Grund für die Übernahme von Paxata durch Data Robot im Jahr 2019.
Die Funktionen von 5.0 spiegeln wider, wie Domino Data Lab und andere ML-Lifecycle-Management-Tools den Fokus vom Modelllebenszyklus auf die Bereitstellung ausweiten mussten. Dies wiederum spiegelt die Tatsache wider, dass Unternehmen mit zunehmender Erfahrung mit ML immer häufiger Modelle entwickeln und ursprünglich einmalige Prozesse industrialisieren müssen. Es würde uns nicht überraschen, wenn Domino seinen Fokus als nächstes auf Feature-Stores legen würde.