Wie IBMs Blaupause für die Branchentransformation KI, 5G und Zusammenarbeit nutzt
KI und Graphen haben ein paar Dinge gemeinsam: Sie sind facettenreich, in ihren Anwendungen allgegenwärtig und werden in den 2020er Jahren ein rasantes Wachstum erleben.
KI hat viele Erscheinungsformen, die von Hardware bis hin zu Anwendungen in Bereichen wie dem Gesundheitswesen und von futuristischen Modellen bis hin zu Ethik reichen
Im Geiste der letzten Jahre werfen wir einen Blick auf die Entwicklungen in der Welt der Datenbanken, des Datenmanagements und der KI, die wir als die wichtigsten Technologietreiber für die 2020er Jahre identifiziert haben. Wir blicken auf das Jahr 2021 zurück und versuchen, Muster zu erkennen, die das Jahr 2022 prägen werden.
Heute knüpfen wir dort an, wo wir mit dem ersten Teil unseres Rückblicks begonnen haben, und behandeln KI und Wissensgraphen.
Die vielen Gesichter der KI: Hardware, Edge, MLOps, Sprachmodelle, zukünftige Architekturen und Ethik
Prinzipiell versuchen wir, KI ganzheitlich anzugehen. Positives und Negatives zu berücksichtigen, vom Glänzenden bis zum Alltäglichen, von der Hardware bis zur Software. Hardware war in den letzten Jahren eine fortlaufende Geschichte innerhalb der breiteren Geschichte der KI, und wir sind der Meinung, dass dies ein guter Ausgangspunkt für unsere Tour ist.
In den letzten Jahren haben wir die wachsende Liste von "KI-Chips"-Anbietern im Auge behalten, d. h. Unternehmen, die sich auf den Weg gemacht haben, neue Hardware-Architekturen von Grund auf zu entwickeln, die speziell auf KI-Workloads ausgerichtet sind. Sie alle sind auf der Suche nach einem Stück von einem scheinbar ständig wachsenden Kuchen: Mit der Weiterentwicklung der KI wachsen diese Arbeitslasten weiter, und es ist ein offensichtliches Ziel, sie so schnell und so wirtschaftlich wie möglich zu bedienen.
Nvidia dominiert weiterhin diesen Markt. Nvidia war bereits lange vor dem Boom von KI-Workloads auf dem Markt und hatte den Scharfsinn und die Reflexe, dies durch den Aufbau eines Hardware- und Software-Ökosystems zu nutzen. Der Schritt im Jahr 2020, Arm zu einem Teil dieses Ökosystems zu machen, steht unter behördlicher Beobachtung. Nvidia blieb 2021 jedoch nicht untätig.
Aus einer Reihe von Ankündigungen, die auf dem GTC-Event von Nvidia im November 2021 gemacht wurden. Diejenigen, die auf der Hardwareebene etwas Neues bringen, haben mit dem zu tun, was unserer Meinung nach den Fokus der KI im Jahr 2021 im Allgemeinen kennzeichnet: Inferenz und Edge. Nvidia hat eine Reihe von Verbesserungen für den Triton Inference Server eingeführt. Außerdem wurde die Nvidia A2 Tensor Core GPU vorgestellt, ein stromsparender, kleiner Beschleuniger für KI-Inferenz am Rande, der laut Nvidia bis zu 20-mal mehr Inferenzleistung als CPUs bietet.
Und was ist mit den Emporkömmlingen? SambaNova behauptet, nach einer Serie-D-Finanzierung in Höhe von satten 676 Millionen US-Dollar "das am besten finanzierte KI-Startup der Welt" zu sein und damit eine Bewertung von über 5 Milliarden US-Dollar zu erreichen. Die Philosophie von SambaNova ist es, "AI as a Service" anzubieten, jetzt auch mit GPT-Sprachmodellen, und es sieht so aus, als ob 2021 im Großen und Ganzen ein Go-to-Market-Jahr für sie war.
Xilinx seinerseits behauptet, eine dramatische Beschleunigung von neuronalen Netzen im Vergleich zu Nvidia-GPUs zu erreichen. Cerebras behauptet, High-End-Computing "absolut zu dominieren" und hat auch eine saftige Finanzierung erhalten. Graphcore konkurriert mit Nvidia (und Google) in den MLPerf-Ergebnissen. Tenstorrent stellte den legendären Chipdesigner Keller ein. Blaize sammelte 71 Millionen US-Dollar, um Edge-KI in industrielle Anwendungen zu bringen. Flex Logix erzielte 55 Millionen US-Dollar an Risikokapital, was die Gesamtausbeute auf 82 Millionen US-Dollar erhöhte. Zu guter Letzt haben wir mit NeuReality ein neues Pferd im Rennen, Möglichkeiten, den Einsatz in ONNX und TVM zu kombinieren und das Versprechen, KI zur Entwicklung von KI-Chips zu nutzen. Wenn das keine boomende Innovation ist, wissen wir nicht, was es ist.
Laut dem State of the Edge-Bericht der Linux Foundation ist es besonders wahrscheinlich, dass Unternehmen im digitalen Gesundheitswesen, in der Fertigung und im Einzelhandel ihren Einsatz von Edge Computing bis 2028 ausweiten werden. Kein Wunder, dass sich auch KI-Hardware, Frameworks und Anwendungen, die auf den Edge abzielen, ausbreiten.
TinyML, die Kunst und Wissenschaft, Modelle für maschinelles Lernen zu erstellen, die sparsam genug sind, um am Edge zu arbeiten, erlebt ein rasantes Wachstum und den Aufbau eines Ökosystems. Edge Impulse, ein Startup-Unternehmen, das maschinelles Lernen am Edge für jedermann zugänglich machen will, hat gerade seine Serie-B-Finanzierung in Höhe von 34 Millionen US-Dollar bekannt gegeben. Edge-Anwendungen kommen auf dem Vormarsch, und KI und ihre Hardware werden ein großer Teil davon sein.
Etwas, das wir 2020 genannt haben, das 2021 prominent war und das uns auch in den kommenden Jahren begleiten wird, ist das sogenannte MLOps - maschinelles Lernen in die Produktion bringen. Im Jahr 2021 wurde versucht, verschiedenen Phänomenen im Zusammenhang mit MLOps Namen zu geben, die MLOps-Domäne zu zerschneiden, Datenversionskontrolle und kontinuierliches maschinelles Lernen anzuwenden sowie unter anderem das Äquivalent der testgetriebenen Entwicklung von Daten zu erreichen. Der Schwerpunkt verlagert sich von glänzenden neuen Modellen hin zu vielleicht banaleren, aber praktischen Aspekten wie Datenqualität und Datenpipeline-Management sowie MLOps werden weiter wachsen.
Die andere Sache, die wahrscheinlich weiter wachsen wird, sowohl in Bezug auf die schiere Größe als auch auf die Anzahl, sind große Sprachmodelle (LLMs). Einige Leute denken , dass LLMs grundlegende Formen der Sprache verinnerlichen können, sei es Biologie, Chemie oder menschliche Sprache, und wir sind dabei, ungewöhnliche Anwendungen von LLMs wachsen zu sehen. Andere nicht so sehr. In jedem Fall vermehren sich LLMs.
Neben den "üblichen Verdächtigen" - OpenAI mit GPT3, DeepMind mit seinem neuesten RETRO LLM, Google mit seinem ständig wachsenden Angebot an LLMs - hat sich Nvidia jetzt mit Microsoft im Megatron LLM zusammengetan. Aber das ist noch nicht alles.
Kürzlich hat EleutherAI, ein Kollektiv unabhängiger KI-Forscher, sein GPT-j-Modell mit 6 Milliarden Parametern als Open Source veröffentlicht. Wenn Sie sich für Sprachen interessieren, die über Englisch hinausgehen, haben wir jetzt ein großes europäisches Sprachmodell, das von Aleph Alpha fließend Englisch, Deutsch, Französisch, Spanisch und Italienisch spricht. Wudao ist ein chinesisches LLM, das mit 1,75 Billionen Parametern auch das größte LLM ist, und HyperCLOVA ist ein koreanisches LLM mit 204 Milliarden Parametern. Außerdem gibt es immer andere, etwas ältere/kleinere Open-Source-LLMs wie GPT2 oder BERT und seine vielen Variationen.
Über LLMs hinaus haben sowohl DeepMind als auch Google mit Perceiver bzw . Pathways revolutionäre Architekturen für KI-Modelle angedeutet. Pathways wurde dafür kritisiert, dass es eher vage ist. Wir wagen jedoch zu spekulieren, dass es auf Perceiver basieren könnte. Aber da wir uns in der Zukunft befinden, wäre es ein Versäumnis, DeepMinds Neural Algorithmic Reasoning nicht zu erwähnen, eine Forschungsrichtung, die verspricht, klassische Informatikalgorithmen mit Deep Learning zu verbinden.
Kein Rundgang durch KI, wie kompakt er auch sein mag, wäre vollständig, ohne auch nur eine lobende Erwähnung der KI-Ethik zu erhalten. Die KI-Ethik stand im Jahr 2021 weiterhin ganz oben auf der Agenda, und wir haben Menschen gesehen, die von FTC-Kommissaren bis hin zu Branchenpraktikern reichen, die alle versuchen, die KI-Ethik auf ihre eigene Weise anzugehen. Und vergessen wir nicht den anhaltenden Boom von KI-Anwendungen im Gesundheitswesen, einem Bereich, in dem Ethik mit oder ohne KI oberste Priorität haben sollte.
Knowledge Graphen, Graphdatenbanken und Graph AI
Wir sind seit langem begeisterte Befürworter von Graphen aller Formen und Größen - Wissensgraphen, Graphdatenbanken, Graphenanalysen, Data Science und KI. Daher berichten wir mit gemischten Gefühlen von dieser Front. Auf der einen Seite haben wir nicht viel Innovation gesehen, außer vielleicht in einem Bereich -- den neuronalen Netzen. Das neuronale algorithmische Denken von DeepMind nutzt auch GNNs.
Auf der anderen Seite ist das nicht unbedingt eine schlechte Sache, und zwar aus zwei Gründen. Erstens gibt es eine große Akzeptanz der Technologie im Mainstream. Bis 2025 werden Graphentechnologien in 80 % der Daten- und Analyseinnovationen zum Einsatz kommen, gegenüber 10 % im Jahr 2021, was eine schnelle Entscheidungsfindung ermöglicht, prognostiziert Gartner. Die Berichterstattung über Anwendungsfälle von Unternehmen wie BMW, IKEA, Siemens Energy, Wells Fargo und UBS ist keine Neuigkeit mehr, und das ist auch gut so. Ja, es gibt Herausforderungen, die mit dem Aufbau und der Pflege von Knowledge Graphen verbunden sind, aber diese Herausforderungen sind größtenteils gut bekannt.
Wie wir bereits festgestellt haben, sind Knowledge Graphen praktisch eine 20 Jahre alte Technologie , deren Zeit im Rampenlicht gekommen zu sein scheint. Die Möglichkeiten, Wissensgraphen zu erstellen, sind bekannt, ebenso wie die Herausforderungen, die sich daraus ergeben. Es ist kein Zufall, dass einige der gefragtesten Fähigkeiten und Entwicklungsbereiche bei Wissensgraphen die Verwendung von Natural Language Processing und visuellen Schnittstellen zum Erstellen und Pflegen von Wissensgraphen sowie die Möglichkeiten zur Erweiterung von Einzelbenutzer- auf Mehrbenutzerszenarien betreffen.
Und um dieses Gespräch mit dem breiteren Bild der KI zu verbinden, wo sie hingehört, scheinen die gemeinsamen Herausforderungen in der Operationalisierung und dem Aufbau des richtigen Fachwissens in Teams zu liegen, da diese Fähigkeiten sehr gefragt sind. Ein weiterer wichtiger Berührungspunkt ist die hybride KI-Richtung, bei der es darum geht, Wissen in maschinelles Lernen einfließen zu lassen. Führende Unternehmen wie Gadi Singer von Intel, Mike Dillinger von LinkedIn und Frank van Harmelen vom Hybrid Intelligence Centre weisen alle auf die Bedeutung der Wissensorganisation in Form von Wissensgraphen für die Zukunft der KI hin.
Knowledge Graphs, Graph Databases und Graph AI konvergieren alle
Es gibt auch einen weiteren wichtigen Berührungspunkt zwischen dem Gesamtbild in der KI und Knowledge Graphen: Data Meshes und Data Fabrics. Es sei Ihnen verziehen, wenn Sie diese 2 und die Fülle an datenbezogenen Begriffen, die heutzutage herumschwirren, verwechseln. Vereinfacht gesagt, sagen wir einfach, dass eine Datenstruktur als technisches Substrat für das Data-Mesh-Konzept des dezentralen Datenmanagements in Organisationen dienen soll. Das passt eigentlich sehr gut zur Wissensgraphentechnologie, und einige Anbieter in diesem Bereich haben das erkannt und sich entsprechend positioniert. Sogar Informatica scheint das bemerkt zu haben.
Und was ist mit dem Substrat für den Aufbau von Knowledge Graphen, nämlich Graphdatenbanken? Das Wort, das das Jahr 2021 für Graphdatenbanken zu kennzeichnen scheint, wäre "go to market". Es war ein gutes Jahr für Graphdatenbanken. Eine Graphdatenbank -- Neo4j -- schaffte es zum ersten Mal in die Top 20 der DB Engines . Neo4j kündigte außerdem die allgemeine Verfügbarkeit seines verwalteten Cloud-Dienstes Aura an und sammelte eine Serie-F-Finanzierungsrunde in Höhe von 325 Millionen US-Dollar, die größte in der Geschichte der Datenbank, wodurch die Bewertung auf über 2 Milliarden US-Dollar stieg.
Im Bereich der Graphdatenbanken gab es eine Reihe von Finanzierungsrunden und einen bevorstehenden Börsengang. TigerGraph erzielte 105 Mio. $in der Serie C, Katana Graph 28,5 Mio. $in der Serie A, Memgraph 9,34 Mio . $und TerminusDB 3,6 Mio. €. In der Zwischenzeit begann Bitnine, der Hersteller von Agens Graph, mit der Arbeit an seinem Börsengang - dem ersten auf dem Markt. Bitnine ist jetzt an der KOSDAQ, der elektronischen Börse Koreas, notiert
An der technischen Front nimmt die Akzeptanz von GraphQL weiter zu, entweder als Teil eines breiteren Ökosystems oder als zentrale Komponente in einer Datenarchitektur. Die Überbrückung der beiden Graphdatenbankwelten in Bezug auf Modelle, RDF und LPG, ist noch nicht abgeschlossen, hat aber im Jahr 2021 einige interessante Entwicklungen erfahren .
Wir gehen nicht davon aus, dass die Flitterwochen der Welt mit Graphen und Graphdatenbanken ewig dauern werden, und nach dem Hype wird irgendwann unweigerlich die Ernüchterung folgen. Aber wir sind zuversichtlich, dass diese Technologie grundlegend ist und trotz Schluckauf ihren Platz finden wird.