Könnte KI Sie im Jahr 2025 zum Milliardär machen?
Eine Vielzahl neuartiger Chipfunktionen, einschließlich analoger Berechnungen, wird einen effizienteren, zuverlässigeren und sichereren KI-Prozessor für mehrere Märkte liefern, behauptet CEO Venkat Mattel.
Der Kampf um die Veränderung der Computerindustrie, damit Maschinen Aufgaben der künstlichen Intelligenz, insbesondere Deep Learning, besser berechnen können, bringt weiterhin neue und interessante potenzielle Zukunftsstars hervor.
Am Montag stellte Ceremorphic aus San Jose, Kalifornien, offiziell Chip-Bemühungen vor, die seit zwei Jahren im Stealth-Modus gehalten wurden, und diskutierte einen Chip, von dem das Unternehmen behauptet, dass er die Effizienz des KI-Computings in Bezug auf den Stromverbrauch revolutionieren wird.
"Es ist heute kontraintuitiv, aber höhere Leistung ist geringerer Stromverbrauch", sagte Venkat Mattela, Gründer und CEO des Unternehmens, in einem Interview mit ZDNet über Zoom.
Mattela glaubt, dass zahlreiche Patente auf den stromsparenden Betrieb es dem Chip seines Unternehmens ermöglichen werden, die gleiche Genauigkeit bei Signaturaufgaben des maschinellen Lernens mit viel weniger Rechenaufwand zu erzeugen.
"Was ich versuche, ist nicht nur einen Halbleiterchip zu bauen, sondern auch die Mathematik und die Algorithmen, um die Arbeitsbelastung zu reduzieren", sagte er. "Wenn eine Arbeitslast hundert Arbeitsgänge erfordert, möchte ich sie auf fünfzig Arbeitsgänge reduzieren, und wenn fünfzig Arbeitsgänge weniger Energie kosten als hundert, möchte ich sagen, dass meines ein leistungsstärkeres System ist."
"Ich habe viel Geduld [...] Ich mache keine inkrementellen Dinge", sagt Gründer und CEO Venkat Mattela über seine Herangehensweise an Technik und Wirtschaft. Sein letztes Unternehmen, Redpine Signals, verkaufte er 2020 für 314 Millionen US-Dollar an Silicon Labs.
Mattela dringt in einen hart umkämpften Markt vor, in dem Startups wie Cerebras Systems, Graphcore und SambaNova Unsummen erhalten haben und in dem sie trotz all ihrer Erfolge immer noch darum kämpfen, das Schwergewicht der Branche, Nvidia, zu stürzen.
Mattela neigt dazu, langfristig zu denken. Sein letztes Startup, Redpine Signals, wurde über einen Zeitraum von vierzehn Jahren aufgebaut, beginnend im Jahr 2006. Dieses Unternehmen wurde im März 2020 für 314 Millionen US-Dollar für seine stromsparende Bluetooth- und Wi-Fi-Chiptechnologie an den Chiphersteller Silicon Labs verkauft. (Der Chip wird jetzt in der kürzlich vorgestellten Garmin Fenix 7 Smartwatch verwendet.)
Die Lektion aus dieser siebzehnjährigen Arbeit bei Redpine und jetzt bei Ceremorphic ist eine zweifache: "Ich habe viel Geduld", sagte er über sich selbst mit einem Schmunzeln. Und: "Ich mache keine inkrementellen Dinge."
Mattela behauptet, wenn er ein Problem in einem Bereich des Chipdesigns annimmt, dann so, dass es dem Stand der Technik deutlich voraus ist. Die von Silicon Labs gekaufte Redpine-Funkchip-Technologie trat gegen die Angebote der Giganten Qualcomm und Broadcom in Bezug auf Bluetooth und Wi-Fi an.
"Ich habe mich einer großen Herausforderung gestellt, ich habe mich ihnen gestellt, aber nur mit einer einzigen Metrik, einem drahtlosen Gerät mit extrem niedrigem Energiegehalt, sechsundzwanzig Mal weniger Energie als die besten in der Branche", sagte Mattela.
Jetzt glaubt Mattela, dass er einen ähnlich erfolgreichen Fokus auf Leistung hat, zusammen mit drei weiteren Qualitäten, die er sowohl als einzigartig auf dem Markt für KI-Chips als auch für wesentlich für die Disziplin hält: Zuverlässigkeit, quantensichere Sicherheit und die Fähigkeit, in mehreren Märkten zu funktionieren.
Um all dies zu ermöglichen, behielt Mattela an den Mikroprozessoren fest, die bei Redpine entwickelt worden waren und die Grundlage von Ceremorphic bildeten, und behielt achtzehn Mitarbeiter aus diesem Projekt, die er durch die Einstellung von weiteren 131 Mitarbeitern ergänzte. Das Unternehmen hat Büros in San Jose, dem offiziellen Hauptsitz, und ein glänzendes neues Bürogebäude in Hyderabad, Indien.
Mattela hat eine faszinierende Liste von 26 US-Patenten, auf denen sein Name steht, und eine ebenso faszinierende Liste von 14 US-Patentanmeldungen aus den letzten Jahren.
Was Mattela als "Hierarchical Learning Processor" (HLP) bezeichnet, besteht aus einem Rechenelement für maschinelles Lernen, das mit 2 Gigahertz ausgeführt wird. eine benutzerdefinierte Gleitkommaeinheit bei gleicher Taktfrequenz; ein individuell entwickelter Multi-Threading-Workload-Planungsansatz; und speziell entwickelte 16-Lane-PCIe-Gen-6-Schaltkreise, um den Prozessor mit dem Host-Prozessor eines Systems, wie z. B. einem x86-Chip, zu verbinden.
Der letzte davon, der PCIe-Teil, könnte fast ein eigenes Unternehmen sein, behauptet Mattela.
"Im Moment ist PCIe-4, das dominierende Unternehmen, in Produktion, und PCIe-5 wurde erst letztes Jahr gestartet", erklärte MattelA. "Und bei uns wird PCIe-6 im Jahr 2024 in Produktion gehen - ich besitze diese Technologie."
"Das wären 12 Millionen Dollar, wenn man das lizenzieren müsste", sagte er über PCIe-6. "Das allein ist schon eine wichtige Sache, die man entwickeln muss." Die PCIe-Verbindung wird es Mattela ermöglichen, den Energieverbrauch eines Gesamtsystems weiter zu verfeinern, sagte er.
Im Mittelpunkt des Vorteils des Chips stehen analoge Schaltkreise, die unter den digitalen geschaltet sind. Einige Unternehmen haben analoge Schaltkreise ausgiebig für die KI-Verarbeitung verwendet, das bekannteste ist das Start-up Mythic, das im Jahr 2020 einen Chip enthüllte, der Vektoren und Matrizen - das Herzstück des maschinellen Lernens - nicht als digitale Multiplikationen, sondern als Kombinationen kontinuierlicher Energiewellenformen gemäß dem Ohmschen Gesetz multiplizieren kann, was das Unternehmen als analoges Computing bezeichnet.
Der Ceremorphic HLP-Chip wird analoges Rechnen selektiver nutzen als Mythic, sagte Mattela gegenüber ZDNet.
"Auf der untersten Ebene der Hierarchie" der Chipfunktionalität "mache ich analoge Berechnungen", erklärt Mattela. "Aber auf höherem Niveau mache ich kein analoges Modell, weil ich das Programmiermodell einfach machen möchte."
Das bedeutet "dreiundzwanzig Muster" für die analoge Multiplikation und Akkumulation über die Mikroarchitektur des HLP. Die analoge Multiplikation wird eine effizientere Nutzung der Spannung ermöglichen als die digitale, argumentierte er.
"Auf einer höheren Ebene sieht es aus wie eine Kombination aus Vektorverarbeitung und Datenpfadverarbeitung."
Die verschiedenen Chip-Features werden dazu beitragen, die vier Qualitäten zu ermöglichen, die Mattela fördert.
Neben dem energieeffizienten Betrieb kommt die Zuverlässigkeit hinzu. KI-Silizium habe heute ein Problem mit der Zuverlässigkeit, behauptete Mattela.
Machine-Learning-Chips sind deutlich größer geworden als herkömmliche Mikroprozessoren. Nvidias "A100"-GPU ist nach klassischen Maßstäben bereits recht kräftige 826 Quadratmillimeter groß. Neuartige Chips von Start-ups können jedoch viel größer sein, wie der WSE-2-Chip von Cerebras, der 45.225 Quadratmillimeter misst, fast die gesamte Oberfläche eines acht Zoll großen Siliziumwafers.
"Wenn man mehr Silizium hat, ist die Wahrscheinlichkeit eines Versagens größer, weil es Alpha-Teilchen und Neutronenbeschuss gibt", beobachtete Mattela. "In den letzten zwei Jahren haben sich schon die Leute geäußert, meine Systeme versagen im Rechenzentrum."
Mattela behauptet, dass eine einzigartige Hardware-Software-Kombination es seinem Chip ermöglichen wird, "Fehler vorherzusagen und zu korrigieren".
"Zuverlässiges Performance-Computing-Engineering ist unser wichtigster Beitrag", sagte er.
Die dritte Qualität, die Mattela hervorhebt, ist die Sicherheit, einschließlich des Schutzes vor zukünftigen Quantensystemen, die möglicherweise die herkömmliche Datensicherheit brechen könnten.
"Bisher sind Sicherheitssysteme so konzipiert, dass sie Hackerangriffen durch Menschen entgegenwirken", erklärt Mattela. "Aber in Zukunft kann man nicht davon ausgehen, dass die Rechenleistung begrenzt sein wird und dass es zwei Tage dauern wird, um es [ein System] kaputt zu machen, man sollte besser von vielleicht zwei Minuten ausgehen!"
Der Ceremorphic-Chip verfüge über eine "quantenresistente Zufallszahlengenerierung", sagte Mattela, die "von einem sehr leistungsfähigen Computer nicht gebrochen werden kann". In der Praxis, so Mattela, bedeute dies, dass es vielleicht einen Monat dauern würde, bis ein solches System durchbrochen würde, was einem Kunden Zeit geben würde, den Sicherheitsschlüssel zu ändern, um den Angriff zu vereiteln.
Die vierte Eigenschaft ist das, was Mattela als Skalierung bezeichnet. Was Mattela damit meint, ist, mehrere Märkte mit einem Chip zu adressieren. Der Chip wird in der Lage sein, in Deep Learning, Automobilanwendungen, Robotik, Biowissenschaften und in einer Art zukünftiger Metaverse-Anwendung zu funktionieren.
Derselbe HLP dient sowohl zum Training als auch zur Inferenz, den beiden Aspekten des maschinellen Lernens.
Die Skalierung auf mehrere Märkte, so Mattela, werde seinen Chip relevanter machen als die der Wettbewerber. Er argumentiert, dass Startups wie Cerebras beeindruckend, aber letztlich nicht so relevant sind.
"Es ist sehr feine Technik, ja, und man kann immer etwas tun, was niemand sonst kann, aber sein Ziel ist es nicht, etwas zu tun, was niemand tut", sagte Mattela.
"Ihr Ziel ist es, ein Ergebnis zu schaffen, mit dem jeder Geld verdient, und es hat Wirkung, es hat einen gewissen Wert für den Markt."
Natürlich liefern Cerebras und die anderen Produkte aus, während Mattela noch nicht einmal Muster produziert hat.
Um das Design von Ceremorphic zu einem Gewinner zu machen, hat Mattela ein Ass in der Tasche: das 5-Nanometer-Chip-Verfahren von Taiwan Semi, das zu den "fortschrittlichen Technologien" des Fertigungsriesen gehört, ein Chip-Prozess, zu dem nicht jeder Kunde Zugang hat.
"Wenn ich den Leuten sage, dass ich 5-Nanometer mache, sagen sie: Wie kann man 5-Nanometer bekommen?", sagte Mattela mit sichtlicher Freude. "Einige dieser Unternehmen mit Hunderten von Millionen an Finanzmitteln sind nicht in 5-nm tätig; Sie sind in 7-nm."
Ein Grund dafür ist die enge Beziehung, die Mattela vor Jahren zu TSM pflegte, als er beim Analogchip-Riesen Analog Devices arbeitete. Noch wichtiger war, dass sein Verkauf von Redpine an Silicon Labs seine Glaubwürdigkeit stärkte. TSM, sagt er, musste daran glauben, dass er sein Produkt zu Ende bringen kann, denn nur dann wird TSM vollständig bezahlt.
"Es dauert viele, viele Jahre", sagt Mattela mit Blick auf den Produktionsprozess. "Ich muss 200 Millionen Dollar ausgeben, ich muss einen Chip produzieren, der Chip muss funktionieren, und wenn er dann funktioniert, werden sie [TSM] zu diesem Zeitpunkt bezahlt."
Das Team um Mattela entwarf den Chip zunächst als Prototyp in einem sogenannten Shuttle-Run, einer kleinen Charge von Chips, im etwas weniger ausgefeilten 7-Nanometer-Prozess. In diesem Jahr wird das Unternehmen seine Shuttle-Laufchargen auf 5 Nanometer erweitern.
Während Ceremorphic damit rechnet, im kommenden Jahr erste Kundenmuster seines Chips zur Verfügung zu stellen, wird die Serienproduktion in 5-Nanometer-Kapazitäten wahrscheinlich nicht vor 2024 erfolgen, sagt er. "Dies sind sehr aggressive Termine" für das Design in einem hochmodernen Prozess wie 5-Nano, bemerkte Mattela über den Zeitplan.
Ein Gating-Faktor sind die Kosten. Er weist darauf hin, dass der Übergang vom Shuttle-Lauf zur vollständigen Nutzung eines Wafers - der sogenannten Vollmaske - den Unterschied zwischen 2 und über 10 Millionen US-Dollar ausmacht.
Dafür muss Ceremorphic weiteres Kapital aufbringen. Bisher finanziert sich Ceremorphic selbst, wobei Mattela und Freunde und Familie in einer Serie-A-Runde 50 Millionen US-Dollar zusammengebracht haben, eine extrem geringe Finanzierungssumme im Vergleich zu KI-Chip-Startups wie SambaNova, die Milliarden an Risikokapital erhalten haben.
Mattelas bevorzugter Weg zur zukünftigen Finanzierung sei über Partnerschaften, obwohl auch eine formelle Serie-B-Investitionsrunde im Jahr 2023 möglich sei.
Die erste Instanziierung des HLP wird als PCI-Karte erfolgen, die das bündelt, was der Chip benötigt, um in einem Computersystem zu funktionieren. "Typische System-OEMs sind das Ziel", sagte er. Er glaubt, dass dieser Weg zum Markt seine Maschine breiter verfügbar machen wird.
"Jedes Unternehmen braucht einen Trainings-Supercomputer", sagte er. "Ich möchte den Trainings-Supercomputer bereitstellen, der für jedes Unternehmen erschwinglich sein kann."
Im Gegensatz zu etwas Mammut wie dem von Facebook
Forschungs-SuperComputer für KI -- 6.080 GPUs und 175 Petabyte Flash-Speicher -- das Ceremorphic PCI-Blade soll die Technologie zugänglicher machen.
"Wenn ich ein Zehntel eines Computers in der Größe eines Gebäudes in einer Box bereitstellen kann, ist das der Sweet Spot."
Obwohl sein Teil noch nicht ausgeliefert wird, prognostiziert Mattela bereits eine schnelle Bereinigung auf dem Markt für KI-Chip-Startups. Die Herausforderer wie Graphcore haben viel Geld gesammelt und nur sehr wenig Umsatz gemacht. er spekuliert, nur ein Bruchteil dessen, was Nvidia in einem Viertel mit KI verdient.
"Heute gibt es vier bis fünf Unternehmen; Sie haben heute fast fünf Milliarden [an Kapital aufgenommen], das ist eine Menge Geld", sagte Mattela. Aber: "Das führende Unternehmen verdient jedes Quartal zwei Milliarden Dollar", womit er sich auf den Umsatz von Nvidia mit Rechenzentren bezieht.
"Wenn Sie nicht einmal 1 % des führenden Unternehmens ausmachen und Geld verlieren, ist das kein Geschäft", sagte Mattela.
Die Bereinigung wird eher früher als später kommen, prophezeit Mattela, wegen der Verschwendung. "Auf dem heutigen heißen Markt gingen sie hin und holten sich Geld, was gut für sie war, aber was auch immer sie an Geld bekamen, ich glaube nicht, dass sie wirklich herausgefunden haben, wie sie das Geld ausgeben sollten, weil der Betrag, der ausgegeben wird, einfach abnormal ist", sagte er.
Nachwuchsingenieure bekämen bei den KI-Startups Unsummen, sagt er. "Wenn ein Berufseinsteiger 200.000 Dollar [Jahresgehalt] bekommt, ist das nicht nachhaltig", sagte er und verwendete den Jargon der Tech-Branche für die unterste Position, "denn der Typ wird nach zwei Jahren produktiv sein, aber bis dahin ist das Geld schon weg."