Wie IBMs Blaupause für die Branchentransformation KI, 5G und Zusammenarbeit nutzt
"Sterbliche Berechnung" bedeutet, dass Analogcomputer, die KI eng mit Hardware verbinden, GPT-3 für 1 US-Dollar in Ihren Toaster stecken und mit ein paar Watt Leistung auskommen.
Formen des maschinellen Lernens der künstlichen Intelligenz werden eine Revolution in Computersystemen hervorrufen, eine neue Art von Hardware-Software-Verbindung, die KI in Ihren Toaster bringen kann, so der KI-Pionier Geoffrey Hinton.
Hinton wurde gebeten, den Vortrag auf der Konferenz zu halten, in Anerkennung seiner vor einem Jahrzehnt verfassten Arbeit "ImageNet Classification with Deep Convolutional Neural Networks", die er zusammen mit seinen Doktoranden Alex Krizhevsky und Ilya Sutskever verfasst hatte. Das Papier wurde mit dem "Test of Time"-Preis der Konferenz für einen "enormen Einfluss" auf das Feld ausgezeichnet. Die Arbeit, die 2012 veröffentlicht wurde, war das erste Mal, dass ein Convolutional Neural Network auf menschlicher Ebene am ImageNet-Bilderkennungswettbewerb teilnahm, und es war das Ereignis, das die aktuelle Ära der KI in Gang setzte.
Hinton, der für seine Leistungen in der Informatik mit dem ACM Turing Award ausgezeichnet wurde, dem Äquivalent zum Nobelpreis auf diesem Gebiet, bildete die Deep Learning Conspiracy, eine Gruppe, die das todgeweihte Feld des maschinellen Lernens mit seinen Turing-Mitpreisträgern, Yann LeCun von Meta und Yoshua Bengio vom MILA-Institut für KI in Montreal, wiederbelebte.
In diesem Sinne ist Hinton in seinem Ansehen auf diesem Gebiet ein KI-König.
In seinem eingeladenen Vortrag verbrachte Hinton die meiste Zeit damit, über einen neuen Ansatz für neuronale Netze zu sprechen, der als Forward-Forward-Netzwerk bezeichnet wird und die Technik der Backpropagation, die in fast allen neuronalen Netzen verwendet wird, abschafft. Er schlug vor, dass durch das Entfernen von Rückwärts-Stützen Vorwärts-Vorwärts-Netze plausibler dem entsprechen könnte, was im wirklichen Leben im Gehirn passiert.
Ein Entwurfspapier der Forward-Forward-Arbeit ist auf Hintons Homepage (PDF) an der University of Toronto zu finden, an der er emeritiert ist.
Der Vorwärts-Vorwärts-Ansatz könnte gut für die sterbliche Rechenhardware geeignet sein, sagte Hinton.
"Wenn so etwas passieren soll, müssen wir ein Lernverfahren haben, das in einer bestimmten Hardware ausgeführt wird, und wir lernen, die spezifischen Eigenschaften dieser bestimmten Hardware zu nutzen, ohne zu wissen, was all diese Eigenschaften sind", erklärte Hinton. "Aber ich denke, der Vorwärts-Vorwärts-Algorithmus ist ein vielversprechender Kandidat für das, was dieses kleine Verfahren sein könnte."
Ein Hindernis für den Bau der neuen analogen sterblichen Computer sei, dass die Menschen an die Zuverlässigkeit der Ausführung einer Software auf Millionen von Geräten gebunden seien.
"Man würde das durch jedes dieser Handys ersetzen, müsste als Babyhandy anfangen, und es müsste lernen, ein Handy zu sein", schlug er vor. "Und das ist sehr schmerzhaft."
Selbst die Ingenieure, die sich mit der Technologie am besten auskennen, werden aus Angst vor Ungewissheit nur langsam das Paradigma perfekter, identischer unsterblicher Computer aufgeben.
"Unter den Leuten, die sich für analoge Berechnungen interessieren, gibt es noch sehr wenige, die bereit sind, die Unsterblichkeit aufzugeben", sagte er. Das liege an der Bindung an Konsistenz und Vorhersehbarkeit, sagte er. "Wenn Sie möchten, dass Ihre analoge Hardware jedes Mal das Gleiche tut ... Du hast ein echtes Problem mit all diesen verstreuten elektrischen Dingern und so."