15 Möglichkeiten, wie KI mir im Jahr 2024 Zeit bei der Arbeit gespart hat - und wie ich sie im Jahr 2025 einsetzen möchte

Wir werden immer schlauer, wenn wir uns mit Prompt Engineering befassen, aber wir definieren auch immer noch Intelligenz.

Terry Sejnowski ist seit langem in den Schützengräben des maschinellen Lernens tätig und ein begeisterter Verfechter der positiven Auswirkungen künstlicher Intelligenz (KI). Im Jahr 2018 schrieb er in dem Buch The Deep Learning Revolution: „KI wird Sie schlauer machen.“

In der KI-Zeit bewegen sich die Dinge schnell. Seit 2018 ist generative KI (Gen AI) in unser Leben eingedrungen. In seinem neuesten Buch „ChatGPT and the Future of AI: The Deep Language Revolution“, das letzten Monat bei MIT Press veröffentlicht wurde, untersucht Sejnowski den Aufstieg großer Sprachmodelle (LLMs) und kommt zu dem Schluss, dass „KI uns tatsächlich intelligenter macht.“

Terry Sejnowski

Aber wie messen wir intelligenter? Was genau bedeutet das?

„Was ist Intelligenz? Bei Intelligenz geht es in Wirklichkeit um Problemlösung“, sagte Sejnowski gegenüber ZDNET in einem Interview. Mit ChatGPT und ähnlichen Programmen „bin ich schneller auf dem Laufenden, aber es führt mich auch zu Dingen, an die ich vielleicht nie gedacht oder die ich erforscht hätte; es öffnet mir Türen.“

Er fuhr fort: „Denken Sie darüber nach, was ChatGPT wirklich ist. Jeder denkt: ‚Oh, es spricht wie ein Mensch.‘ Das Einzige, was wir sicher wissen, ist, dass es kein Mensch ist. Es ist ein Werkzeug wie eine Schaufel.

Wie eine Schaufel, argumentierte Sejnowski, helfe uns das große Sprachwerkzeug dabei, Dinge besser zu erledigen, als wir es mit bloßen Händen könnten. Er sagte, dass Autoren mit ChatGPT besser werden, weil „es ihnen hilft, mentale Blockaden zu überwinden.“

Er nutzte ChatGPT ausgiebig, um das Buch zu recherchieren, wie er in seinem neuen Buch feststellte. „Mit Hilfe von LLMs dauerte dieses Buch etwa halb so lange wie das Schreiben meines vorherigen Buches über The Deep Learning Revolution.“

Das neue Buch wurde mit der gleichen einnehmenden Stimme und dem gleichen maßgeblichen Wissen über KI geschrieben und unterscheidet sich stark vom vorherigen. 2018 gab Sejnowski eine Geschichtsstunde. In der neuen Revolution interessiert sich Sejnowski dafür, wohin diese Werkzeuge führen und wie sie unsere Denkvorstellungen und unser Selbstverständnis verändern.

„Wir befinden uns gerade in der Phase der Werkzeugnutzung; wir lernen, wie man das Werkzeug benutzt, und die Werkzeuge werden immer besser“, sagte Sejnowski gegenüber ZDNET.

„ChatGPT könnte viele Dinge tun, aber es kann es nicht so gut wie die besten Menschen. Aber ich sage Ihnen, es macht es viel besser als die meisten Menschen.“

Eine Sache, die ChatGPT nicht kann, ist, irgendwo annähernd so gut zu schreiben wie Sejnowski. Im gesamten Buch bietet er von ChatGPT generierte Kapitelzusammenfassungen an, in der Hoffnung, dass sie „leichter zu verstehen sind als der Text“. Tatsächlich sind die Zusammenfassungen banal, ähnlich wie viel GPT-generierte Prosa, und wirken größtenteils wie eine Spielerei. Es ist die einzige Schwachstelle des Buches und ein kleiner Verstoß, der bei einer ansonsten meisterhaften und durch und durch fesselnden Lektüre verziehen werden kann.

Damit Sie nicht glauben, das Buch sei ein Liebesbrief an ChatGPT, ist das tiefere Element des Buches, das die meisten Seiten einnimmt, eine Analyse darüber, wie sich generative KI auf die Wissenschaft auswirkt und umgekehrt.

KI offenbart beispielsweise Neurowissenschaftlern Aspekte des Gehirns, und die Neurowissenschaften eröffnen wiederum neue Möglichkeiten für KI, argumentiert er, in einer Art positivem Kreislauf.

Diese Beobachtung wird durch Sejnowskis umfangreiche Karriere in beiden Bereichen gestützt. Sejnowski ist Francis-Crick-Lehrstuhlinhaber am Salk Institute for Biological Studies und angesehener Professor an der University of California in San Diego. Er leistete grundlegende Beiträge zur heutigen KI, ging jedoch einen anderen Weg als seine KI-Kollegen.

Sejnowski promovierte in den 1970er-Jahren in Physik bei John Hopfield in Princeton und arbeitete anschließend intensiv mit Geoffrey Hinton zusammen, zwei Personen, die für ihre Arbeiten zur KI in diesem Jahr den Nobelpreis für Physik erhielten. Sejnowskis früher Fokus wandte sich vom Aufbau von KI-Systemen an sich ab und hin zur Neurowissenschaft, weil er gegenüber ZDNET sagte: „Ich wollte verstehen, wie das Gehirn funktioniert.“

Viele KI-Praktiker sind der Meinung, dass das Gehirn im Vergleich zu künstlichen neuronalen Netzen viel zu komplex ist, um voranzukommen, und sie fliehen vor der Hirnforschung, um ihre beruflichen Chancen auf bahnbrechende Veröffentlichungen zu verbessern. Sejnowski ist jedoch begeistert von dem, was er lernt, und ist überzeugt, dass er dank KI an der Schwelle zu großen Entdeckungen über das Gehirn steht.

Beispielsweise ist der zugrunde liegende Mechanismus großer Sprachmodelle - die Art und Weise, wie sie das nächste Wort vorhersagen - ein grundlegender Mechanismus, der auf das menschliche Gedächtnis anwendbar ist.

Alles, was Sie in GPT eingeben, und der Rest werden als lange Zahlenfolge codiert, die als „Kontextfenster“ bezeichnet wird. Dieses Fenster stellt den Arbeitsspeicher dar, der für Vorhersagen verwendet wird. OpenAI und andere konkurrieren um immer längere Kontextfenster, was zu einer größeren Fähigkeit führen sollte, das nächste Wort, die nächste Phrase oder den nächsten Absatz vorherzusagen.

Sejnowski glaubt, dass im Gehirn etwas Ähnliches passiert. Er erklärte gegenüber ZDNET, dass die Frage für den Neurowissenschaftler lauten könnte: „Wie wird der lange Eingabevektor im Gehirn implementiert? Nicht nur über Sätze hinweg, sondern über Absätze hinweg. Sie bauen in Ihrem Gehirn eine Art Geschichte auf, und wie ist das?“ findet das statt?"

Die Antwort, glaubt Sejnowski, sind sogenannte „Wanderwellen“, also Wellen neuronaler Aktivität, die sich über die Großhirnrinde bewegen. Das Phänomen sei in der Neurowissenschaft „im Allgemeinen ignoriert“ worden, sagte er, weil „niemand eine Ahnung hatte, was die Funktion möglicherweise sein könnte“.

Im mittleren Drittel von „Revolution“ deutet Sejnowski die Möglichkeit an, dass Gen AI endlich das Geheimnis der Wanderwellen aufklärt. Er bietet eine hervorragende Geschichte der LLMs und führt den Leser von den Anfängen der KI bis zur Entwicklung des Transformers, der frühesten Form des Sprachmodells. Interessierte Leser können viel mehr Details zu Wanderwellen und Transformatoren in einem wissenschaftlichen Artikel für die Zeitschrift Trends in Neuroscience finden.

Gleichzeitig gehe es „in die entgegengesetzte Richtung“ und die künstliche Intelligenz entwickle sich weiter, indem sie Anleihen bei den Neurowissenschaften nehme, sagte Sejnowski gegenüber ZDNET.

In dem Buch postuliert er, dass die verschiedenen Schwächen großer Sprachmodelle - die „Halluzinationen“ und manchmal unsinnigen Ergebnisse - als Entwicklungsstadien verstanden werden können, die der geistigen Entwicklung des Menschen entsprechen. Die Technologie ist zwar vielversprechend, hat aber noch einen langen Weg vor sich.

„LLMs sind Peter Pans, die nie erwachsen geworden sind und in einem digitalen Nimmerland leben“, schreibt Sejnowski. „LLMs mangelt es auch an der Adoleszenz; beim Menschen ist dies der Fall, bevor der präfrontale Kortex reift, und bremst schlechtes Urteilsvermögen.“

Das letzte Drittel des Buches konzentriert sich darauf, wohin die KI angesichts dieses Paradigmas einer Art Kindheit gehen könnte.

„Eine langfristige Richtung für KI besteht darin, LLMs in größere Systeme zu integrieren“, schreibt er, „so wie Sprache in Gehirnsysteme eingebettet wurde, die sich über Millionen von Jahren zur sensomotorischen Kontrolle entwickelt hatten, die für das Überleben unerlässlich ist.“

Gen AI hat seine Fähigkeiten bereits durch Anleihen aus anderen Bereichen der Wissenschaft erweitert, sagte Sejnowski gegenüber ZDNET.

Eine der bedeutendsten Innovationen der letzten Jahre bei LLMs ist die Einführung eines sogenannten „Zustandsraummodells“, das der Teilchenphysik entlehnt ist. Kommerzielle Unternehmen wie AI21 haben den State-Space-Modus genutzt, um die Leistung im Hinblick auf die Zeit, die für die Beantwortung der Eingabeaufforderung erforderlich ist, erheblich zu steigern.

Das Zustandsraummodell knüpfe auch an die Theorie der Wanderwellen des Gehirns an, sagte Sejnowski gegenüber ZDNET, womit sich der Kreis schließe.

Diese gegenseitige Befruchtung der Bemühungen zwischen Wissenschaft und KI ist der faszinierendste Aspekt des Buches und zeigt, wie viel in beiden Lagern noch zu verstehen ist.

LLMs haben eine zugrunde liegende Struktur, die KI-Forscher gerade erst zu verstehen beginnen. Sejnowski prognostiziert, dass die Enthüllung dieses Rätsels zu neuen Formen der Mathematik führen könnte, die wiederum die KI dramatisch voranbringen könnten.

„Die heutigen LLMs sind das Äquivalent der Kathedralen, die im Mittelalter durch Versuch und Irrtum gebaut wurden“, schreibt er in Revolution. „Während LLMs neue Mathematik inspirieren, wird ein neuer konzeptioneller Rahmen Konzepte wie Verständnis und Intelligenz verdinglichen; ihre Nachkommen werden das Äquivalent von Wolkenkratzern sein.“

Eines der bemerkenswerten Dinge an dem Buch ist, dass es außerordentlich auf der Arbeit der Wissenschaft und der KI basiert, von Sejnowskis jahrzehntelanger Beteiligung an beiden Bereichen geprägt ist und dennoch neue Höhen der wissenschaftlichen Vorstellungskraft erreicht.

Sejnowski geht davon aus, dass völlig neue Wissenschaften und Mathematik entstehen könnten, so wie Durchbrüche von Newton und anderen unser Verständnis des Universums verändert haben.

„Physiker haben Gleichungen entwickelt, die mysteriöse Eigenschaften des Universums wie Schwerkraft, Thermodynamik, Elektrizität, Magnetismus und Elementarteilchen beschreiben, die mit nur wenigen Parametern, sogenannten physikalischen Konstanten, genaue Vorhersagen ermöglichten“, schreibt Sejnowski.

„Im 21. Jahrhundert ist ein neuer Bereich der Mathematik erfolgreicher, der auf Algorithmen aus der Informatik basiert. Wir fangen gerade erst an, das algorithmische Universum zu erforschen, was möglicherweise eine Änderung unseres Denkens über wissenschaftliches Verständnis erfordert.“

Es könnte auf uns eine Offenbarung über Intelligenz warten, wie sie schon immer existierte, die wir aber nie begriffen haben.

Mit den Werkzeugen der Generation AI erlangen die Menschen ein besseres Verständnis ihrer Stärken und Grenzen, sagte Sejnowski gegenüber ZDNET.

„Je mehr ich es benutze und je mehr ich sehe, wofür andere Leute es nutzen, desto klarer wird mir, dass es sie wirklich widerspiegelt“, sagte Sejnowski. Je besser die Leute im Prompt Engineering werden, desto mehr spiegelt das Tool den Stil des Benutzers wider: „Sie werden besser darin, sich selbst in diesem Spiegel zu sehen.“

Der Spiegeleffekt führt zu einer verlockenden Aussicht: Wir werden keine „künstliche allgemeine Intelligenz“, den heiligen Gral der KI, in der klischeehaften Science-Fiction-Form eines lebensechten Humanoiden erreichen, der wie wir geht und spricht. Vielmehr werden wir unser Verständnis dessen, was wir über Intelligenz zu wissen glauben, verändern. Es geht über die bloße Verwendung von Werkzeugen hinaus, aber wir haben noch keinen Ausdruck dafür, was das andere sein könnte.

„Könnte die allgemeine Intelligenz ihren Ursprung in der Art und Weise haben, wie Menschen sozial interagieren, wobei die Sprache als Nachzügler in der Evolution auftaucht und die Sozialität fördert?“ fragt Sejnowski im Buch. „Es ist an der Zeit, dass wir das Konzept der ‚allgemeinen Intelligenz‘ beim Menschen überdenken.“