Der Weg zu vollständig autonomen KI-Agenten und den Risikokapitalgebern, die sie finanzieren
Die heutigen sogenannten KI-Agenten werden von Programmen überholt werden, die eine weitaus größere Kontrolle über die in Unternehmensprozessen getroffenen Entscheidungen haben.
Der Begriff „agentische KI“ oder „Agenten der künstlichen Intelligenz“ wird immer häufiger verwendet, und zwar so sehr, dass diejenigen, die in die Technologie investieren, die Notwendigkeit sehen, Unterscheidungen zu treffen.
In einer Reihe von Blogbeiträgen, die letzte Woche veröffentlicht wurden, definieren Partner der Risikokapitalgesellschaft Menlo Ventures (die Start-ups im Bereich künstliche Intelligenz wie Anthropic finanziert hat) „die nächste Welle von Agenten“ und wie sie die bisher eingeführten Agenten übertreffen.
Sie schreiben, dass die Agenten von morgen über vier unterschiedliche Fähigkeiten verfügen.
„Vollständig autonome Agenten werden durch vier Elemente definiert, die in Kombination die volle Agentenfähigkeit erreichen: Argumentation, externes Gedächtnis, Ausführung und Planung“, schreiben die Autoren.
„Um es klar zu sagen: Die völlig autonomen Agenten von morgen verfügen möglicherweise über alle vier Bausteine, die heutigen LLM-Apps und -Agenten jedoch nicht“, erklären sie.
Die Autoren Tim Tully, Joff Redfern, Deedy Das und Derek Xiao untersuchen in ihrem ersten Blogbeitrag, was es bedeutet, dass etwas „agentisch“ ist. Die Software, so schreiben sie, müsse letztendlich immer mehr Autonomie bei der Auswahl möglicher Schritte zur Lösung eines Problems erlangen.
„Agenten entstehen, wenn Sie das LLM in den Kontrollfluss Ihrer Anwendung einbinden und es dynamisch entscheiden lassen, welche Aktionen es ausführt, welche Tools es verwendet und wie es Eingaben interpretiert und darauf reagiert“, schreiben die Autoren.
Ein herkömmliches großes Sprachmodell kann auf „Werkzeuge“ zugreifen, beispielsweise auf externe Programme, mit denen der LLM eine Aufgabe ausführen kann. Anthropic hat dies bereits mit seiner Tool-Use-Funktion getan, und OpenAI hat etwas Ähnliches.
Die Autoren erklären jedoch, dass der Aufruf eines Tools einem LLM lediglich die Möglichkeit gibt, ein Problem zu lösen, nicht jedoch die Kontrolle darüber, auf welche Weise ein Problem gelöst werden soll.
Wie die Autoren schreiben: „Der Einsatz von Werkzeugen ist wirkungsvoll, kann aber für sich genommen nicht als ‚agentistisch‘ betrachtet werden.“ Die logischen Kontrollflüsse bleiben durch die Anwendung vordefiniert.“ Vielmehr muss der Agent über eine umfassende Fähigkeit zur Auswahl des verwendeten Tools verfügen, eine Entscheidungslogik.
Einige Softwareversionen kämen echten Agenten näher, erklären die Autoren. Einer davon ist ein „Entscheidungsagent“, der das große Sprachmodell nutzt, um aus einer Reihe von Regeln auszuwählen, die wiederum entscheiden, welches Tool verwendet werden soll. Als Beispiel für ein solches Entscheidungssystem nennen sie das Gesundheitssoftware-Startup Anterior.
Als nächstes werden einem höherrangigen Agenten, der als „Agent auf Schienen“ bezeichnet wird, „höherrangige Ziele vorgegeben, die es zu erreichen gilt (z. B. ‚Diese Rechnung mit dem Hauptbuch abgleichen‘“, schreiben sie). Dem Programm wird mehr Spielraum für die Anpassung eingeräumt die übergeordnete Anfrage und welche Regelsätze zu befolgen sind.
Laut den Autoren verfolgen mehrere Startups diesen „Agent on Rails“-Ansatz, darunter das Kundendienstunternehmen Sierra und das Softwareentwicklungsunternehmen All Hands AI.
Die dritte, höchste Ebene der Agenten-KI, der Heilige Gral, wie sie es nennen, verfügt über „dynamisches Denken“ und eine „benutzerdefinierte Codegenerierung“, die es dem großen Sprachmodell ermöglicht, das Regelwerk des Unternehmens zu „zusammenfassen“. Dieser als „allgemeiner KI-Agent“ bekannte Ansatz befinde sich laut den Autoren noch in der Forschungsphase. Beispiele hierfür sind Devin, der „erste KI-Softwareentwickler“, der vom Startup Cognition gegründet wurde.
Im zweiten Blogbeitrag „Beyond Bots: How AI Agents Are Driving the Next Wave of Enterprise Automation“ reflektieren die Autoren darüber, wie agentische KI in Unternehmen eingesetzt wird.
Sie schreiben, dass die unmittelbare Auswirkung darin besteht, über die „Robotic Process Automation“ oder RPA hinauszugehen, Tools, die einige grundlegende menschliche Aufgaben durch Software ersetzen, die von Firmen wie UiPath und Zapier verkauft wird.
Die im ersten Beitrag untersuchten Entscheidungsagenten und Agenten auf Schienen finden praktische Anwendungen bei Geschäftsaufgaben, beispielsweise beim Abgleich von Lieferantenrechnungen mit einem Hauptbuch:
Nehmen wir an, ein Unternehmen muss eine Rechnung eines internationalen Lieferanten mit seinem Hauptbuch abgleichen. Dieser Prozess beinhaltet mehrere Überlegungen, darunter Rechnungswährung, Hauptbuchwährung, Transaktionsdatum, Wechselkursschwankungen, grenzüberschreitende Gebühren und Bankgebühren, die alle zusammen abgerufen und berechnet werden müssen, um Zahlungen abzugleichen. Agenten sind zu dieser Art von Informationen in der Lage, während ein RPA-Agent den Fall möglicherweise einfach an einen Menschen weiterleitet.
Die Hauptaussage des Blogbeitrags besteht darin, dass zahlreiche Startups bereits Dinge verkaufen, die solchen höheren Agentenfunktionen nahe kommen. Sie „sind auch nicht nur Science-Fiction“, schreiben sie. „Obwohl diese Kategorie noch im Entstehen begriffen ist, kaufen und nutzen Unternehmen, von Startups bis hin zu Fortune-500-Unternehmen, diese Systeme bereits in großem Maßstab.“
Die Autoren bieten ein praktisches Diagramm der zahlreichen Angebote, geordnet nach dem Grad der Autonomie der Agentenprogramme entlang einer Achse und dem Grad der vertikalen oder horizontalen Marktausrichtung:
In den beiden Blogbeiträgen werden zwei wesentliche Einschränkungen nicht behandelt, die in bestehenden generativen KI-Systemen (Gen-KI) aufgetreten sind und den Fortschritt von Agenten zu behindern drohen.
Erstens gibt es keine substanzielle Diskussion seitens der Autoren darüber, wie man mit Halluzinationen umgeht, was selbstbewusst eine falsche Ausgabe behauptet. Wie auch immer der von der Gen-KI verwendete Argumentationsprozess und wie beeindruckend die Tools auch sein mögen, es gibt keinen Grund anzunehmen, dass KI-Agenten nicht immer noch fehlerhafte Ergebnisse wie herkömmliche Chatbots generieren.
Zumindest die Frage, ob Entscheidungsagenten und Agenten auf Schienen Halluzinationen verringern oder nicht, ist eine offene Forschungsfrage.
Zweitens ist es zwar denkbar, dass agentenbasierte KI eine Reihe von Unternehmensprozessen automatisieren kann, es liegen jedoch bisher nur sehr wenige Daten über die Auswirkungen dieser Automatisierung und darüber vor, ob sie tatsächlich eine Verbesserung darstellt. Das hängt teilweise mit dem ersten Punkt über Halluzinationen zusammen, aber nicht vollständig. Ein Agent, der in seinen Überlegungen oder Handlungen nicht falsch liegt, kann dennoch zu Ergebnissen führen, die im Vergleich zu dem, was eine Person tun würde, suboptimal sind.
Ein prominentes Beispiel wird in dem Buch „AI Snake Oil“ der Informatikwissenschaftler Arvind Narayan und Sayash Kapoor aus Princeton diskutiert, das diesen Monat bei Princeton University Press veröffentlicht wurde. Ein KI-Modell verfolgte die Vorgeschichte von Asthmapatienten, die bei der Einlieferung ins Krankenhaus Symptome einer Lungenentzündung aufwiesen. Das KI-Modell ergab, dass sie zu den Patienten mit dem geringsten Risiko in der Krankenhauspopulation gehörten. Mit dieser „Begründung“ könnten solche Patienten entlassen werden.
Das Modell übersah jedoch den kausalen Zusammenhang: Patienten mit Asthma und Symptomen einer Lungenentzündung waren am wenigsten gefährdet, weil sie eine Notfallversorgung erhielten. Eine einfache Entlassung hätte diese Sorgfalt umgangen und die Folgen hätten „katastrophal“ sein können, erklären Narayan und Kapoor.
Es ist diese Art von Korrelation anstelle von Kausalität, die in realen Situationen mit komplexen Kausalsituationen zu erheblich suboptimalen Ergebnissen führen kann.
Auch Agenten, die zusammenarbeiten, bleiben im Diskussionsbereich der Autoren außen vor. Wie Dharmesh Shah, CTO von Hubspot, kürzlich gegenüber ZDNET sagte, wird die zukünftige Arbeit der Agenten-KI nicht von einem einzelnen Agenten erledigt, sondern wahrscheinlich von Netzwerken von KI-Agenten, die miteinander zusammenarbeiten.
Angesichts dieser Auslassungen ist es ziemlich klar, dass die Risikokapitalgeber trotz der umfangreichen Forschung nur an der Oberfläche dessen gekratzt haben, was in einer Welt immer leistungsfähigerer KI-Agenten erreicht werden kann.