Frühanwender setzen jetzt KI-Agenten im Unternehmen ein, mit einer skalierten Einführung im Jahr 2025
Technologie-, Innovations- und Strategieexperten teilen ihre Standpunkte zur Einführung von KI-Agenten und zur Zukunft des autonomen KI-gestützten Unternehmens.
Ein kontinuierlich verbesserter Satz an künstlichen Intelligenz (KI)-Ressourcen wird im nächsten Jahrzehnt enorme Auswirkungen auf Unternehmen und die menschliche Belegschaft haben.
Zunächst wird die KI eine weitgehend unterstützende Wirkung haben, indem sie geringwertige Aufgaben übernimmt und den Menschen in die Lage versetzt, seine Anstrengungen auf strategischere und kreativere Aufgaben zu konzentrieren. Allerdings entwickelt sich das agentenzentrierte KI-Unternehmen mit einer beispiellosen Geschwindigkeit in Richtung und Geschwindigkeit weiter.
Was wir als die sechs Ebenen autonomer Arbeit bezeichnen, bezieht sich auf die Reifegrade von KI-Assistenten im Vergleich zu KI-Agenten. Um die Einführungsprognosen und die Auswirkungen von KI-Assistenten und -Agenten am Arbeitsplatz besser zu verstehen, werden KI-Agenten durch die Entstehung großer Sprachmodelle (LLMs) ermöglicht, die ein tiefes Sprachverständnis, Argumentation und Entscheidungsfindung ermöglichen.
Dennoch müssen einige Einschränkungen angegangen werden, damit Agenten im Unternehmen eingeführt werden können, darunter der fehlende Zugriff auf private Daten und das Fehlen einer integrierten Fähigkeit, Maßnahmen zu ergreifen. Damit die Akzeptanz von Agenten steigt, müssen diese Bedenken ausgeräumt werden.
Agenten können unterschiedliche Grade an Autonomie haben. Assistenzagenten (manchmal auch Copiloten genannt) arbeiten mit Menschen zusammen und verbessern ihre Fähigkeiten, anstatt alleine zu handeln. Copiloten benötigen oft menschlichen Input und Feedback, um Vorschläge oder Aktionen zu verfeinern.
Autonome Agenten agieren unabhängig und ohne direkte menschliche Aufsicht. Eine Hybridversion dieser Agenten kann - im Gegensatz zu anderen völlig autonomen Agenten - Aufgaben bei Bedarf nahtlos an Menschen übergeben. Geeignete Leitplanken sind von entscheidender Bedeutung, um Zuverlässigkeit, die Einhaltung von Geschäftspraktiken sowie Datensicherheit und Datenschutz zu gewährleisten und Halluzinationen, Toxizität und schädliche Inhalte zu verhindern.
Ich habe mit zwei Technologie- und Innovationsanalysten und Unternehmensmarktstrategen gesprochen, um die geschäftliche Einführung von KI-Agenten, die Herausforderungen und Chancen sowie Prognosen für die Mainstream-Implementierung besser zu verstehen.
Michael Maozis, Senior Vice President für Innovationsstrategie bei Salesforce. Bevor er zu Salesforce kam, war Maoz Research Vice President und angesehener Analyst beim Analysten Gartner und fungierte als Forschungsleiter für den Bereich Kundenservice und Supportstrategien.
Ed Thompson ist Senior Vice President für Marktstrategie bei Salesforce. Bevor er zu Salesforce kam, war Thompson Research Vice President und angesehener Analyst bei Gartner und befasste sich mit Kundenerfahrung (CX) sowie CRM-Strategie und -Implementierung. Maoz und Thompson teilten ihre Standpunkte zur Zukunft von KI-Agenten im Unternehmen.
KI-Agenten stehen vor der Tür, aber sie stehen noch am Anfang. Wann, glauben Sie, werden sie zum Mainstream werden und wo?
Ed Thompson (ET):Ich denke, dass es länger dauern wird, bis es in den Mainstream gelangt, als die Leute denken. Nicht aufgrund technischer Einschränkungen, sondern aufgrund der Akzeptanz und sich ändernder Gewohnheiten. Grob gesagt können Agenten entweder Assistenten von Mitarbeitern sein oder Mitarbeiter ersetzen. Im ersten Fall sind sie wie PAs, und sie sind bereits da, nicht in perfekter Form, aber ich würde behaupten, dass in den nächsten fünf Jahren fast jeder Angestellte und einige Arbeiter die Bewerbungen sehen werden, die sie haben Die Nutzung wird über integrierte Assistenten verfügen, die dazu beitragen, den Zeitaufwand für mühsame Aufgaben zu reduzieren - aber der Mitarbeiter bleibt weiterhin da und behält die Kontrolle.
Im zweiten Fall ersetzen sie Mitarbeiter. Einen ganzen Job zu ersetzen, ist eine schwierige Aufgabe - das wird lange dauern, es sei denn, der Job ist verhasst und repetitiv. Ich wette, es wird 10 Jahre dauern, bis wir sehen, dass das im Mainstream passiert. Und ich wette, es sind Start-ups, die das möglich machen, die ihre Arbeit mit vielen digitalen Mitarbeitern von Grund auf neu gestalten können, und nicht bestehende Unternehmen. Ich denke an Reisemakler, Versicherungsmakler oder Finanzberater, die beispielsweise nur zwei menschliche Mitarbeiter, aber ein Dutzend digitale Agenten haben und den Eindruck erwecken, ein Unternehmen mit 20 Mitarbeitern zu sein.
Michael Maoz (MM): Die Frage, welche Anwendungsfälle zuerst kommen werden, ist eine andere, obwohl sie mit der Frage zusammenhängt, wann wir eine breite Akzeptanz sehen werden. Ich stimme zu, dass der frühe Einsatz von KI-Agenten wie dem Salesforce Agentforce Service Agent für die große Anzahl von Anwendungsfällen mit geringerem Risiko und geringerer Komplexität erfolgen wird, beispielsweise für die automatische Erfassung der Informationen, die ein Kundendienstmitarbeiter für die Bearbeitung eines Chats oder Telefonanrufs benötigt und Anzeigen dieser Informationen auf dem Bildschirm.
Der KI-Agent verwendet einen Wissensgraphen, um die gezielten Inhalte zu präsentieren, die der menschliche Agent benötigt, um dem Kunden zu helfen. Ein anderer KI-Agent formuliert eine E-Mail- oder SMS-Folgenachricht, die der menschliche Agent prüfen und genehmigen kann. Am Ende der Interaktion wird ein weiterer KI-Agent das Gespräch zusammenfassen.
Eine weitere Reihe von Anwendungsfällen wird für die nächste Generation von Chatbots gelten. Aktuelle Chatbots verfügen über starre Wissensbasen und versuchen, die Absicht des Kunden zu erraten. Sie sind jedoch schlecht im Umgang mit multimodalen Interaktionen, die Bilder und andere Medien erfordern. Die aufkommenden KI-Agenten-Bots verfügen über intelligente Wissensantworten, womit wir meinen, dass sie nicht nur Fragen beantworten, sondern auch Aktionen ausführen. Sie basieren zwar auf LLMs, aber die Eingabeaufforderungen sind in mehrfacher Hinsicht viel umfangreicher. Hier sind vier sehr coole Eigenschaften der neuen Eingabeaufforderungen:
- Eingabeaufforderungen kennen die Rolle der fragenden Person (oder die Berechtigungen eines anderen KI-Agenten, der die Frage stellt) und können den Zugriff auf bestimmte Informationen für die Antwort zulassen, auf andere jedoch nicht.
- Eingabeaufforderungen nutzen fortschrittliche Modellierung natürlicher Sprache und sind multimodal. Sie können sich auf das für den spezifischen Kontext relevante Wissen konzentrieren und mit einer Kombination aus Text, Audio und Bildern antworten.
- Eingabeaufforderungen können eine Reihe von Aktionen ausführen, z. B. „Anspruchsformular aufrufen“, „Bestellstatus abrufen“ oder das angehängte Foto analysieren.
- Eingabeaufforderungen können auf der Grundlage von Datenschutz-, Compliance- oder anderen Branchenvorschriften erfolgen.
Ein wertvoller Nebeneffekt dieser Filterung ist, dass die Rechenleistung stark reduziert wird, was gut für die Umwelt ist.
Obwohl ich den Kundenservice erwähnt habe, gibt es Dutzende anderer Verwendungsmöglichkeiten, wie z. B. das Verfassen von Vertriebs-Follow-up-E-Mails, das Durchsuchen einer Gruppe von Telefonanrufen, das Erstellen dynamischer Marketingsegmente und der richtigen Botschaft für jedes Segment sowie für Programmierer: die Übersetzung natürlicher Sprache in Code.
Bei diesen Beispielen drehte sich alles um das „Was“. Um vorherzusagen, wann KI-Agenten zum Mainstream werden, können wir dies anhand von Geoffrey Moores „Crossing the Chasm“ betrachten. Er weist darauf hin, dass es Technologieinnovatoren gibt, deren Anteil an allen IT-Führungskräften normalerweise im niedrigen einstelligen Bereich liegt, die voranschreiten und neue Technologien annehmen. Hinter diesen innovativen Schocktruppen stehen Early Adopters, die ihre innovativen Kollegen sehen und deren Erfolge kopieren wollen.
Auf hoher Ebene wird irgendwann in den nächsten Quartalen die Faszination für KI-Agenten, die die Early Adopters angetrieben hat, einer breiteren Diskussion unter den Early Adopters über Budgets und Innovationsbandbreite weichen. Die meisten Unternehmen sind nur sehr begrenzt in der Lage, Ressourcen für neue IT-Projekte bereitzustellen, die neue Prozesse und neue Lieferantenbeziehungen erfordern. Sie werden dies tun, wenn dramatisch neue Möglichkeiten versprochen werden, beispielsweise neue Geschäftsmodelle, bei denen eine hohe Wahrscheinlichkeit für Umsatzwachstum oder betriebliche Effizienz besteht.
Sofern eine Konjunkturabschwächung den technologischen Innovationszyklus nicht behindert, sollten die Early Adopters bis Ende 2024 damit beginnen, Pläne für groß angelegte KI-Agent-Projekte umzusetzen, und da die Erfolgsgeschichten branchenübergreifend besser verstanden werden, können wir mit dem zweiten rechnen Die Hälfte des Jahres 2025 ist die Zeit, in der skalierte und koordinierte KI-Agentenprogramme in mehreren Abteilungen und Geschäftsbereichen umfassender eingesetzt werden.
Damit bleiben wir bei der Mehrheit der Käufer - über 80 % -, die sich zurücklehnen, bis die Auswirkungen der IT-Änderung besser bekannt sind, die Geschäftsvorteile klarer sind und die tatsächlichen Kosten zuverlässiger geplant werden können.
Generative KI (Gen AI) ist seit 18 Monaten bei uns, aber viele Unternehmen haben es versucht und viele sind gescheitert. Manche mögen diesen Prozess als Experimentieren bezeichnen, da nur 9 % Anwendungsfälle auf eine große Anzahl von Mitarbeitern ausgeweitet haben. Was verursacht das Skalierungsproblem?
ET: Nun, es gibt Fragen der Sicherheit, Voreingenommenheit, Toxizität, Governance-Leitlinien, Einhaltung von Vorschriften, Urheberrecht und Datenherkunft, die Kosten der Tools und in jüngerer Zeit auch Probleme im Zusammenhang mit dem Energieverbrauch LLMs und die Auswirkungen auf Nachhaltigkeitsziele. Das große Problem ist jedoch offensichtlich die Ungenauigkeit der Antworten auf Eingabeaufforderungen, die durch die Daten verursacht wird, auf denen die Modelle basieren. Datenquellen und Qualität sind die Hauptursachen.
Ich habe mit Unternehmen gesprochen, die bei den ersten Tests 40 % genaue Antworten erhielten, und sie haben herausgefunden, dass sich die Genauigkeit um 5 % pro Woche verbessert, wenn die Modelle lernen, Daten von schlechter Qualität entfernen und bessere Datenquellen hinzufügen. Das bedeutet nicht, dass die Mitarbeiter zu 100 % genau sind, aber Sie müssen zumindest in der Genauigkeit mit denen der Mitarbeiter mithalten. Das Ergebnis ist, dass viele Mitarbeiter die ersten Antwortvorschläge, E-Mails oder Zusammenfassungen sehen, zu dem Schluss kommen, dass es Unsinn ist, und sich weigern, sie zu übernehmen. Die Herausforderung für Praktiker besteht also oft darin, ob sie sich kurzerhand einem anderen Anwendungsfall zuwenden müssen, der mit größerer Wahrscheinlichkeit Vorteile bringt, oder ob sie ihm Zeit zum Lernen geben und ihm neue Datenquellen zur Verfügung stellen?
MM: Es gibt einige Realitäten, mit denen sich Unternehmen im Bereich Gen AI auseinandersetzen müssen. Das erste ist die Notwendigkeit, das Risiko jedes Gen-KI-Projekts zu verringern. Dazu ist eine gute Datenverwaltung erforderlich, damit die Daten für die KI vertrauenswürdig sind. Dann müssen Sie in der Lage sein, die Daten zu prüfen. Als nächstes muss es den Test zur ethischen Verwendung bestehen, damit keine Vorurteile in die Ergebnisse einfließen. Es muss eine Datenschutzschicht vorhanden sein. Für ein Unternehmen müssen die Daten für die Gen AI im Gegensatz zu externen Gen AI-Tools „Zero Copy“ sein, d. h. es werden keine Daten gespeichert. Wenn Sie das alles nicht tun können, könnten Sie mit bestehenden oder neuen Vorschriften, wie dem KI-Gesetz der EU, in Konflikt geraten.
Der zweite Faktor ist, dass Menschen Menschen bevorzugen, auch wenn KI genauer ist. Verbraucher bevorzugen einen Richter gegenüber einem Algorithmus, auch wenn Daten zeigen, dass ein Richter weniger konsistent ist als KI. Oder selbstfahrende Fahrzeuge: Die Mehrheit der Menschen gibt an, dass sie ein Auto bevorzugen, wenn es von einem Menschen gesteuert wird, auch wenn das selbstfahrende Fahrzeug zutreffender wäre.
Der letzte Faktor könnte „die menschliche Note“ genannt werden. Für Interaktionen, die von Hilfe bei einer Frage zu einer Rechnung über medizinischen Rat bis hin zu viel technischem Support reichen, suchen Menschen Empathie, Anteilnahme, Transparenz, Verständnis und Vertrauen. Es ist schwierig, diese Merkmale kosteneffizient in Software zu erfassen.
Die Technologien für die neue Welt der vernetzten Kunden sind da. Welcher „weiche“ Faktor könnte die Akzeptanz verlangsamen?
MM: Sie haben Recht, wir haben zwei der drei Elemente des Wandels behandelt: Technologie- und Prozesswandel, und die offene Frage lautet: „Ist das Management bereit, Veränderungen anzunehmen?“ Umfragen aus der Personalabteilung auf der ganzen Welt zeigen, dass Mitarbeiter immer wieder sagen, dass der schlimmste Tag im Monat der Tag ist, an dem sie mit ihrem Vorgesetzten sprechen müssen. Wenn man sich die Gründe genauer ansieht, erkennt man Unsicherheit und mangelnde Transparenz in Bezug auf die wichtigen Kennzahlen, niedrige Löhne oder schlechte Arbeitsbedingungen, einen Mangel an angemessener Ausbildung, das Gefühl, dass Verantwortung nur in eine Richtung wirkt, und das Gefühl, dass der Manager dies nicht tut vertraue ihnen. Leider sind diese realer als gedacht. Ich empfehle eher, sich die Unternehmen mit den glücklichsten Mitarbeitern anzusehen und zu fragen: „Warum sie, und lohnt sich das?“
Teilweise sind die glücklichsten Mitarbeiter auch in den erfolgreichsten Unternehmen tätig, und wir müssen uns fragen, ob sie glücklich sind, weil es mehr Spaß macht, im Gewinnerteam zu sein, oder ob sie im Gewinnerteam sind, weil es zufriedenstellender ist, für dieses Unternehmen zu arbeiten ? ADP, Apple, Ferrari, Costco, BMW, Cisco, Airbus, Rossman, Samsung und Salesforce gehören alle zu den Spitzenreitern bei der Mitarbeiterzufriedenheit und sind allesamt erfolgreiche Unternehmen. Sie sind in sechs verschiedenen Branchen vertreten, das ist es also nicht. Es handelt sich um gut geführte Arbeitskräfte.
Da ist wieder dieses Wort: Manager. Ein Manager - ein guter Manager - muss eine Führungspersönlichkeit sein. Es gibt genügend Forschungsergebnisse von Harvard Business Review und anderen, die sich mit diesem Thema befassen. Aber sie müssen ein Unternehmertyp sein, der immer bereit und offen dafür ist, das zu tun, was Toyota sagt: „Besser, besser, nie das Beste“.
Sie sind gleichermaßen Leiter und Unternehmer ihres Teams. Sie gehen angemessene Risiken ein, um sich zu verbessern, und sie sind nicht in erster Linie für sich selbst im Spiel, sondern für das Wohl des Unternehmens, des Kunden und des Mitarbeiters. Sie neigen außerdem dazu, bei Entscheidungen das große Ganze im Blick zu haben und treffen diese so weit wie möglich in Zusammenarbeit mit ihrem Team.
Schließlich liegt ihnen der Erfolg ihrer direkt unterstellten Mitarbeiter am Herzen. So wie sie Erfolge schnell loben, haben sie auch keine Angst davor, einem Mitarbeiter, der nicht die erforderliche Leistung erbringen kann, dabei zu helfen, andere Möglichkeiten innerhalb oder außerhalb des Unternehmens zu finden. Es ist diese Art von Führungskraft, die ihr Team mutig voranbringen wird, indem sie KI-Agenten als neuen Teil des Teams einbezieht und sich dafür einsetzt, jedes Teammitglied effektiver und erfolgreicher zu machen.
Ed Thompson, Senior Vice President für Marktstrategie bei Salesforce.
ET:Management - wenn ich dieses Thema mit der Einführung von Agenten verbinde, dann ist das ein wirklich interessantes Thema. Die Agententechnologie stellt Manager vor große Herausforderungen. Nicht so sehr, wenn Agenten als Agentenassistenten für Mitarbeiter fungieren, sondern wenn sie Mitarbeiter ersetzen, werden sich die Dinge für Manager ändern. Die begrenzten Belege, die wir bisher haben, belegen, dass es für den Manager eine großartige Möglichkeit ist, leistungsschwache Mitarbeiter im Team zu verbessern, wenn Agenten Assistenten der Mitarbeiter sind und ihnen langweilige, alltägliche Arbeit abnehmen. Für die Leistungsträger sind die Vorteile weitaus geringer. In vielerlei Hinsicht ist es ein Segen für Manager, obwohl Leistungsbeurteilungen schwieriger werden, wenn die leistungsschwächeren Mitarbeiter nun den Leistungsträgern sehr ähnlich sehen.
Von Agenten, die als Full-Agent-Mitarbeiter fungieren, haben wir jedoch noch nicht viele gesehen. Das verändert das Verhältnis zwischen Vorgesetzten und Mitarbeitern völlig. Jetzt muss der Manager entscheiden, ob der Mensch oder der digitale Agent die Arbeit besser erledigen kann. Stellen Sie sich eine Situation vor, in der der Manager jetzt fünf menschliche Mitarbeiter und fünf digitale Agenten im Team hat. Es hört sich auf jeden Fall so an, als würde diese Situation zu mehr Spannungen führen. Es wird die Definition eines guten Managers verändern.
Dann kommt es aber darauf an, welche Arbeitsplätze ersetzt werden. Viele Jobs und Rollen sind unbeliebt. Zu Beginn unserer Karriere werden uns oft die Aufgaben zugewiesen, die uns am wenigsten gefallen. Wird irgendjemand diesen Jobs nachtrauern, die an Agenten gehen? Ebenso werden viele Aufgaben von Auftragnehmern oder Outsourcern ausgeführt, die nicht täglich von internen Managern verwaltet werden.
Ich vermute, dass Job-, Zeit-, Vertrags- und ausgelagerte Mitarbeiter einige der ersten Rollen sein werden, mit denen beim Einsatz von Agenten experimentiert wird. Was aber, wenn die Agentenmitarbeiter die Jobs ersetzen, die jeder anstrebt, und dabei diejenigen überholen, die hoffen, in diese Rollen befördert zu werden? Dann wird die Arbeit des Managers sehr schmerzhaft.
Meiner Ansicht nach hängt die Wirkung, die Agenten auf Manager und Mitarbeiter haben, von der Geschwindigkeit der Einführung ab. Wenn ein Unternehmen wie Klarna beschließt, in weniger als zwei Jahren 50 % seiner Mitarbeiter zu ersetzen, wird dies wahrscheinlich schmerzhaft für Mitarbeiter und Manager sein, auch wenn es für Investoren und Führungskräfte großartig ist. Wenn das über ein Jahrzehnt hinweg geschieht, ist das ganz anders. Heutzutage stellt niemand den Self-Checkout in Supermärkten in Frage - aber es dauerte ein Jahrzehnt, bis er eingeführt wurde. Daher gehe ich davon aus, dass die Zufriedenheit und Unzufriedenheit des Managements von der Geschwindigkeit der Umsetzung abhängt.
This article was co-authored by Ed Thompson, who is a senior vice president of market strategy at Salesforce, andMichael Maoz, who is senior vice president of innovation strategy atSalesforce.