Unternehmen benötigen klare Preisgestaltung, wenn generative KI-Dienste auf den Markt kommen

Transparenz darüber, wie Dienstleistungen genau abgerechnet werden, wird von entscheidender Bedeutung sein, da Unternehmen versuchen, Rechnungsschocks durch den Einsatz generativer künstlicher Intelligenztools zu vermeiden.

Es muss Klarheit darüber herrschen, wie genau generative künstliche Intelligenz (KI) berechnet wird, da Marktteilnehmer ihre Angebote schnell auf den Markt bringen und Unternehmen versuchen, Rechnungsschocks zu vermeiden.

„Transparenz über die Nutzung und das Geschäftsmodell ist etwas, was Unternehmen fordern, damit sie eskalierende versteckte Kosten vermeiden können“, sagte Tim Dillon, Gründer und Direktor von Tech Research Asia. Es bestehe allgemeine Sorge, dass ein verbrauchsbasiertes Modell einen Rechnungsschock erleiden werde, ähnlich wie einige in den frühen Tagen der Cloud mit dieser Herausforderung umgehen mussten, bemerkte er.

Das ist etwas, was Anbieter wie Salesforce herausfinden müssen, wenn sie ihre generativen KI-Serviceangebote erweitern, sagte Dillon in einem Interview mit ZDNET am Rande der Dreamforce 2023, die diese Woche in San Francisco stattfand.

Die Einführung dieser Tools kann innerhalb einer Organisation organisch wachsen und daher zu mangelnder Kontrolle und mangelndem Bewusstsein für deren Nutzung führen. Außerdem gebe es häufig keine Richtlinien, die den Einsatz generativer KI regeln, sagte er und fügte hinzu, dass Untersuchungen darauf hindeuten, dass 40 % der Organisationen im Asien-Pazifik-Raum in Japan informelle Richtlinien für solche Tools haben, während 60 % über formelle Richtlinien verfügen.

Die Besorgnis über den Gesetzesschock werde durch die schwächelnde Konjunktur verschärft, da Unternehmen in der Region mit möglichen Budgetkürzungen konfrontiert seien, bemerkte er. Und wenn die Preise in US-Dollar angegeben sind, kann der Einsatz generativer KI für Unternehmen in einigen Märkten im asiatisch-pazifischen Raum ein teures Unterfangen sein.

Gavin Barfield, ASEAN-Vizepräsident und CTO für Lösungen bei Salesforce, räumte ein, dass die Besorgnis über einen Rechnungsschock berechtigt sei, und sagte, dass Preismodelle immer noch definiert würden, während generative KI-Dienste schrittweise eingeführt würden.

„Wir befinden uns in einem frühen Stadium, daher kämpfen alle Unternehmen mit diesen Problemen“, sagte Barfield gegenüber ZDNET. Er stellte fest, dass die gleichen Probleme bereits bei der Einführung von Cloud-Diensten aufgetreten seien.

„Wenn der Markt und das Produkt ausgereifter werden, werden diese Dinge geklärt“, sagte er und fügte hinzu, dass die Marktteilnehmer Wege finden müssen, die Preise für generative KI-Dienste festzulegen. Salesforce selbst prüft verschiedene Preismodelle, hat sich laut Barfield jedoch vorerst für ein auf Credits basierendes System für einige Dienste entschieden. Wie viele Credits verbraucht werden, hängt davon ab, wie das KI-Modell zum Ausführen der Abfrage aufgerufen wird.

Im Juli gab Salesforce bekannt, dass Sales GPT, das mit Sales Cloud Einstein ausgeliefert wird, für 50 US-Dollar pro Benutzer und Monat erhältlich ist und eine begrenzte Anzahl an Einstein-GPT-Credits beinhaltet. Der mit Service Cloud Einstein ausgelieferte Service GPT kostet ebenfalls 50 US-Dollar pro Benutzer und Monat und beinhaltet eine begrenzte Anzahl an Einstein-GPT-Credits.

Kunden beider generativer KI-Dienste können Enterprise-Erweiterungspakete für mehr Credits erwerben, wenn ihre Nutzung zunimmt.

Da generative KI-Dienste auf einem Nutzungsmodell basieren, ist es von entscheidender Bedeutung, dass Unternehmen ihren Verbrauch überwachen können, sagte Jan Morgenthal, Chief Digital Officer des singapurischen Telekommunikationsunternehmens M1.

Im Gespräch mit ZDNET auf der Konferenz verwies er auf die Notwendigkeit, messen und vorhersagen zu können, wie stark diese Tools in seiner Organisation genutzt werden. M1 nutzt derzeit mehrere KI-Tools verschiedener Anbieter, darunter Salesforce, und testet auch generative KI-Dienste.

Wenn er beispielsweise einen Dollarwert hat, kann er die Anzahl der Abfragen verwalten, die mit diesen Tools gestellt werden sollen.

Morgenthal wies darauf hin, dass es abhängig von der Komplexität eines bestimmten Anwendungsfalls und dem zum Automatisieren oder Generieren einer Antwort erforderlichen KI-Modell im Hinblick auf den ROI (Return on Investment) möglicherweise keinen Sinn ergibt, die Abfrage mit generativer KI zu betreiben.

Dies ist ein Problem, bei dem Unternehmen vorsichtig sein müssen, da sonst die Kosten in die Höhe schnellen können. Die durch die generative KI gewonnene Automatisierung sei dann möglicherweise die Kosten ihrer Bereitstellung nicht wert, sagte er.

Das bedeutet auch, dass Unternehmen die Prozesse, einschließlich der Datenverfügbarkeit, abbilden müssen, die erforderlich sind, um eine Abfrage auszuführen und das gewünschte Ergebnis zu erzielen, damit sie die Kosten für die Anwendung generativer KI auf den Anwendungsfall messen können.

Lassen Sie Kunden ihre eigenen Eingabeaufforderungen erstellen

Salesforce stellte diese Woche eine Vorschau auf neue generative KI-Angebote vor, von denen die Führungskräfte sagten, dass sie es Unternehmenskunden ermöglichen würden, diese Tools einfacher anzupassen, um ihre Abläufe zu unterstützen.

Darunter ist der Einstein Copilot, der als dialogorientierter KI-Assistent angepriesen wird, der in jede Salesforce-Anwendung integriert werden kann und es Benutzern ermöglicht, Fragen in natürlicher Sprache zu stellen.

Antworten werden auf der Grundlage proprietärer Unternehmensdaten generiert, die von Salesforce Data Cloud, früher Genie genannt, bereitgestellt werden. Die Daten-Engine führt alle Datensätze, einschließlich Kundendaten, Telemetriedaten und Slack-Konversationen, zusammen, um eine einheitliche Sicht auf den Kunden zu erstellen.

Laut Salesforce verarbeitet Data Cloud derzeit 30 Billionen Transaktionen pro Monat und verbindet täglich 100 Milliarden Datensätze. Die Daten-Engine ist jetzt nativ in die Einstein 1-Plattform integriert, sodass Unternehmen KI, Automatisierung und Analysen auf jedes Kundenerlebnis anwenden können.

Es ermöglicht Einstein Copilot, Optionen für zusätzliche Aktionen bereitzustellen, die über die Anfrage des Benutzers hinausgehen, beispielsweise einen empfohlenen Aktionsplan nach einem Verkaufsgespräch.

Organisationen, die generative KI-Anwendungen mit ihren eigenen benutzerdefinierten Eingabeaufforderungen, Fähigkeiten und KI-Modellen erstellen möchten, können dies auch über das Einstein Copilot Studio tun. Es umfasst den Prompt Builder, mit dem Benutzer generative KI-Eingabeaufforderungen erstellen und testen können, die auf ihre Unternehmensmarke und ihren Kommunikationsstil abgestimmt sind. Und das ohne technisches Fachwissen, sodass Marketingleiter Prompt Builder bitten können, eine maßgeschneiderte Nachricht basierend auf der Kauf- oder Bestellhistorie eines Kunden zu generieren.

Einstein Copilot Studio umfasst außerdem den Skills Builder, der es Unternehmen ermöglicht, benutzerdefinierte KI-gesteuerte Aktionen zur Ausführung bestimmter Aufgaben zu erstellen. Es kann beispielsweise eine Fähigkeit zur „Konkurrenzanalyse“ erstellen, die aktuelle Marktdaten und Verkaufszahlen analysiert und API-Aufrufe sendet, um Daten aus externen Quellen zu extrahieren.

Darüber hinaus ermöglicht eine Model Builder-Komponente Organisationen, die ihre eigenen KI-Modelle verwenden möchten. Sie können eines der proprietären LLMs (große Sprachmodelle) von Salesforce wählen oder ihre bevorzugten prädiktiven und generativen Partner-KI-Modelle integrieren. Sie können diese auf Daten in der Data Cloud trainieren, ohne Daten zu verschieben oder zu kopieren.

Dies bedeutet, dass Einstein Copilot genauere Erkenntnisse und Inhalte bereitstellen kann, die auf die Mitarbeiter- oder Kundendynamik des Unternehmens zugeschnitten sind.

Model Builder wird schließlich externe LLMs unterstützen, darunter Amazon Bedrock, Vertex AI von Google Cloud, Anthropic und Cohere. Derzeit wird nur OpenAI.W unterstützt

Einstein Copilot befindet sich derzeit in der Pilotphase, während Copilot Studio später im Herbst in die Pilotphase eintreten wird. Erweiterungen der Einstein Trust Layer werden ab Oktober 2023 allgemein auf der Einstein-Plattform des Anbieters verfügbar sein. Für die neuen Angebote sind keine Preisdetails verfügbar.

Data Cloud ist derzeit für Kunden der Enterprise Edition oder höher kostenlos im Lieferumfang enthalten. Es umfasst Funktionen, die es Unternehmen ermöglichen, 10.000 Kundenprofile zu vereinheitlichen, und umfasst zwei Tableau Creator-Lizenzen.

Darüber hinaus wird ein neuer Einstein Trust Layer allen Einstein-Produkten zugrunde liegen und eine sichere KI-Architektur bereitstellen, die laut Salesforce sicherstellen wird, dass die generativen KI-Antworten seiner Kunden auf Qualitätsdaten basieren, die auf potenzielle Verzerrungen sowie Sicherheits- und Datenschutzstandards überprüft werden.

Integriert in die Salesforce Data Cloud mindert der Trust Layer solche Risiken, indem er Daten auf Toxizität und Markenrisiken überprüft, personenbezogene Daten maskiert und Kundendaten nicht speichert.

Laut Salesforce werden die Verbesserungen des Einstein Trust Layer im Oktober 2023 allgemein verfügbar sein.

„Die Realität ist, dass jedes Unternehmen eine KI-Transformation durchmachen wird, um die Produktivität zu steigern, die Effizienz zu steigern und unglaubliche Kunden- und Mitarbeitererlebnisse zu bieten“, sagte Marc Benioff, Vorsitzender und CEO von Salesforce. „Mit Einstein Copilot und Data Cloud machen wir es einfach, leistungsstarke KI-Assistenten zu erstellen und vertrauenswürdige KI in den Arbeitsablauf in jedem Job, Unternehmen und jeder Branche einzubauen. In dieser neuen Welt kann jetzt jeder ein Einstein sein.“

Eileen Yu lebt in Singapur und berichtete auf Einladung von Salesforce.com für ZDNET von Dreamforce 2023 in San Francisco, USA.