Bedenken Sie die Vertrauenslücke: Datenbedenken veranlassen Kunden zur Vorsicht gegenüber generativer KI
Ein allgemeiner Mangel an Vertrauen in Datensicherheit und Datenschutz hält Unternehmen davon ab, auf generative künstliche Intelligenz zu setzen.
Generative künstliche Intelligenz (KI) wird als unverzichtbar für Unternehmen angepriesen, um ihre Marktrelevanz sicherzustellen, doch einige zögern aufgrund von Bedenken hinsichtlich Daten und Vertrauen weiterhin, den Schritt zu wagen.
Diese Probleme sind besonders relevant für Unternehmen, die in Branchen mit strengen Data-Governance-Regeln und großen Kundenstämmen tätig sind, was sie dazu zwingt, mit der Einführung generativer KI-Tools trotz ihrer angepriesenen Vorteile abzuwarten.
Die Möglichkeit, Verkaufsberichte beispielsweise über eine Eingabeaufforderung zu erstellen, anstatt sich manuell mit Tabellenkalkulationen herumschlagen zu müssen, bietet ein interessantes Potenzial für generative KI-Tools wie Einstein Copilot von Salesforce, sagte Sarwar Faruque, Leiter der Entwicklungsabteilung bei Jollibee Foods Corporation. Der philippinische Restaurantkettenbetreiber nutzt Heroku von Salesforce zum Erstellen seiner Anwendungen und Mulesoft als Middleware zur Verbindung seiner Anwendungen, einschließlich ERP- und Bestellverwaltungssystemen.
Jollibee beschäftigt 15.000 Mitarbeiter und betreibt weltweit fast 4.000 Geschäfte in 34 Ländern. Da die Anwendungen überwiegend in der Cloud laufen, unterhält das Unternehmen bis auf ein kleines Intranet keine eigenen Rechenzentren.
Faruque sieht auch Potenzial für den Einsatz von KI in der Fertigung, wo sie die Effizienz ihrer Produktionspipeline und Montage steigern kann. Beispielsweise kann KI dabei helfen, die Lebensmittelqualität zu überwachen und die Nachfrage vorherzusagen.
Sein Interesse am möglichen Einsatz von KI bleibt jedoch auf Backend-Operationen beschränkt. Faruque besteht darauf, generative KI von Kundeninteraktionen und kundenorientierten Abläufen fernzuhalten - zumindest vorerst.
Da die Technologie noch in den Kinderschuhen steckt, gibt es noch viel zu verstehen und zu verarbeiten, bemerkte er.
„Wir sehen die Ausgabe [und die Antworten], die es generiert, aber wir verstehen nicht wirklich, wie [es zur Antwort kam]“, sagte er. „Es gibt diese Black Box … sie muss entmystifiziert werden. Ich möchte wissen, wie sie funktioniert, wie sie zu ihrer Antwort kam und ob diese Antwort [jedes Mal, wenn die Frage gestellt wird] wiederholbar ist.“
Derzeit sei dies nicht der Fall, sagte er und fügte hinzu, dass auch das Risiko einer Halluzination Anlass zur Sorge gebe. Und da es keinen Sicherheitsvorfall gebe, sei wenig darüber bekannt, ob es irgendwelche inhärenten Cybersicherheitsprobleme gebe, die gelöst werden müssten, bemerkte er.
„Im Moment gibt es einfach viel Marketing-Hype“, sagte Faruque und fügte hinzu, dass es nicht ausreiche, einfach nur über „Vertrauen“ zu sprechen, ohne Einzelheiten darüber anzugeben, was das genau bedeute.
Er forderte KI-Anbieter auf, zu erklären, wie ihre großen Sprachmodelle gebildet werden, welche Daten sie verbrauchen und was genau sie tun, um Antworten zu generieren. „Sie müssen aufhören, so zu tun, als wäre es Magie, wenn ein Code dahintersteckt und wissenschaftliche Erkenntnisse dahinterstecken“, sagte er. „Helfen Sie uns, es zu verstehen, denn wir übernehmen nicht gerne eine Technologie, von der wir kein solides Verständnis haben.“
Er betonte die Notwendigkeit von Rechenschaftspflicht und Transparenz sowie Garantien, dass die Daten der Kunden, die zum Trainieren von KI-Modellen verwendet werden, nicht veröffentlicht werden. Dies ist insbesondere für Organisationen von entscheidender Bedeutung, die die Datenschutzbestimmungen in ihrer örtlichen Gerichtsbarkeit einhalten müssen.
Bis diese Probleme gelöst seien, sagte er, er sei nicht bereit, die Daten seiner eigenen Kunden einem Risiko auszusetzen.
Auch das Ministerium für Handel und Industrie (MTI) Singapurs nimmt Vertrauen ernst, insbesondere im Hinblick auf Datenschutz und Sicherheit. Dem Ministerium unterstehen zehn Regierungsbehörden, darunter EDB und das Singapore Tourism Board.
Insbesondere müssen die Daten des Ministeriums in Singapur aufbewahrt werden, und dies erweist sich als große Hürde bei der Gewährleistung der Datensicherheit und -verwaltung, sagte Sharon Ng, CIO der MTI-Ministeriumsfamilie. Das bedeutet, dass alle KI- und großen Sprachmodelle, die es verwendet, in einer eigenen Umgebung gehostet werden sollten, auch solche, die von US-Anbietern wie der Einstein Copilot-Plattform von Salesforce betrieben werden.
Wie Faruque betonte auch Ng die Notwendigkeit von Transparenz, insbesondere in Bezug auf die Einzelheiten der Funktionsweise der Sicherheitsschicht, einschließlich der Art der Verschlüsselung und der Frage, ob Daten gespeichert werden, bemerkte sie.
Ihr Team untersucht derzeit, wie generative KI-Tools, einschließlich der von Salesforce, dem Ministerium zugute kommen können, das weiterhin offen für die Verwendung verschiedener auf dem Markt verfügbarer KI- und großer Sprachmodelle ist. Dies wäre kostengünstiger als der Bau eigener Modelle und würde die Markteinführungszeit verkürzen, sagte sie.
Die Verwendung eines beliebigen KI-Modells unterliege jedoch immer noch Vertrauens- und Sicherheitserwägungen, stellte sie fest. MTI führt derzeit generative KI-Pilotprojekte durch, die darauf abzielen, die betriebliche Effizienz zu verbessern und Arbeitsaufgaben in allen seinen Agenturen zu erleichtern.
Für das Telekommunikationsunternehmen M1 in Singapur ist die Bereitstellung eines besseren Kundenservice der klare KPI für generative KI. Wie bei MTI und Jollibee seien jedoch Datenkonformität und Vertrauen von entscheidender Bedeutung, sagte Jan Morgenthal, Chief Digital Officer von M1. Das Telekommunikationsunternehmen führt derzeit Proof-of-Concepts durch, um zu bewerten, wie generative KI die Interaktionen seines Chatbots mit Kunden verbessern kann und ob es neben Englisch weitere Sprachen unterstützen kann.
Das bedeute, mit Anbietern zusammenzuarbeiten, um die Parameter herauszufinden und zu verstehen, wo die großen Sprach- und KI-Modelle eingesetzt werden, sagte Morgenthal. Ähnlich wie MTI und Jollibee muss auch M1 Vorschriften einhalten, die vorschreiben, dass einige seiner Daten, einschließlich der auf Cloud-Plattformen gehosteten Daten, auf seinem lokalen Markt gespeichert sein müssen.
Dies erfordere, dass das Training von KI-Modellen in der Netzwerkumgebung von M1 durchgeführt werde, sagte er.
Das Telekommunikationsunternehmen in Singapur müsse auch vorsichtig sein mit den Daten, die zum Trainieren der Modelle und der generierten Antworten verwendet werden, und diese sollten getestet und validiert werden, sagte er. Diese müssen nicht nur anhand der vom Anbieter vorgegebenen Richtlinien wie dem Trust Layer von Salesforce überprüft werden, sondern auch anhand der Leitplanken, die die M1-Muttergesellschaft Keppel eingeführt hat.
Behebung der Vertrauenslücke bei der generativen KI
Solche Bemühungen werden sich angesichts des sinkenden Vertrauens in den Einsatz von KI als entscheidend erweisen.
Laut einer letzten Monat veröffentlichten Salesforce-Umfrage sind sowohl Unternehmen als auch Verbraucher heute weniger aufgeschlossen für den Einsatz von KI als zuvor. Etwa 73 % der Geschäftskäufer und 51 % der Verbraucher sind empfänglich für die Technologie, die zur Verbesserung ihrer Erfahrungen eingesetzt wird, ein Rückgang gegenüber 82 % bzw. 65 % im Jahr 2022.
Und während 76 % der Kunden darauf vertrauen, dass Unternehmen ehrliche Aussagen zu ihren Produkten und Dienstleistungen machen, vertrauen nur 57 % darauf, dass sie KI ethisch vertretbar einsetzen. Weitere 68 % glauben, dass Fortschritte in der KI es für Unternehmen wichtiger gemacht haben, vertrauenswürdig zu sein.
Die Vertrauenslücke sei ein großes Problem und ein großes Problem für Unternehmen, sagte Tim Dillon, Gründer und Direktor von Tech Research Asia, und verwies auf die Gegenreaktion, die Zoom erlebte, als das Unternehmen seine Nutzungsbedingungen änderte und ihm das Recht gab, die Video- und Audiodaten seiner Benutzer zu verwenden und Chat-Daten, um seine KI-Modelle zu trainieren.
Anbieter generativer KI würden ein ähnliches Szenario vermeiden wollen, sagte Dillon in einem Interview mit ZDNET am Rande der Dreamforce 2023, die diese Woche in San Francisco stattfand. Marktteilnehmer wie Salesforce und Microsoft haben Anstrengungen unternommen, um die Vertrauenslücke zu schließen, was seiner Meinung nach ein positiver Schritt nach vorne sei.
Neben der Lösung von Vertrauensproblemen sollten Organisationen, die generative KI einführen möchten, auch die Implementierung eines Änderungsmanagements in Betracht ziehen, bemerkte Phil Hassey, CEO und Gründer des Forschungsunternehmens CapioIT.
Dies sei ein Bereich, der in der Diskussion oft außer Acht gelassen werde, sagte Hassey gegenüber ZDNET. Unternehmen müssen die damit verbundenen Kosten und Fähigkeiten ermitteln, die sie erwerben müssen, sowie die Rollen, die infolge der Einführung generativer KI neu qualifiziert werden müssen.
Eine geeignete Change-Management-Strategie sei der Schlüssel zur Gewährleistung eines reibungslosen Übergangs und zur Bindung von Talenten, sagte er.
Eileen Yu lebt in Singapur und berichtete auf Einladung von Salesforce.com für ZDNET von Dreamforce 2023 in San Francisco.