Generative KI ist alles, überall und alles gleichzeitig
Unternehmen wollen generative KI nutzen und sind bereit, alles zu tun, um auf dieser Welle mitzureiten.
Wird die generative KI von Dauer sein? Die meisten Anzeichen deuten auf Ja hin. Aber in welcher Funktion? Die Entscheidung darüber liegt bei den Technologieentwicklern und der gesamten Branche. Doch während das Silicon Valley auf dieser Welle reitet, schnappen sich große und kleine Unternehmen ein Surfbrett und fangen Wellen ein.
Einige entwickeln ihre eigenen großen Sprachmodelle für den breiten Einsatz oder integrieren generative KI in den Ethos ihrer Produkte. Und andere? Nun ja, sie sagen nur Dinge, wirklich alles, um aus dem Schlagwort des Tages Kapital zu schlagen.
Aber das Aufkommen jeder neuen Technologie bringt schlechte Akteure mit sich, die die Ignoranz neuer, naiver Investoren und das Potenzial für schnelle Gewinne erkennen. Hier kommt das AI-Washing ins Spiel: Unternehmen werben gegenüber Verbrauchern fälschlicherweise damit, dass ein Produkt oder Unternehmen KI enthält, obwohl dies in Wirklichkeit nicht der Fall ist. Bescheidene Verbraucher werden den Preis zahlen, wenn KI-Waschen zum Mainstream wird.
Um den KI-Betrügereien immer einen Schritt voraus zu sein, äußern sich Beamte und Technikexperten zu den Warnungen und Warnsignalen, auf die man achten sollte. Wir untersuchen, wie Verbraucher sich schützen können und wie Unternehmen übertriebene KI-Behauptungen vermeiden können.
Nicht so intelligent, aber definitiv künstlich
Nehmen Sie zum Beispiel diese aktuelle Klage der Federal Trade Commission. Im August hat ein Bundesgericht einen Geschäftsplan von Automators AI (ehemals Empire Ecommerce LLC) vorübergehend eingestellt, der darauf abzielte, Verbraucher durch den Verkauf von Geschäftsmöglichkeiten zu täuschen, bei denen angeblich KI zum Einsatz kam.
Die Angeklagten Roman Cresto, John Cresto und Andrew Chapman haben angeblich Verbrauchern 22 Millionen US-Dollar abgezogen und damit gegen die Business Opportunity Rule und den FTC Act verstoßen.
In der FTC-Klage wird behauptet, Roman, John und Chapman hätten sich selbst als Selfmade-Millionäre gepriesen, die sich mit der Skalierung von E-Commerce-Shops Dritter durch Kundeninvestitionen auskennen. Die Website von Empire behauptet, KI-Maschinenlernen in seinen Automatisierungsprozess zu integrieren, um den Umsatz zu steigern und den Geschäftserfolg zu stärken. Aber es war alles nur Schall und Rauch.
Beginnen wir mit dem Marketingmaterial von Empire. Die Anzeigen von Empire enthielten laut Klageschrift „überschwängliche“ Behauptungen über den Gewinn, den Kunden erzielen würden, wenn sie in die „automatisierten“ E-Commerce-Pakete investieren würden, wobei die Anfangsinvestition zwischen 10.000 und 125.000 US-Dollar und die Zusatzkosten zwischen 15.000 und 80.000 US-Dollar lägen.
Das Unternehmen versäumte es, potenziellen Kunden die gemäß der Business Opportunity Rule der FTC erforderlichen Offenlegungsdokumente zur Verfügung zu stellen, heißt es in der Klage. Die meisten Kunden erzielten die vom Unternehmen beworbenen versprochenen Einnahmen nicht zurück und verloren schließlich ihre Investitionen, heißt es in der Klage, und die von Empire gegründeten und verwalteten E-Commerce-Shops wurden wegen Verstößen gegen die Richtlinien geschlossen und schließlich geschlossen. Dann, im November 2022, kurz bevor Empire an einen Drittkäufer verkauft wurde, verloren die Mitarbeiter den Zugriff auf die Unternehmenssoftwaresysteme und John und Roman löschten alle Daten und den E-Mail-Verlauf aus den Aufzeichnungen von Empire.
Aber die Dummheiten und Betrügereien hörten auch nach dem Verkauf des Unternehmens nicht auf. Im Januar 2023 nutzte das Trio dieselben Marketingtaktiken, um für ihr neues Unternehmen Automators AI zu werben. Angeblich bringt das Unternehmen Verbrauchern bei, wie sie mithilfe von KI beliebte Produkte auf E-Commerce-Websites entdecken und jeden Monat einen Umsatz von über 10.000 US-Dollar erzielen können, und weist Verbraucher darin an, wie sie ChatGPT zum Erstellen von Kundenservice-Skripten verwenden können. In den Social-Media-Anzeigen von Automators schildert Roman einen vom Tellerwäscher zum Millionär gewordenen „führenden achtstelligen Amazon-Unternehmer“ und Schöpfer von Vermögensbildungssystemen, der mit 20 das College abgebrochen hat und nun seiner Mutter einen Tesla kaufen und herumreisen kann die Welt in seinem Sportwagen McLaren Spider.
„[Diese Betrügereien] sind nicht neu … Was dieses Mal anders ist, ist, dass die von KI produzierten Inhalte so real sein können“, sagt Andy Thurai, Vizepräsident und Hauptanalyst von Constellation Research, gegenüber ZDNET. „Deep Fakes und andere synthetische Inhalte sind fast echt, es wird selbst für Experten schwierig sein, zwischen echt und gefälscht zu unterscheiden. Es wird für den ahnungslosen, ungebildeten und ungeschulten Bürger schwierig sein.“
Summend wie eine Biene
Das Letzte, was ein Unternehmen sein möchte, wenn eine neue Technologie auf den Markt kommt, ist, dass es auf der Strecke bleibt. Aber was ein Unternehmen oder eine Einzelperson tut, um dieser Technologie einen Schritt voraus zu sein, kann im besten Fall einer Vision und thematischen Integration mangeln und im schlimmsten Fall irreführend und betrügerisch sein.
Im Jahr 2017, als Silicon Valley auf Bitcoin setzte, änderte Long Island Iced Tea Corp. - das Unternehmen, das, wie Sie es erraten haben, Erfrischungsgetränke herstellt - seinen Namen in Long Blockchain Corp., was zu einem Anstieg seines Anteils um 380 % führte Preis (das war auf Insiderhandel zurückzuführen, wie die Securities and Exchange Commission später herausfand). Long Island Iced Tea Corp. sprang auf den Hype auf und teilte den Interessenvertretern mit, dass es die Technologie in seinen Betrieb integrieren werde, ohne Verbindungen zur Kryptowährung oder Fachwissen in irgendetwas anderem als Eistee.
Hier ist noch etwas: Im Jahr 2015 haben der ehemalige stellvertretende Dekan und Professor der MIT Sloan School of Business und sein Sohn, ein Absolvent der Harvard Business School, Investoren um 500 Millionen US-Dollar in die Irre geführt, indem sie fälschlicherweise behaupteten, ihr Hedgefonds habe das Geld der Kunden über einen „Komplex“ investiert „Mathematisches Handelsmodell“, im Wesentlichen KI, das vom ehemaligen Professor entwickelt wurde, so das Justizministerium. Der Hedgefonds tat dies nicht.
Während sich Kryptowährung und Blockchain-Technologie mehr oder weniger als Modeerscheinung mit temporären Anwendungsfällen herausstellten, setzen Experten auf die dauerhafte Kraft der zeitgeistigen generativen KI.
Viele namhafte Technologieunternehmen entwickeln ihre eigenen großen Sprachmodelle, sei es Bing von Microsoft, Bard von Google, der KI-Chatbot von Snapchat oder die neuen Meta-KI-Chatbots. Laut einem Bericht von Bloomberg Intelligence wird generative KI bis 2032 voraussichtlich einen Markt von 1,32 Milliarden US-Dollar erreichen.
„Es ist einfach eine neue Technologie mit viel Versprechen und viel Potenzial“, sagte Olivier Toubia, Professor an der Columbia Business School, der Innovationen erforscht, „und niemand möchte zurückgelassen werden.“ Definitiv nicht Google. Auf seiner jährlichen Entwicklerkonferenz hat das Technologieunternehmen in seiner Keynote mehr als 140 Mal das Wort „KI“ verwendet und damit den Stakeholdern signalisiert, dass es die neue Technologie ernst nimmt, obwohl es zu Beginn des Jahres Probleme mit dem Chatbot gab, bei dem es zu Aktienverlusten kam.
Google betrügt seine Kunden keineswegs und behauptet nicht, dass es KI nutzt, obwohl dies nicht der Fall ist. Aber genau wie der Rest des Silicon Valley ist sich die Suchmaschine bewusst, wie entscheidend dieser Moment für die generative KI ist, und sie ist bereit, alles zu tun, sogar mehr als hundert Mal ein Wort zu sagen, um dies bekannt zu machen.
Kein „echtes Fleisch“ in dem mit KI angereicherten Burger, den Sie essen
Die KI-Klage von Automators ist ein klassisches Beispiel für KI-Wäsche oder wenn ein Unternehmen Nachrichten bewirbt, die, wie Thurai es nennt, „eher eine Augenwischerei sind, ohne dass echte Inhalte dahinterstecken“.
„Viele Unternehmen behaupten, sie seien ‚KI-verbessert, KI-durchdrungen, KI-gesteuert, KI-erweitert oder KI was auch immer‘. „Wenn man unter die Decke schaut, haben die meisten von ihnen kein echtes Fleisch hinter sich“, erklärte Thurai.
Im Gegensatz zur generativen KI, die im vergangenen Jahr unter anderem dank des verbraucherorientierten ChatGPT von OpenAI explodierte, ist KI nichts Neues. Und es ist ein ziemlich zweideutiger Begriff, erklärte Toubia. „Es gibt eine Vielzahl von Dingen, die man als KI oder maschinelles Lernen bezeichnen könnte“, sagte er. „Es gibt einige sehr einfache statistische Methoden, die es schon seit über 100 Jahren gibt und die technisch gesehen genauso clever sein könnten wie KI.“
Angesichts der rätselhaften Natur der generativen KI ist es auch ein kompliziertes Produkt, das patentiert, geprüft oder reguliert werden muss, was die KI-Wäsche noch weiter verschärft. „Unternehmen müssen ihre KI nicht wirklich veröffentlichen oder erklären, weil es sich um ein Geschäftsgeheimnis handelt. Es gibt kein Muster, das man lesen könnte, und wir wissen sozusagen nicht wirklich, was sich unter der Haube verbirgt“, sagte Toubia.
Regulierungsbehörden wie die FTC versuchen sicherlich, die schwerfällige Branche mit branchenweiten Warnungen und Berichten zu kontrollieren. Obwohl er die Ideen hinter den Warnungen schätzt, bezweifelt Thurai, dass die strengen Warnungen und Versäumnisse der FTC durchgesetzt werden, da es schwierig sein wird, sie vor Gericht zu beweisen.
Was generative KI für Unternehmen so attraktiv macht, ist ihr Skalierungspotenzial und ihre Fähigkeit, Routineaufgaben zu automatisieren und Abläufe zu beschleunigen. Die Ironie daran, dass ein Unternehmen fälschlicherweise generative KI in seinen Geschäftsabläufen bewirbt, es aber versäumt, so etwas jemals einzubeziehen, ist die Tatsache, dass ein Unternehmen, selbst wenn es am Ende durch seine angebliche generative KI mehr Kunden gewinnt, keinen der Vorteile daraus zieht Die Technologie sorgt für mehr Kunden und eine weniger effiziente Art, sie zu bedienen.
So achten Sie auf KI-Wäsche
Je mehr Unternehmen generative KI in ihre Geschäftsabläufe integrieren, desto größer wird das Risiko von KI-Washing und falscher Werbung. Es gibt eine Reihe von Fragen, die Sie den Anbietern stellen können, und verschiedene Aspekte, die Sie sorgfältig prüfen sollten, bevor Sie Tausende von Dollar in ein KI-erweitertes Produkt investieren.
Thurai empfiehlt, eine Deep-Dive-Demo durchzuführen und Anbieter zu fragen, welche Algorithmen sie verwenden, wie sie ihre Modelle trainieren, wie sie Daten vorbereiten, wie sie Drift überwachen und wie sie Modelle operationalisieren. „Allein durch Zuhören und Anschauen einer Deep-Dive-Demo weiß man, ob es Schlangenöl oder echt ist“, fügte er hinzu.
Darüber hinaus wies Toubia auf ein weiteres Warnsignal hin, auf das man achten sollte: Wenn ein Unternehmen in seinem Betrieb wirklich generative KI einsetzt, sollten Geschwindigkeit und Umfang seiner Leistung diese Technologie widerspiegeln. Wenn der Betrieb langsam ist und die angeblichen KI-Tools ihn nicht schneller machen, verfügen die Tools möglicherweise nicht über so viel KI wie ursprünglich behauptet.
„Angenommen, es gäbe einen Fall, in dem ein Unternehmen behauptet, KI zu verwenden, aber tatsächlich gibt es auf der anderen Seite einen Menschen, der die Antworten eintippt“, sagte Toubia. „Das wird für die Skalierung des Unternehmens nicht nachhaltig sein. Wenn ein Unternehmen nicht wirklich über wertvolle KI verfügt, wird es diese wahrscheinlich nicht auf dem Markt nachweisen können.“
Bei der Demonstration eines generativen KI-Tools ermutigte Toubia dazu, Experimente durchzuführen, verschiedene Versionen auszuprobieren und Formulierungen oder Aufgaben zu optimieren, um zu sehen, wie oder ob sich die Ergebnisse des Tools ändern.
Für Geschäftsinhaber, die Aufregung ohne Drama wollen, bietet die FTC Anleitungen, wie Unternehmen ihre KI-Ansprüche unter Kontrolle halten können. Die Bundesbehörde schlägt vor, wichtige Fragen zu stellen, z. B. ob Sie übertreiben, was Ihr KI-Produkt leisten kann, oder ob Sie versprechen, dass Ihr KI-Produkt etwas Besseres leistet als ein Nicht-KI-Produkt.
Toubia sagt, dass die Verbraucher klüger werden und solche Machenschaften einfacher vermeiden könnten, wenn die Menschen sich mit der Welt der KI-Betrügereien vertraut machen und Unternehmen sich auf wichtige Anwendungsfälle der generativen KI einlassen.
„Natürlich wird es immer Leute geben, die ungeübt sind und versuchen, die Welle zu erwischen und in diesen Raum investieren oder dort präsent sein wollen, und sie werden zur Zielscheibe der Wäsche sein“, sagte Toubia. „Das wird wahrscheinlich nicht verschwinden. Aber hoffentlich wird es reduziert, wenn der Markt anspruchsvoller wird.“