KI-Waschen ist ein schmutziges Geschäft. Der COO von Lenovo erklärt, wie man das vermeidet

Linda Yao von Lenovo sprach mit ZDNET über die Mythen und Missverständnisse der KI. So vermeiden Sie Irreführungen.

Ob es in jedem Fall beeindruckend ist oder nicht, künstliche Intelligenz (KI) scheint überall zu sein. Einiges von dem, was als KI vermarktet wird, ist jedoch nicht einmal wirklich KI - es handelt sich lediglich um ein Produkt, auf das das Etikett geklebt wird, um das Interesse und die Aufmerksamkeit zu steigern.

Diese Praxis, übermäßige Behauptungen über KI aufzustellen, wird als AI-Washing bezeichnet. Obwohl es harmlos erscheinen mag, kann AI-Washing die Integrität von KI-Lösungen beeinträchtigen, es schwieriger machen, zu erkennen, was wirklich funktioniert, und es erschweren, wie wir den Erfolg dieser sich entwickelnden Technologie bewerten.

Ich hatte die Gelegenheit, mit Linda Yao von Lenovo, COO und Head of Strategy für das Solutions & Services-Geschäft und Vice President von Al Solutions & Services, über das Konzept zu sprechen, was es für das Unternehmen bedeutet, worauf man achten sollte und was man tun kann Tun Sie dies, um sicherzustellen, dass Ihre KI-Bemühungen transparent und glaubwürdig sind.

ZDNET: Bitte stellen Sie sich vor und geben Sie uns einige Hintergrundinformationen zu Ihrer Rolle bei Lenovo.

Linda Yao: Als Teil des wachstumsstärksten Unternehmens von Lenovo bin ich für den Aufbau der KI-Services-Praxis verantwortlich, damit wir gemeinsam mit unseren Kunden weiterhin Innovationen entwickeln, um ihre interessantesten Herausforderungen zu lösen.

Unser KI-Kompetenzzentrum verfügt über Kernkompetenzen in den Bereichen Sicherheit, Menschen, Technologie und Prozesse, die Kunden bei der Implementierung der richtigen KI-Strategien und -Lösungen für ihre Anwendungsfälle unterstützen. Unsere Mission ist es, Organisationen dabei zu helfen, erfolgreich von KI-Konzepten zu echten Ergebnissen zu gelangen, indem wir KI schnell, verantwortungsbewusst und sicher skalieren.

Darüber hinaus leite ich Strategie und Betrieb der Geschäftseinheit, was reichlich Gelegenheit bietet, meinen eigenen Champagner zu trinken und KI einzusetzen, die unsere Betriebsprozesse und das Kundenerlebnis verändert.

ZDNET: Wie definieren Sie AI-Washing und warum ist es ein wachsendes Problem in der Technologiebranche?

LY: Das Versprechen der künstlichen Intelligenz hat unsere Fantasie schon lange beflügelt, insbesondere jetzt, da generative KI sowohl auf organisatorischer als auch auf persönlicher Ebene für uns leicht zugänglich geworden ist. Da ihr Potenzial scheinbar unbegrenzt ist, besteht der Drang, diese neu entdeckte Technologie als Heilmittel für alles zu betrachten.

Während die Daten von Lenovo zeigen, dass nahezu jedes Unternehmen seine Investitionen in KI erhöht, zeigen sie auch, dass drei von fünf dieser Unternehmen nicht zuversichtlich sind, was den Return on Investment (ROI) angeht. Es ist noch nicht klar, ob diese KI-Implementierungen ihren Unternehmen sinnvolle Geschäftsergebnisse liefern.

Da die Auswirkungen von KI noch nicht genau definiert sind und die Technologie selbst nicht für alle transparent ist, lassen wir Raum für Interpretation und Ausschmückung. Auf diese Weise stellt der Begriff „KI-Washing“ eine Parallele zum „Greenwashing“ dar, bei dem Unternehmen spekulative Behauptungen über die Umweltvorteile ihrer Produkte aufstellen könnten.

Auch wenn ich nicht glaube, dass dies schändlich geschieht, kann AI-Washing zu Skepsis und Misstrauen bei Verbrauchern und Stakeholdern führen und die Wertschätzung und das Vertrauen in echte KI-Fortschritte schmälern, die in der Pipeline sind.

ZDNET: Welche langfristigen Auswirkungen hat AI-Washing für Unternehmen und Verbraucher?

LY: Für Unternehmen besteht eine echte Angst, etwas zu verpassen (FOMO). Das Risiko von AI-Washing besteht darin, dass es die Aufmerksamkeit und Ressourcen des Managements von praktischen KI-Innovationen ablenken kann. Anstatt in die Entwicklung sinnvoller KI-Funktionen zu investieren, könnten Anbieter zu Fehlinvestitionen oder oberflächlichen Verbesserungen verleitet werden, die den tatsächlichen Fortschritt, den sie mit der Technologie erzielen könnten, verlangsamen.

Für Unternehmen auf der Empfängerseite erschwert KI-Washing die Entscheidungsfindung. Diesen Unternehmen fällt es unter Umständen schwer, im Trubel wirklich wertvolle KI-Lösungen zu finden, was möglicherweise dazu führt, dass Investitionen in enttäuschende Technologien verschwendet werden. Dies kann die Bemühungen zur digitalen Transformation behindern, Innovationen ersticken und die Geschäftsleistung gefährden.

Sowohl Anbieter als auch Geschäftsanwender können von der Zusammenarbeit mit vertrauenswürdigen KI-Partnern profitieren, die proaktive Schritte für einen verantwortungsvollen Umgang mit KI unternehmen, aber auch einen ethischen Ansatz bei der Beratung zu den richtigen KI-Entscheidungen verfolgen.

Die Auswirkungen des AI-Washings auf die Verbraucher treffen näher: Datensicherheits- und Datenschutzrisiken durch schlecht konzipierte KI-Technologie sowie mangelhafte Benutzererfahrungen oder Desillusionierung gegenüber einer Technologie, die die Qualitätserwartungen nicht erfüllt. Verbraucher werden nach Marken suchen, denen sie vertrauen, nach Technologien und Formfaktoren, die ihnen in der Vergangenheit gute Dienste geleistet haben, nach Schulungs- und Lernmöglichkeiten, um KI zugänglicher zu machen, und nach Transparenz seitens ihrer Anbieter über die KI-Nutzung.

ZDNET: Wie können Unternehmen sicherstellen, dass ihre KI-Ansprüche zutreffend und ethisch einwandfrei sind?

LY: Zunächst muss man sich darüber im Klaren sein, dass die Einführung wirkungsvoller generativer KI-Lösungen in einem Unternehmen nicht einfach ist und die Skalierung geradezu schwierig sein kann. Verglichen mit der KI-Reife der Mitarbeiter, Prozesse und Sicherheitsrichtlinien eines Unternehmens ist die Einführung der Technologie möglicherweise sogar der am wenigsten anspruchsvolle Teil.

Tatsächlich hat die globale CIO-Studie von Lenovo gezeigt, dass 76 % der CIOs sagen, dass ihre Organisationen keine KI-fähige Unternehmensrichtlinie für den betrieblichen oder ethischen Einsatz haben. Es gibt nur wenige Allheilmittel oder schnelle Lösungen, daher ist es ein wichtiger Schritt zu erkennen, dass es sich um einen schrittweisen Prozess und eine wichtige Offenlegung gegenüber den Kunden handelt. KI-Dienstleister sollten transparent darüber sein, welche Tools, Daten und Methoden verwendet werden, und Unternehmen sollten erwägen, ihre eigenen KI-Richtlinien mit einer Haltung zur Nutzung festzulegen.

Lenovos eigene Prozesse sind darauf ausgerichtet, eine sichere, ethische und verantwortungsvolle KI-Entwicklung und -Nutzung zu gewährleisten, und diese Best Practices unterstützen unsere Arbeit mit Kunden auf ihrem Weg zur KI-Einführung.

ZDNET: Wie untergräbt AI-Washing das wahre transformative Potenzial der KI-Technologie?

LY: KI-Wäsche kann das Geschönte mit der Realität vermischen. Dadurch besteht weiterhin das Risiko einer KI-Müdigkeit, die insgesamt den „Tiefpunkt der Desillusionierung“ vertiefen und den Fortschritt und die Investitionen in echte KI-Innovationen behindern würde.

Deshalb halte ich es für wichtig, bei KI-Implementierungen einen praktischen und pragmatischen Ansatz zu verfolgen. Wir verschärfen das Misstrauen und die negativen Auswirkungen des AI-Washings, wenn KI als abstraktes Konzept ohne greifbare Ergebnisse behandelt wird.

Bei Lenovo geht es uns darum, mit nachgewiesener praktischer Erfahrung sinnvolle Geschäftsergebnisse zu liefern und den Einsatz von Technologien wie KI direkt mit diesen Ergebnissen zu verknüpfen.

ZDNET: Welche Strategien können Unternehmen nutzen, um über KI so zu kommunizieren, dass sie ihren tatsächlichen Fähigkeiten und Erfolgen entsprechen?

LY: Unternehmen sollten sich auf faktenbasiertes Messaging, Transparenz, Aufklärung und reale Anwendungsfälle konzentrieren, um ihre KI-Fähigkeiten präzise zu kommunizieren. Teilen Sie spezifische Kennzahlen, Fallstudien und Beispiele aus der Praxis, die die Auswirkungen von KI auf Ihr Unternehmen und Ihre Talente veranschaulichen. Seien Sie transparent über den Entwicklungsprozess, die Datenquellen und die Entscheidungsfindung.

Bei Lenovo glauben wir, dass praktische Erfahrung von entscheidender Bedeutung ist, und wir haben Dutzende realer Anwendungsfälle skaliert und greifbare Geschäftsergebnisse vorweisen können. Wenn Sie unterm Strich Millionen von Dollar erwirtschaftet haben, besteht keine Notwendigkeit für AI-Washing - bewährte Methoden und messbare Auswirkungen sprechen für sich.

ZDNET: Welche Rolle spielt Transparenz beim Aufbau von Vertrauen rund um KI-Initiativen in Unternehmen?

LY: Transparenz ist der Grundstein für Vertrauen in KI-Initiativen. Es entmystifiziert die Technologie, bringt Erwartungen mit der Realität in Einklang und bringt die Menschen als Befürworter statt als Skeptiker mit. Diese Offenheit beruhigt nicht nur die Beteiligten, sondern fördert auch eine fundierte Zusammenarbeit, treibt Innovationen voran und stärkt das Vertrauen in die echten Fähigkeiten der KI.

ZDNET: Können Sie konkrete Maßnahmen erläutern, die Lenovo ergriffen hat, um KI-Washing in seinen Kommunikationen und Praktiken zu vermeiden?

LY: Bei Lenovo stellen wir unsere Transparenz praktisch unter Beweis, indem wir Stakeholdern ermöglichen, die realen Auswirkungen von KI aus erster Hand zu sehen - sei es im Contact Center, in der Fertigung oder im Verkaufsbüro. Wir stärken das Vertrauen in unsere KI-Lösungen und -Methoden durch direkte User Experience.

Lenovo setzt seit mehr als einem Jahrzehnt KI in unserer eigenen IT-Umgebung ein, und unsere Kultur, unseren eigenen Champagner zu trinken, reicht Jahrzehnte davor zurück, also ist das für uns nichts Neues!

ZDNET: Wie geht Lenovo mit den ethischen Überlegungen um, die bei der Entwicklung und Bereitstellung von KI-Lösungen eine Rolle spielen?

LY: KI verändert die Geschäftslandschaft und Lenovo ist sich der Bedeutung einer sicheren und verantwortungsvollen Implementierung von KI bewusst. Letztes Jahr gründete Lenovo das Responsible AI Committee, eine Gruppe von Mitarbeitern mit unterschiedlichem Hintergrund in Bezug auf Geschlecht, ethnische Zugehörigkeit und Behinderung. Gemeinsam überprüfen sie interne Produkte und externe Partnerschaften anhand der Grundprinzipien Vielfalt und Inklusion, Datenschutz und Sicherheit, Verantwortlichkeit und Zuverlässigkeit, Erklärbarkeit, Transparenz sowie ökologische und soziale Auswirkungen.

Wir legen großen Wert auf unsere eigenen Lösungen sowie auf die Arbeit unserer Partner, wobei Diversität, Gerechtigkeit und Inklusion (DEI) Priorität haben. Wir verwenden spezielle Tools, um Verzerrungen in den Daten zu bewerten und Teilpopulationen zu identifizieren, die möglicherweise unterrepräsentiert oder irgendwie segmentiert sind. Ein solches Tool ist AI Fairness 360, eine Open-Source-Software, die KI-Algorithmen und Trainingsdaten auswertet, um Verzerrungen abzumildern.

ZDNET: Was sind einige häufige Missverständnisse über KI, die zum AI-Washing beitragen, und wie können sie behoben werden?

LY: Lassen Sie uns über drei Mythen sprechen:

Mythos: KI kann jedes Problem lösen und liefert sofort einen enormen ROI.

Realität: KI ist bei bestimmten Aufgaben hervorragend, aber kein Algorithmus ist eine universelle Lösung. Seine Vorteile wachsen im Allgemeinen im Laufe der Zeit durch sorgfältige Iterationen. Wir begegnen diesem Problem mit unserer menschenzentrierten Strategie, um Stakeholder über die Stärken und Grenzen von KI aufzuklären. Dabei heben wir unsere eigenen praktischen Erfahrungen beim Einsatz von KI und die realen Anwendungsfälle hervor, die im Laufe der Zeit durch die Einbeziehung der Erkenntnisse weiterhin einen ROI erzielen.

Mythos: KI arbeitet autonom und ohne menschliche Aufsicht.

Realität: Die meisten KI-Lösungen, insbesondere mit generativer KI, erfordern ein gewisses Maß an Governance für eine effektive Implementierung und ethische Nutzung. Auch hier kommt unsere menschenzentrierte Strategie ins Spiel, indem wir Menschen als Experten einbeziehen, die den Einsatz von KI steuern und ihre Ergebnisse interpretieren.

Mythos: Mehr Daten bedeuten bessere KI.

Realität: Die Qualität und Relevanz Ihres Datensatzes sind wichtiger als die schiere Menge. Unsere KI-Services-Praxis hilft Kunden dabei, die Eignung ihrer Daten für KI zu beurteilen und sicherzustellen, dass ihre Datenbestände die gewünschten Geschäftsergebnisse erzielen können. Wenn nicht, helfen unsere Datendienste dabei, sie dorthin zu bringen.

ZDNET: Welche potenziellen Risiken bestehen, wenn das KI-Washing in der Technologiebranche nicht angegangen wird? Wie können Branchenstandards und -vorschriften dazu beitragen, die mit der KI-Wäsche verbundenen Risiken zu mindern?

LY: Industriestandards spielen eine wichtige Rolle bei der Eindämmung von AI-Washing. Anfang dieses Jahres unterzeichnete Lenovo die UNESCO-Empfehlung zur Ethik der künstlichen Intelligenz, eine Verpflichtung, die negativen Auswirkungen von KI „zu verhindern, zu mildern oder zu beheben“, zusätzlich zu spezifischen Maßnahmen zur Behebung von Problemen in möglicherweise bereits eingeführten KI-Lösungen auf dem Markt.

Im Mai dieses Jahres sind wir dem freiwilligen Verhaltenskodex der kanadischen Regierung zur verantwortungsvollen Entwicklung und Verwaltung fortschrittlicher generativer KI-Systeme beigetreten. Dies sind wichtige Verpflichtungen, die die Branche nicht nur für den sicheren und ethischen Einsatz von KI, sondern auch für deren Erklärbarkeit und Transparenz verantwortlich machen.

ZDNET: Welche zukünftigen Trends prognostizieren Sie im Bereich der KI-Ethik und -Governance?

LY: Die KI-Ethik und -Governance wird sich weiterentwickeln und verschärfen, und Unternehmen, die bei der Einführung von KI an vorderster Front stehen, müssen entschlossene Maßnahmen ergreifen, um den Rest der Branche bei der ethischen und verantwortungsvollen Nutzung von KI zu unterstützen. Schauen wir uns im Einzelnen drei Bereiche an.

1. Strengere Vorschriften und Rechenschaftspflicht: Unternehmen müssen immer umfassendere Vorschriften zum Datenschutz, zur Voreingenommenheit und zur ethischen Nutzung einhalten. Sie werden eine klarere Verantwortlichkeit festlegen - durch Chief AI Officers, Chief Responsibility Officers oder auf andere Weise - und es werden Unternehmensrichtlinien festgelegt, die verantwortungsvolle KI-Praktiken gewährleisten. Sie werden wahrscheinlich vertrauenswürdige KI-Berater suchen, die ihnen bei der Definition, dem Benchmarking und der Umsetzung dieser Richtlinien helfen.

2. Ethische Richtlinien und Transparenz: Die Branche wird sich in Richtung standardisierter ethischer Grundsätze bewegen. Organisationen werden Transparenz vorschreiben und eine klare Dokumentation der Schulungs-, Test- und Validierungsprozesse für KI-Modelle bereitstellen. Unabhängige Audits und Zertifizierungen werden stärker zum Einsatz kommen.

3. Faire und ethische KI durch Design: Unternehmen werden sich darauf konzentrieren, Voreingenommenheit zu mildern, Fairness-Techniken zu integrieren und regelmäßige Audits in die KI-Entwicklung zu integrieren. Ethische Überlegungen werden von Anfang an berücksichtigt, um sicherzustellen, dass Probleme während des gesamten KI-Lebenszyklus angegangen werden. Frühanwender wie Lenovo werden diese Bemühungen vorantreiben, Unternehmen dabei unterstützen, Best Practices einzuführen und eine vertrauenswürdige, ethische KI-Landschaft zu fördern.

Was denken Sie? Haben Ihnen Lindas Empfehlungen Anregungen gegeben, wie Sie hochwertige KI-Implementierungen mit Transparenz und solider Governance sicherstellen können? Lass es uns unten in den Kommentaren wissen.

Sie können meine täglichen Projektaktualisierungen in den sozialen Medien verfolgen. Abonnieren Sie unbedingt meinen wöchentlichen Update-Newsletter und folgen Sie mir auf Twitter/X unter @DavidGewirtz, auf Facebook unter Facebook.com/DavidGewirtz, auf Instagram unter Instagram.com/DavidGewirtz und auf YouTube unter YouTube.com/DavidGewirtzTV.