Die Beseitigung von Vorurteilen gegenüber künstlicher Intelligenz ist die Aufgabe aller
Ein Aufruf zu mehr Bewusstsein und Schulungen hinter KI-Einsätzen. Nicht nur für Entwickler und Data Scientists, sondern auch für Produktmanager, Führungskräfte, Marketingmanager und Merchandiser.
Da die Abhängigkeit von KI-basierten Entscheidungen und Abläufen von Tag zu Tag zunimmt, ist es wichtig, einen Schritt zurückzutreten und sich zu fragen, ob alles getan wird, was getan werden kann, um Fairness zu gewährleisten und Vorurteile zu mindern. Es muss ein größeres Bewusstsein und eine größere Schulung hinter KI-Einsätzen geben. Nicht nur für Entwickler und Data Scientists, sondern auch für Produktmanager, Führungskräfte, Marketingmanager und Merchandiser. Das ist das Wort von John Boezeman, Chief Technology Officer bei Acoustic, der seine Erkenntnisse über die Dringlichkeit teilte, KI richtig zu machen.
F: Wie weit sind die Bemühungen der Unternehmen, Fairness zu erreichen und Verzerrungen bei KI-Ergebnissen zu beseitigen?
Boezeman: Der Versuch, Verzerrungen oder Verzerrungen in der KI zu bestimmen, ist ein sehr schwieriges Problem und erfordert viel zusätzliche Sorgfalt, Dienstleistungen und finanzielle Investitionen, um diese Probleme nicht nur zu erkennen, sondern dann auch zu beheben und zu kompensieren. Viele Unternehmen haben unbeabsichtigt verzerrte oder unvollständige Daten in verschiedenen Modellen verwendet. Dies zu verstehen und dieses Verhalten zu ändern, erfordert kulturelle Veränderungen und eine sorgfältige Planung innerhalb eines Unternehmens.
Diejenigen, die nach definierten datenethischen Prinzipien arbeiten, werden gut positioniert sein, um Verzerrungen in der KI zu vermeiden oder zumindest in der Lage zu sein, sie zu erkennen und zu beheben, wenn sie identifiziert werden.
F: Tun Unternehmen genug, um ihre KI-Ergebnisse regelmäßig zu überprüfen? Wie mache ich das am besten?
Boezeman: Da neue Tools rund um die Überprüfbarkeit von KI bereitgestellt werden, werden wir viel mehr Unternehmen sehen, die ihre KI-Ergebnisse regelmäßig überprüfen. Heute kaufen viele Unternehmen entweder ein Produkt, in das eine KI-Funktion oder -Fähigkeit eingebettet ist, oder es ist Teil der proprietären Funktion dieses Produkts, wodurch die Überprüfbarkeit nicht offengelegt wird.
Unternehmen können auch die grundlegenden KI-Funktionen für einen bestimmten Anwendungsfall bereitstellen, in der Regel in diesem KI-Erkennungsgrad. In jedem dieser Fälle ist die Auditierung jedoch in der Regel begrenzt. Wo Auditing wirklich wichtig wird, ist die "Empfehlungs"- und "Handlungs"-Ebene der KI. In diesen beiden Phasen ist es wichtig, ein Auditing-Tool zu verwenden, um keine Verzerrungen einzuführen und die Ergebnisse zu verzerren.
Eine der besten Möglichkeiten, KI zu prüfen, besteht darin, die KI- und ML-Dienste eines der größeren Cloud-Dienstanbieter zu nutzen. Viele dieser Anbieter verfügen über Tools und Tech-Stacks, mit denen Sie diese Informationen verfolgen können. Entscheidend ist auch, dass die Identifizierung von Vorurteilen oder vorurteilsähnlichem Verhalten Teil der Schulung für Datenwissenschaftler und KI- und ML-Entwickler ist. Je mehr Menschen darüber aufgeklärt werden, worauf sie achten müssen, desto besser werden Unternehmen darauf vorbereitet sein, KI-Verzerrungen zu erkennen und abzuschwächen.
F: Sollten IT-Führungskräfte und -Mitarbeiter mehr Schulungen und Sensibilisierung erhalten, um KI-Vorurteile zu beseitigen?
Boezeman: Auf jeden Fall. Sowohl die Datenwissenschaftler als auch die KI/ML-Entwickler müssen in Bezug auf Verzerrungen und Verzerrungen geschult werden, aber es ist auch wichtig, diese Schulung auf Produktmanager, Führungskräfte, Marketingmanager und Merchandiser auszuweiten.
Es ist leicht, in die Falle zu tappen, das zu tun, was man schon immer getan hat, oder nur einen vorurteilszentrierten Ansatz zu verfolgen, wie es viele Branchen in der Vergangenheit getan haben. Aber mit Schulungen zur Linderung von KI-Vorurteilen werden die Mitarbeiter in Ihrem Unternehmen in der Lage sein, Vorurteile zu erkennen, anstatt darauf zu vertrauen, dass alles, was KI produziert, Tatsachen sind. Von dort aus kann Ihr Unternehmen dazu beitragen, die Auswirkungen abzumildern.
F: KI- und maschinelle Lerninitiativen sind bereits seit mehreren Jahren im Gange. Welche Lektionen haben Unternehmen in Bezug auf die produktivste Einführung und Bereitstellung gelernt?
Boezeman: KI ist kein Allheilmittel, um alles zu lösen. Ich habe viele Versuche gesehen, KI auf jeden Anwendungsfall zu werfen, unabhängig davon, ob KI der richtige Anwendungsfall ist, um eine Marketinggeschichte zu ermöglichen, ohne einen echten Mehrwert zu bieten. Der Trick für den erfolgreichen Einsatz einer KI-Lösung ist eine Kombination aus der Qualität der Daten und der Qualität der Modelle und Algorithmen, die die Entscheidungsfindung steuern. Einfach ausgedrückt: Wenn Sie Müll hineinstecken, werden Sie auch Müll rausbekommen. Die erfolgreichsten Bereitstellungen haben einen knackigen Anwendungsfall und klar definierte Daten, mit denen gearbeitet werden kann.
F: In welchen Bereichen des Unternehmens ist KI am erfolgreichsten?
Boezeman: Es gibt viele verschiedene Stadien in der KI, aber die meisten lassen sich auf drei Grundzustände reduzieren: Entdecken, Empfehlen und Automatisches Handeln. Im Moment sehe ich sie am häufigsten in der Entdeckung - Einblicke, Warnungen, Benachrichtigungen - im Weltraum. Das ist der Ort, an dem das System Ihnen mitteilt, dass etwas abnormal oder außerhalb bekannter Muster vor sich geht. Oder etwas tendiert in eine Richtung, die Ihnen wichtig sein sollte. Die Menschen vertrauen dieser Art der Interaktion und des Modells und können problemlos zusammenarbeiten, wenn sie Beweise wollen.
Marketer nutzen KI im Discover-Bereich, um beispielsweise festzustellen, wie erfolgreich ihre Kampagnen sind. Ein weiteres Beispiel ist ein Merchandiser, der eine KI-gestützte Lösung einsetzt, um Betrug oder Probleme mit der Customer Journey zu erkennen.
Wo ich immer noch viel Zögern sehe, ist in den Zuständen "Empfehlen" und "Handeln". Früher besaß ich ein Produkt, das den besten Preis für ein Produkt berechnete und bestellte, um es in einem Webshop anzuzeigen, basierend auf vielen Datenpunkten, von der Menge über die Rentabilität bis hin zur Zeit bis zum Preisnachlass und dem im Lager verwendeten Lagerplatz. Und selbst dieses Produkt könnte, wenn Sie es eingeschaltet haben, automatisch Maßnahmen ergreifen. Wir haben festgestellt, dass viele Merchandiser die Empfehlung gerne sehen, aber sie persönlich Maßnahmen ergreifen wollten und auch mehrere Optionen sehen wollten, und schließlich wollten sie den Entscheidungsbaum sehen, warum das System eine Option empfiehlt. Als wir es zum ersten Mal auf den Markt brachten, hatten wir nicht die Funktion "Warum hat das System XYZ empfohlen?". Bis wir eine Möglichkeit fanden, dem Merchandiser die Möglichkeit zu geben, zu sehen, worauf die Empfehlung basierte, vertrauten sie ihr nicht.
F: Welche Technologien oder Technologieansätze machen den größten Unterschied?
Boezeman: Es gibt viele Unternehmen, die in diesem Bereich tätig sind und jeden Tag neue, wirkungsvolle Technologien erfinden. Spark und Amazon Sagemaker sind zwei Beispiele. Die Technologien, die den größten Unterschied machen, sind jedoch diejenigen, die es Ihnen ermöglichen, Verzerrungen in Ihren KI-Modellen zu erkennen. Wenn KI-Algorithmen voreingenommen sind, können sie zu unfairen und falschen Ergebnissen führen. Wenn Sie in der Lage sind, die Verzerrung im System zu erkennen, können Sie die Situation diagnostizieren und entschärfen. Da die Branche weiter wächst, wird dies eine wichtige Grundausstattung sein, die jeder Technologie-Stack unterstützen muss.