Die Bekämpfung von Verzerrungen in der KI beginnt bei den Daten
Eine Mehrheit der IT-Führungskräfte gibt an, dass die Datengenauigkeit für den Einsatz von künstlicher Intelligenz von entscheidender Bedeutung ist. Aber nur 6 % gaben an, die volle Datengenauigkeit erreicht zu haben.
Der Drang, unvoreingenommene und verantwortungsvolle künstliche Intelligenz zu liefern, ist bewundernswert, aber es gibt viele Hindernisse zu überwinden. Vor allem ist KI nur so fair wie die Daten, die in sie einfließen.
Angesichts der langsamen Fortschritte bei der Bekämpfung von KI-Voreingenommenheit und -Unfairness könnten Unternehmens- und Technologieführer endlich zu einem Konsens darüber gelangen, dass sie sich auf "verantwortungsvollere" Ansätze für KI konzentrieren müssen. Eine kürzlich von Appen veröffentlichte und von The Harris Poll durchgeführte Umfrage unter 504 IT-Führungskräften zeigt, dass die Besorgnis über die Daten, die zunehmend Entscheidungen über Kunden, Märkte und Chancen beeinflussen, zunimmt. Es deutet auch darauf hin, dass beide Arten von Führungskräften erkannt haben, dass die Daten, die sie haben, tendenziell problematisch sind und Menschen, Gemeinschaften und Unternehmen Schaden zufügen.
Selbst unter den proaktivsten Unternehmen unternimmt die Mehrheit noch keine Schritte, um Vorurteile aus der KI herauszuholen, wie eine Umfrage von McKinsey aus dem Jahr 2021 ergab.
So gaben beispielsweise 47 % der Befragten, also weniger als die Hälfte, an, dass sie Trainings- und Testdaten scannen, um die Unterrepräsentation geschützter Merkmale und Attribute zu erkennen.
Derselbe Prozentsatz gab an, dass Datenexperten in ihrem Unternehmen während der Datenerfassung aktiv nach verzerrten oder verzerrten Daten suchen. Nur 36 % gaben an, dass Datenexperten in mehreren Phasen der Modellentwicklung aktiv nach verzerrten oder verzerrten Daten suchen.
Die Appen-Umfrage zeigt, dass die Beschaffung hochwertiger Daten ein Hindernis für die Entwicklung von KI ist. Eine Mehrheit, 51 %, gab an, dass die Datengenauigkeit für ihren KI-Anwendungsfall entscheidend ist - aber nur 6 % gaben an, die volle Datengenauigkeit zu erreichen (über 90 %). "Viele stehen vor der Herausforderung, mit schlechten Datensätzen eine großartige KI zu entwickeln", so die Autoren der Umfrage. "Um erfolgreich KI-Modelle zu erstellen, benötigen Unternehmen genaue und qualitativ hochwertige Daten. Leider berichten Führungskräfte und Technologen von einer erheblichen Lücke zwischen Ideal und Realität, wenn es darum geht, Datengenauigkeit zu erreichen."
Dennoch ergab die Appen-Umfrage, dass Unternehmen ihren Fokus auf "verantwortungsvolle" KI verlagern. "Bei der Datenethik geht es nicht nur darum, das Richtige zu tun", betonen die Autoren der Umfrage. "Es geht darum, das Vertrauen und die Sicherheit aller entlang der Wertschöpfungskette zu wahren, vom Mitwirkenden bis zum Verbraucher." Fast alle, 93 %, gaben an, dass sie glauben, dass sie verantwortungsvolle KI bereitstellen müssen. Sie berichten, dass sie sich auf die Verbesserung der Datenqualität hinter KI-Projekten konzentrieren, um integrativere Datensätze zu fördern, die dazu beitragen, Vorurteile und Ungerechtigkeiten zu beseitigen. Acht von 10 Befragten bezeichneten die Datenvielfalt als extrem wichtig oder sehr wichtig, und 95 % stimmten zu, dass synthetische Daten ein wichtiger Faktor sein werden, wenn es um die Erstellung inklusiver Datensätze geht.
Leichter gesagt als getan, natürlich; Mindestens 42 % der befragten Technologen gaben an, dass die Phase der Datenbeschaffung über den KI-Lebenszyklus eine große Herausforderung darstellt. Darüber hinaus gaben 90 % an, dass sie ihre Modelle mindestens vierteljährlich neu trainieren.
Dies erfordert auch, den Menschen in der KI-Schleife zu halten. Es besteht ein starker Konsens über die Bedeutung von maschinellem Lernen durch Mensch in der Schleife: 81 % geben an, dass es sehr oder extrem wichtig ist, und 97 % stimmen zu, dass die Bewertung von Menschen in der Schleife für eine genaue Modellleistung wichtig ist.
Interessant ist, dass sich die Kluft zwischen Data Scientists und Führungskräften von Jahr zu Jahr langsam verringert, wenn es darum geht, die Herausforderungen der KI zu verstehen. "Die Betonung, wie wichtig Daten, insbesondere qualitativ hochwertige Daten, die mit Anwendungsszenarien übereinstimmen, für den Erfolg eines KI-Modells ist, hat Teams zusammengebracht, um diese Herausforderungen zu lösen", betonen die Autoren der Umfrage.