Algorithmen werden bald Ihr Leben bestimmen - und es ruinieren, wenn sie falsch trainiert werden
KI-Systeme, die Daten verwenden, die mit deskriptiver Kennzeichnung trainiert wurden, können zu viel härteren Entscheidungen führen als Menschen. Es ist noch nicht zu spät, das Problem zu beheben.
Bei der Gestaltung von KI-Modellen passiert derzeit etwas, das - sofern es nicht bald behoben wird - katastrophale Folgen für uns Menschen haben könnte, so ein aktuelles Experiment eines interuniversitären Teams von Informatikern der University of Toronto (UoT). und das Massachusetts Institute of Technology (MIT).
Alle KI-Modelle müssen auf riesigen Datenmengen trainiert werden. Es gibt jedoch Berichte, dass die Art und Weise, wie dies geschieht, zutiefst fehlerhaft ist.
Schauen Sie sich um und entdecken Sie die vielen größeren und kleineren Wege, auf denen sich die KI bereits in Ihr Leben eingeschlichen hat. Alexa erinnert Sie an Ihre Termine, Gesundheitsbots diagnostizieren Ihre Müdigkeit, Verurteilungsalgorithmen schlagen Gefängnisstrafen vor und viele KI-Tools haben damit begonnen, Finanzkredite zu überprüfen, um nur einige zu nennen.
Stellen Sie sich vor, in einem Jahrzehnt wird praktisch alles, was Sie tun, einen Algorithmus als Gatekeeper haben.
Wenn Sie also Ihre Bewerbung für die Miete eines Eigenheims oder für ein Darlehen einsenden oder darauf warten, für einen chirurgischen Eingriff oder einen Job ausgewählt zu werden, für den Sie perfekt geeignet sind - und in allen Fällen wiederholt abgelehnt werden, handelt es sich möglicherweise nicht einfach um eine geheimnisvolle und unglückliche Flut von Pech.
Stattdessen könnte die Ursache für diese negativen Ergebnisse darin liegen, dass das Unternehmen, das hinter den KI-Algorithmen steht, bei der Schulung dieser Algorithmen schlechte Arbeit geleistet hat.
Wie diese Wissenschaftler (Aparna Balagopalan, David Madras, David H. Yang, Dylan Hadfield-Menell, Gillian Hadfield und Marzyeh Ghassemi) in ihrem jüngsten Artikel in Science hervorgehoben haben, sind KI-Systeme insbesondere auf die Beschreibung trainiert Daten treffen ausnahmslos viel härtere Entscheidungen als Menschen.
Diese Ergebnisse deuten darauf hin, dass solche KI-Systeme, sofern sie nicht korrigiert werden, in Bereichen der Entscheidungsfindung verheerende Auswirkungen haben könnten.
Trainingsbenommenheit
In einem früheren Projekt, das sich darauf konzentrierte, wie KI-Modelle ihre Vorhersagen rechtfertigen, stellten die oben genannten Wissenschaftler fest, dass die Menschen in der Studie manchmal unterschiedliche Antworten gaben, wenn sie gebeten wurden, den Daten beschreibende oder normative Bezeichnungen zuzuordnen.
Normative Behauptungen sind Aussagen, die klar sagen, was passieren sollte und was nicht („Er sollte viel härter lernen, um die Prüfung zu bestehen.“). Hier handelt es sich um ein Werturteil. Beschreibende Behauptungen konzentrieren sich auf das „Ist“, ohne dass eine Meinung dazu gehört. ("Die Rose ist rot.")
Das verwirrte das Team und so beschloss es, die Sache mit einem weiteren Experiment weiter zu untersuchen. Diesmal stellten sie vier verschiedene Datensätze zusammen, um verschiedene Richtlinien zu testen.
Bei einem handelte es sich um einen Datensatz mit Hundebildern, der für die Regelung einer hypothetischen Wohnung verwendet wurde, die den Zutritt aggressiver Hunde verbietet.
Anschließend versammelten die Wissenschaftler eine Gruppe von Studienteilnehmern, um den Daten in einem Prozess, der die Art und Weise widerspiegelt, wie Daten trainiert werden, „beschreibende“ oder „normative“ Bezeichnungen zuzuordnen.
Hier wurde es interessant.
Die beschreibenden Etikettierer wurden gebeten, zu entscheiden, ob bestimmte sachliche Merkmale vorhanden waren oder nicht - etwa ob der Hund aggressiv oder ungepflegt war. Wenn die Antwort „Ja“ lautete, wurde im Grunde gegen die Regel verstoßen - aber die Teilnehmer hatten beim Abwägen keine Ahnung, dass diese Regel existierte, und waren sich daher nicht darüber im Klaren, dass ihre Antwort einen unglücklichen Hund aus der Wohnung werfen würde.
In der Zwischenzeit wurde eine andere Gruppe normativer Etikettierer über die Richtlinie zum Verbot aggressiver Hunde informiert und dann gebeten, über jedes Bild zu urteilen.
Es stellt sich heraus, dass Menschen ein Objekt weitaus seltener als Verstoß kennzeichnen, wenn sie sich einer Regel bewusst sind, und dass sie einen Hund viel eher als aggressiv (wenn auch unbewusst) registrieren, wenn sie aufgefordert werden, die Dinge beschreibend zu kennzeichnen.
Der Unterschied war auch nicht gering. Deskriptive Etikettierer (diejenigen, die die Wohnungsregel nicht kannten, aber gebeten wurden, ihre Aggressivität einzuschätzen) hatten unabsichtlich 20 % mehr Hunde zu Hundehaft verurteilt als diejenigen, die gefragt wurden, ob das gleiche Bild des Hündchens gegen die Wohnungsregel verstieß oder nicht.
Maschinenchaos
Die Ergebnisse dieses Experiments haben schwerwiegende Auswirkungen auf praktisch jeden Aspekt des menschlichen Lebens, insbesondere wenn Sie nicht zu einer dominanten Untergruppe gehören.
Bedenken Sie beispielsweise die Gefahren einer „Maschinenlernschleife“, bei der ein Algorithmus zur Bewertung von Doktoranden entwickelt wird. Der Algorithmus wird mit Tausenden früherer Bewerbungen gefüttert und lernt unter Aufsicht, wer erfolgreiche Kandidaten sind und wer nicht.
Anschließend wird herausgefunden, wie ein erfolgreicher Kandidat aussehen sollte: Gute Noten, erstklassiger Universitätsstammbaum und rassisch weiß.
Der Algorithmus ist nicht rassistisch, aber die Daten, die ihm zugeführt werden, sind so verzerrt, dass sie die gleiche verzerrte Sichtweise weiter aufrechterhalten: „Nachdem zum Beispiel arme Menschen weniger Zugang zu Krediten haben, weil sie arm sind; und weil.“ Sie haben weniger Zugang zu Krediten und bleiben arm“, sagt der Rechtswissenschaftler Francisco de Abreu Duarte.
Heute ist dieses Problem überall um uns herum.
ProPublica hat beispielsweise darüber berichtet, wie ein in den USA weit verbreiteter Algorithmus zur Verurteilung von Angeklagten fälschlicherweise schwarze Angeklagte als die wahrscheinlichste Rückfallwahrscheinlichkeit auswählte, und zwar fast doppelt so häufig wie weiße Angeklagte, obwohl alle Beweise das Gegenteil bewiesen Zeitpunkt der Verurteilung und in den kommenden Jahren.
Vor fünf Jahren enthüllte die MIT-Forscherin Joy Buolamwini, dass die weltweit eingesetzten Algorithmen des Universitätslabors ein schwarzes Gesicht, auch ihres nicht, tatsächlich nicht erkennen konnten. Dies änderte sich erst, als sie eine weiße Maske trug.
Andere Vorurteile gegen Geschlecht, ethnische Zugehörigkeit oder Alter sind in der KI weit verbreitet - aber es gibt einen großen Unterschied, der sie noch gefährlicher macht als voreingenommene menschliche Urteile.
„Ich denke, die meisten Forscher im Bereich künstliche Intelligenz/maschinelles Lernen gehen davon aus, dass die menschlichen Urteile in Daten und Etiketten voreingenommen sind, aber dieses Ergebnis sagt etwas Schlimmeres aus“, sagt Marzyeh Ghassemi, Assistenzprofessorin für Elektrotechnik und Informatik am MIT und Institut für Medizintechnik und Wissenschaft.
„Diese Modelle reproduzieren nicht einmal bereits voreingenommene menschliche Urteile, weil die Daten, auf denen sie trainiert werden, einen Fehler aufweisen: Menschen würden die Merkmale von Bildern und Texten unterschiedlich kennzeichnen, wenn sie wüssten, dass diese Merkmale für ein Urteil verwendet würden“, fügt sie hinzu .
Sie fällen tatsächlich Urteile, die viel schlimmer sind als bestehende gesellschaftliche Vorurteile, und das macht den relativ rudimentären Prozess der Kennzeichnung von KI-Datensätzen zu einer tickenden Zeitbombe, wenn er unsachgemäß durchgeführt wird.