Ein Aufruf, mehr menschenzentriertes Design in die künstliche Intelligenz zu bringen
Viele KI-Systeme werden unter der Annahme entwickelt, dass "was auch immer wir von der KI wollen, wir werden den Knopf drücken, und wie von Zauberhand wird sie uns das Ergebnis liefern".
Künstliche Intelligenz sollte nicht durch einen "großen roten Knopf" aktiviert werden müssen, der undurchsichtige Ergebnisse liefert, von denen jeder hofft, dass sie das letzte Wort bei einer bestimmten Frage sind. Vielmehr sollte es unter einem gewissen Grad der Kontrolle von Menschen in der Schleife stehen, die ein Gefühl dafür bekommen können, was die Ergebnisse ihnen sagen.
Das ist das Wort von Ge Wang, außerordentlicher Professor in Stanford, der auf einen menschenzentrierten Designansatz für KI-Anwendungen und -Systeme drängt. In einem kürzlich von Stanford HAI (Human-Centered AI) veranstalteten Webcast fordert Wang KI-Entwickler und -Designer auf, einen Schritt zurückzutreten und die wichtige Rolle des Menschen in der Schleife zu berücksichtigen. "Wir sind so weit von Antworten in der KI entfernt, dass wir die meisten Fragen noch nicht kennen", betont er.
Viele der heutigen KI-Systeme sind um den großen roten Knopf herum konzipiert, sagt er. "Was auch immer wir von der KI wollen, wir werden den Knopf drücken, und wie von Zauberhand wird sie uns das Ergebnis liefern", sagt Wang. Die Wahrnehmung ist, dass "KI diese magische Qualität hat, in dem Sinne, dass sie diese - in Ermangelung eines besseren Wortes - Intelligenz zeigt. Und es ist in der Lage, komplexe Aufgaben zu erledigen. KI ist die leistungsstärkste Mustererkennung, die wir je entwickelt haben."
Die Frage lautet also: "Was wollen wir wirklich von KI?", fährt Wang fort. "Wollen wir ständig Orakel, die uns nur die richtigen Antworten geben, ohne unbedingt ihre Arbeit zu zeigen? Oder wollen wir Werkzeuge? Dinge, die wir nutzen können, um zu lernen, um besser zu werden? Und Werkzeuge, die per Definition für den Menschen interaktiv sind?"
Die Wege, den Menschen stärker in die KI-Schleife einzubeziehen, müssen nicht unbedingt kompliziert sein. Ein sehr effektiver Ansatz wäre die Einführung von "Schiebereglern", die die Benutzeroberflächen von KI-Anwendungen begleiten, schlägt Wang vor. Das Design von KI-Systemen "könnte mit einer einfachen Frage beginnen: 'Könnte ich einen Schieberegler darauf setzen?'", sagt Wang. Was würde das bedeuten? Wie würde das das System nützlicher oder interessanter machen?"
Ein Schieberegler würde es dem Benutzer ermöglichen, die Intensität der auf eine Frage angewendeten KI zu erhöhen - von einer leichten Berührung bis hin zu einer vollständigen KI-Ausgabe. Wang nennt als Beispiel eines Projekts seines Studenten, eines KI-Systems, das juristische Dokumente in einfaches Englisch übersetzt. "Interessant ist die Hinzufügung eines Schiebereglers, der die Juristensprache in die Ausgabe steuert", erzählt er. Der Schieberegler kann das Dokument nahe an seiner ursprünglichen Juristensprache halten, bis hin zu vollständig übersetzter Klartext. "In dem Moment, in dem der Schieberegler hinzugefügt wird, geht es von einem starren Big-Button-System zu einem, das man steuern kann, aber auch eines, bei dem sich verschiedene Menschen mit ihren eigenen Bedürfnissen identifizieren können. Was wäre, wenn unsere Tools es uns ermöglichen würden, das tatsächlich mit unserer KI zu tun?"
Der Vorteil "dieser Art von Human-in-the-Loop-Design besteht darin, dass man oft erhebliche Transparenz darüber gewinnt, wie das System tatsächlich funktioniert", sagt Wand. "Je nachdem, wie man es gestaltet, ist es auch eine Möglichkeit, menschliches Urteilsvermögen auf effektive Weise zu integrieren. Es ist nur ein Druckwägen. Wir sehen das eigentlich jedes Mal, wenn wir versuchen, ein System mit Menschen in der Schleife aufzubauen. Wir sollten das Gewicht vom Aufbau des perfekten Algorithmus auf den großen roten Knopf drücken. Dieses Ding muss nicht perfekt sein, für immer aus der Box, denn weißt du was? Menschen sind in der Lage, die Ausgabe zu verfeinern."
Anpassungen wie Schieberegler, die eine größere menschliche Kontrolle über die KI-Ausgabe ermöglichen, ermöglichen wiederum "fast immer leistungsfähigere Systeme, nicht weniger", fasst Wang zusammen.
KI wird - wie andere fortschrittliche Technologien auch - nicht erfolgreich sein, wenn sie einfach auf die Menschenorganisationen gelegt wird. Die Menschen müssen in der Lage sein, KI-basierte Tools zu nutzen, um Ideen und Ansätze zu entwickeln und zu operationalisieren, die dazu beitragen, eine bessere Welt für ihre Kunden und Mitarbeiter zu schaffen.