Googles Tochtergesellschaft Jigsaw fügt KI-Tools hinzu, um ein schöneres Internet aufzubauen
Könnten minderwertige und bösartige Kommentare der Vergangenheit angehören?
Es ist kein Geheimnis, dass es im Internet eine ganze Reihe von Nutzern gibt, die andere herabwürdigen, wenig hilfreiche Kommentare teilen und in einigen Fällen sogar beleidigend sind. Die Google-Tochter Jigsaw hat am Montag neue Tools veröffentlicht, um den negativen Online-Dialog weiter anzugehen.
Jigsaws Perspective API, die in bestehende Kommentarsysteme, Websites, Apps und andere Plattformen integriert werden kann, nutzt KI, um giftige Kommentare aufzuspüren und Kommentare von Benutzern hervorzuheben, die hilfreich und positiv sind und allgemein zur Konversation beitragen. Das Unternehmen hat nun seine API verbessert, indem es „experimentelle Überbrückungsattribute“ hinzugefügt hat. Dazu gehören zahlreiche neue Bewertungspunkte, darunter die Frage, ob ein Kommentar nuanciert ist oder Neugierde zeigt. Das Modell kann Kommentare auch analysieren, um festzustellen, ob sie eine persönliche Geschichte erzählen, versuchen, etwas zu verstehen, oder „Anderen gegenüber Respekt oder Wertschätzung zeigen“.
Wenn Perspective einen Kommentar aufnimmt, bewertet das Tool den Inhalt anhand einer Reihe von Attributen, einschließlich seines Toxizitätsgrads, ob er beleidigend ist, ob der Kommentar Obszönitäten enthält, ob er sexuell eindeutig ist und nun auch, ob er Neugier weckt oder Nuancen aufweist . Perspective weist dann jedem dieser Attribute eine Bewertung zu, um zu bestimmen, ob eine Person einen Kommentar giftig, profan oder beleidigend finden würde.
„Zum Beispiel könnte ein Kommentar wie ‚Du bist ein Idiot‘ einen Wahrscheinlichkeitswert von 0,8 für das Attribut Toxizität erhalten, was bedeutet, dass 8 von 10 Menschen diesen Kommentar als giftig empfinden würden“, schrieb Jigsaw.
Sobald dem Kommentar eine Bewertung zugewiesen wurde, müssen Benutzer der API festlegen, was mit dem Kommentar geschehen soll. Jigsaw stellt sich ein Szenario vor, in dem Moderatoren Kommentare basierend auf ihren Bewertungen erhöhen oder herabstufen. Mit der Perspective API von Jigsaw können Benutzer außerdem Bewertungsschwellenwerte erstellen, um automatisch Kommentare zu filtern, die die KI als missbräuchlich erachtet.
Websites, einschließlich Social-Media-Plattformen, verwandeln sich oft in Jauchegruben von Benutzern, die sich an hässlichen Debatten, profanen Kommentaren und vielem mehr beteiligen. Während viele Dienste seit Jahren versuchen, das Problem mit Tools wie Benutzer-Upvoting, Filtern oder sogar der Deaktivierung von Kommentaren anzugehen, gab es kaum Fortschritte bei der Reduzierung von Online-Belästigung.
Ob die neuen Tools von Jigsaw in diesem Bereich zu Fortschritten beitragen können, ist unklar. Während Jigsaws Forscher ihre Technologie schon seit langem preisen, gibt es im Online-Diskurs weiterhin Probleme. Darüber hinaus räumt Jigsaw in seiner Dokumentation ein, dass es seinem Tool immer noch an der Fähigkeit mangelt, den Kontext zu verstehen. Während Perspective einen Kommentar objektiv untersuchen kann, um festzustellen, ob er beleidigend ist, ist in vielen Fällen der Kontext wichtiger.
„Wir hoffen, dies in Zukunft nutzen zu können, um die Analyse des Kommentars zu verbessern“, schrieb Jigsaw. „Derzeit nutzen unsere Attribute keinen Kontext, sodass das Senden von Kontext die Bewertungen eines Attributs nicht ändert.“
Die neuen Attribute, die der Perspective API hinzugefügt wurden, stehen Entwicklern jetzt zur Verfügung.