Das KI-Transkriptionstool von OpenAI halluziniert übermäßig - hier ist eine bessere Alternative
Ein Forscher „fand Halluzinationen in acht von zehn von ihm untersuchten Audiotranskriptionen“ von Whisper.
Es wurde festgestellt, dass Whisper von OpenAI, ein 2022 eingeführtes Spracherkennungs- und Transkriptionstool mit künstlicher Intelligenz (KI), halluziniert oder Dinge erfindet - so sehr, dass Experten befürchten, dass es im falschen Kontext ernsthaften Schaden anrichten könnte.
Letzte Woche berichtete die AP, dass ein Forscher der University of Michigan „Halluzinationen in acht von zehn von ihm untersuchten Audiotranskriptionen gefunden hat“, die Whisper während einer Studie über öffentliche Versammlungen erstellt hatte.
Der Datenpunkt ist einer von vielen: Ein Ingenieur, der 100 Stunden Whisper-Transkriptionen überprüfte, teilte der AP mit, dass er in etwa 50 % davon Halluzinationen gefunden habe, während ein anderer Entwickler in fast jedem Transkript, das er mit Whisper erstellt hatte, Halluzinationen entdeckte, also insgesamt 26.000 .
Während Benutzer immer damit rechnen können, dass KI-Transkriptoren hier und da ein Wort oder eine falsche Rechtschreibung verstehen, stellten Forscher fest, dass sie „noch nie ein anderes KI-gestütztes Transkriptionstool gesehen haben, das so viel halluziniert wie Whisper“.
Laut OpenAI erreicht Whisper, ein neuronales Open-Source-Netz, „die Robustheit und Genauigkeit der englischen Spracherkennung auf menschlichem Niveau.“ Es ist branchenübergreifend für gängige Arten der Spracherkennung integriert, einschließlich der Transkription und Übersetzung von Interviews und der Erstellung von Videountertiteln.
Durch diese Allgegenwart könnten fabrizierte Texte, falsch zugeschriebene und erfundene Zitate und andere Fehlinformationen schnell über mehrere Medien verbreitet werden, deren Bedeutung je nach Art des Originalmaterials unterschiedlich sein kann. Laut AP ist Whisper in einige Versionen von ChatGPT integriert, in Callcentern, Sprachassistenten und Cloud-Plattformen von Oracle und Microsoft integriert und wurde letzten Monat mehr als 4,2 Millionen Mal von HuggingFace heruntergeladen.
Was noch besorgniserregender ist, sagten Experten der AP, ist, dass medizinische Fachkräfte zunehmend „Flüster-basierte Tools“ verwenden, um Patienten-Arzt-Konsultationen zu transkribieren. Die AP befragte mehr als 12 Ingenieure, Forscher und Entwickler, die bestätigten, dass Whisper Phrasen und ganze Sätze in Transkriptionstexten erfunden hat, von denen einige „rassistische Kommentare, gewalttätige Rhetorik und sogar eingebildete medizinische Behandlungen enthalten können“.
„Niemand möchte eine Fehldiagnose“, sagte Alondra Nelson, Professorin am Institute for Advanced Study.
OpenAI hat sich möglicherweise nicht für medizinische Anwendungsfälle ausgesprochen - das Unternehmen rät „vom Einsatz in Bereichen mit hohem Risiko wie Entscheidungsfindungskontexten ab, in denen Fehler in der Genauigkeit zu deutlichen Fehlern bei den Ergebnissen führen können“ -, sondern das Tool auf den Markt gebracht und dafür geworben haben Seine Genauigkeit bedeutet, dass es wahrscheinlich von mehreren Branchen aufgegriffen wird, die versuchen, die Arbeit zu beschleunigen und, wo immer möglich, Effizienz zu schaffen, ungeachtet der möglichen Risiken.
Das Problem scheint auch nicht auf längeren oder schlecht aufgenommenen Ton zurückzuführen zu sein. Laut AP fanden Informatiker kürzlich einige Halluzinationen in kurzen, deutlichen Audioproben. Forscher sagten der AP, dass der Trend „zu Zehntausenden fehlerhaften Transkriptionen über Millionen von Aufnahmen führen würde“.
„Das volle Ausmaß des Problems ist schwer zu erkennen, aber Forscher und Ingenieure sagten, sie seien bei ihrer Arbeit häufig auf Whispers Halluzinationen gestoßen“, berichtet die AP. Außerdem betonte Christian Vogler, der das Technology Access Program der Gallaudet University leitet und gehörlos ist, dass gehörlose oder schwerhörige Menschen keine Halluzinationen wahrnehmen können, die „unter all dem anderen Text versteckt“ sind.
Die Ergebnisse der Forscher deuten auf ein umfassenderes Problem in der KI-Branche hin: Werkzeuge werden aus Profitgründen zu schnell auf den Markt gebracht, insbesondere während es in den USA immer noch an geeigneten KI-Vorschriften mangelt. Dies ist auch relevant, wenn man die anhaltende Debatte zwischen OpenAI und gemeinnützigen Organisationen und die jüngsten Vorhersagen von Führungskräften bedenkt, die KI-Risiken nicht berücksichtigen.
„Ein OpenAI-Sprecher sagte, das Unternehmen untersuche kontinuierlich, wie Halluzinationen reduziert werden könnten, und schätze die Ergebnisse der Forscher und fügte hinzu, dass OpenAI Feedback in Modellaktualisierungen einbeziehe“, schrieb AP.
Während Sie darauf warten, dass OpenAI das Problem löst, empfehlen wir Ihnen, Otter.ai auszuprobieren, ein von Journalisten vertrauenswürdiges KI-Transkriptionstool, das gerade sechs neue Sprachen hinzugefügt hat. Letzten Monat bemerkte ein langjähriger Otter.ai-Benutzer, dass eine neue KI-Zusammenfassungsfunktion in der Plattform eine Statistik halluzinierte, dieser Fehler jedoch nicht in der Transkription selbst lag. Es kann sinnvoll sein, sich nicht auf diese Funktion zu verlassen, insbesondere da die Risiken zunehmen können, wenn die KI aufgefordert wird, größere Zusammenhänge zusammenzufassen.
In den Transkriptionsleitfäden von Otter.ai werden Halluzinationen nicht erwähnt, lediglich dass „die Genauigkeit aufgrund von Faktoren wie Hintergrundgeräuschen, Sprecherakzenten und der Komplexität des Gesprächs variieren kann“ und Benutzern empfohlen wird, „die Transkriptionen zu überprüfen und zu bearbeiten, um dies sicherzustellen.“ absolute Genauigkeit, insbesondere bei kritischen Aufgaben oder wichtigen Gesprächen.“
Wenn Sie ein iPhone haben, ermöglicht das neue iOS 18.1 mit Apple Intelligence jetzt die KI-Anrufaufzeichnung und -Transkription, aber ZDNET-Chefredakteur Jason Hiner sagt, es sei „noch in Arbeit“.
Unterdessen hat OpenAI gerade Pläne angekündigt, seinen 250 Millionen ChatGPT Plus-Benutzern mehr Tools zur Verfügung zu stellen.