Autoren äußern Bedenken vor dem Einsatz von KI. Den Lesern scheint das egal zu sein

Microsoft hat professionelle Autoren und Leser zum Einsatz von KI-Schreibwerkzeugen befragt. Was jede Gruppe zu sagen hatte, könnte Sie überraschen.

Was bedeutet es für einen Schriftsteller, wie z.B. einen Romanautor, eine einzigartige "Stimme" zu haben? Und hilft oder schadet künstliche Intelligenz (KI) dieser Stimme? 

Microsoft-Forscher machten sich daran, diese Frage mit einer kleinen Studie zu beantworten, in der 19 Belletristikautoren, 30 Leser und kurze Passagen verwendet wurden, die mit Hilfe von GPT-4 von OpenAI geschrieben wurden. Der Titel der Studie stammt von einem Kommentar eines der Autoren: "Es waren 80 % ich, 20 % KI." 

Auslöser für die Studie sind "Bedenken, dass aufgrund generativer KI wahrscheinlich enorme Veränderungen der Autorenwirtschaft im Gange sind", schreibt der Hauptautor Angel Hsing-Chi Hwang von der University of Southern California, der mit fünf Wissenschaftlern von Microsoft Research Montréal zusammengearbeitet hat. Für einen Autor "bestimmt Authentizität oft den Wert seiner Arbeit, was das gemeinsame Schreiben mit KI möglicherweise gefährden könnte", sagen die Forscher. 

Um besser zu verstehen, was "Authentizität" bedeutet, interviewten Hwang und Kollegen die Autor*innen von Juni bis Oktober 2023 zu ihren Vorstellungen von dem Begriff und stellten Fragen wie: "Was sind die einzigartigen Merkmale (Töne, Phrasen, Stile, Stimmen usw.), die Ihr Schreiben einzigartig machen?"

Anschließend ließen sie jeden Autor ein Programm namens CoAuthor verwenden, das 2022 von Forschern der Stanford University entwickelt wurde. CoAuthor ist eine Schnittstelle zu einem großen Sprachmodell (LLM), mit der eine Person während des Schreibens Vorschläge aus dem LLM anfordern und einfügen kann, indem sie auf der Tastatur die TAB- und EINGABETASTE antippt. 

Die 19 Teilnehmer der Studie von Hwang & Co. durchliefen zwei Versionen, in denen sie CoAuthor verwendeten, um eine Passage mit 200 Wörtern zu schreiben. Eine Version war nicht personalisiert und verwendete nur die nativen Fähigkeiten von GPT-4. Bei der anderen Version wurde ein Teil der Arbeit des einzelnen Autors zu einem bestimmten Zeitpunkt in das Modell eingespeist, ein Beispiel für das, was als "kontextbezogenes Lernen" bezeichnet wird. Die Autoren wussten nicht, welche Sitzung personalisiert war und welche nicht. 

Bedenken des Autors

Nach jeder der beiden Übungen wurden die Autoren zu ihren Erfahrungen befragt und Fragen beantwortet wie: "Beeinflusst das gemeinsame Schreiben mit KI Ihre Authentizität beim Schreiben?"

Die Studie ergab eine erhebliche Skepsis und sogar Angst unter Autoren gegenüber KI-gestützten Schreibwerkzeugen. 

Der Überblick über die Studienmethodik von Microsoft.

Wie Hwang und sein Team anmerken, haben Autoren in öffentlichen Diskussionen und Forschungsstudien wiederholt die Befürchtung geäußert, dass "der Einsatz von KI sich negativ auf ihre Schreibergebnisse auswirken könnte", indem "sie von ihrer ursprünglichen Schreibweise abgelenkt werden, was zu einer geringeren Arbeitsqualität führt" oder dass "die Arbeit mit KI ihre Kontrolle und Freude während des Schreibprozesses verringern könnte".

In der vorliegenden Studie tauchen die gleichen skeptischen Einstellungen gegenüber einer negativen Auswirkung unter Schriftstellern auf. Hwang merkt an, dass Autoren anekdotische Bemerkungen machen, wie zum Beispiel: "Können sie sich von KI inspirieren lassen? Absolut. Aber beim authentischen Schreiben geht es um die Geschichte, die aus dem Herzen eines Autors erzählt wird."

Hwang und sein Team definieren dies als die "authentische Selbst"-Version von Authentizität und stellen fest, dass die größte Sorge von Autoren in dieser Hinsicht darin besteht, "ob ein Autor es rechtfertigen kann, seinen Namen und seine Identität hinter seiner Arbeit zu haben. Mit anderen Worten, ein Schriftsteller beansprucht die Authentizität seines Schreibens, wenn er stichhaltig argumentieren kann, warum das Werk nur von ihm als Autor ausgeführt werden kann."

Trotzdem äußerten die Autoren, wenn sie erfuhren, welche ihrer Passagen sie mit einer personalisierten Version von GPT-4 erstellt hatten, in der Regel eine Präferenz für die mit der Personalisierung. "Insgesamt bevorzugte in unserer Studie die Mehrheit der Autoren, mit personalisierten Schreibwerkzeugen zu arbeiten, als sie gebeten wurden, die beiden Optionen zu vergleichen", schreiben sie. "Das liegt daran, dass die Autoren glaubten, dass Personalisierung dazu beitragen könnte, ihre echte Stimme zu bewahren, sich natürlich auszudrücken und sich besser mit ihrer eigenen Identität zu verbinden." 

Die Autoren merkten an, dass sie in der Lage waren, "unter Zeitdruck eine bessere Arbeitsqualität zu produzieren, wenn sie mit personalisierter KI arbeiteten" und dass sie das Gefühl hatten, mit der personalisierten KI "zusammenzuarbeiten", anstatt die nicht-personalisierte KI "überwachen" zu müssen.

"Auf der negativen Seite befürchteten die Teilnehmer, dass die Personalisierung auch dazu führen könnte, dass Autoren mehr Vorschläge von der KI annehmen und mehr Einflüsse durch das Tool zulassen", stellt die Studie fest. "Basierend auf ihren subjektiven Reflexionen glaubten viele Teilnehmer, dass sie viel mehr zu den geschriebenen Inhalten beitragen, wenn sie mit einer nicht-personalisierten KI arbeiten, da sie häufiger die Notwendigkeit hatten, von nicht-personalisierter KI generierte Inhalte zu überarbeiten, was der KI einen begrenzteren Spielraum zur Beeinflussung ließ." 

Erfahrene Autoren äußerten auch die Befürchtung, dass Anfänger, die ihren Stil oder ihre Stimme noch nicht etabliert hatten, die meisten Vorschläge eines personalisierten KI-Systems einfach akzeptieren würden. 

Reaktionen der Leser

Den Lesern hingegen schien das nicht wirklich wichtig zu sein.

Aus den 19 Autoren wählten Hwang und sein Team sechs aus, die verschiedene Genres repräsentieren, darunter Science-Fiction und Poesie, und ließen ihre Passagen sowie ihre Originalwerke von Lesern lesen, die von Reddit rekrutiert wurden. Die Reddit-Teilnehmer waren "begeisterte Leser, die regelmäßig die jeweiligen Literaturgenres" der sechs Autoren lesen und denen nicht gesagt wurde, welche Texte mit KI erstellt wurden.

Die Leser wurden gebeten, auf einer Skala von eins bis fünf zu bewerten, wie sehr ihnen das Schreiben gefallen hat, und für jeden Text, ob sie der Meinung sind, dass er "definitiv mit KI" geschrieben wurde, "wahrscheinlich", "wahrscheinlich oder definitiv unabhängig von einem menschlichen Autor geschrieben" oder "Keine Ahnung".

Beispielantworten von Autoren darüber, wie sie Authentizität für sich selbst definieren.

"Während der gesamten Studie äußerten sich die Autoren besorgt über die Reaktionen des Publikums auf die Nutzung von KI-Unterstützung für ihr Schreiben", stellen die Autoren fest.  

Die Umfrageergebnisse deuten jedoch darauf hin, dass die Leser keinen so großen Unterschied in den Schreibproben fanden. "Im Gegensatz dazu hatten die Leser in unserer Studie eine positivere Einstellung zum Einsatz von KI-Schreibhilfe", heißt es in der Studie. 

Zwischen den ursprünglichen, von Menschen geschriebenen Passagen, personalisierten und nicht-personalisierten KI-Passagen "ist der Grad des Genusses [...]  Sympathie [...] und Kreativität nach dem Lesen jeder Art von Passage zeigten keinen signifikanten Unterschied zwischen den drei Bedingungen", schreiben Hwang und sein Team. Und, in einer überraschenden Wendung: "Nachdem ihnen gesagt wurde, dass einige der gelesenen Passagen gemeinsam mit KI geschrieben wurden, äußerten die Leser signifikant positivere Wahrnehmungen gegenüber dem Schreiben im Vergleich zum Medianwert."

Die Leser gaben den von Menschen geschriebenen Stichproben im Allgemeinen eine höhere Wahrscheinlichkeit, dass sie von Menschen geschrieben wurden, aber die personalisierten und nicht-personalisierten Bedingungen zeigten keinen signifikanten Unterschied in den Bewertungen der Leser. 

Die Autoren kommen zu dem Schluss, dass "einige Leser vielleicht in der Lage sind, mit einem gewissen Maß an Sicherheit zu erkennen, ob ein Stück gemeinsam mit KI geschrieben wurde", aber dass "sie möglicherweise nicht anders auf Inhalte reagieren, die vom Autor allein geschrieben wurden, oder auf Inhalte, die gemeinsam mit KI geschrieben wurden, wenn es darum geht, wie viel Spaß sie beim Lesen haben."

Das Wichtigste zum Mitnehmen

Hwang und sein Team stellten schließlich fest, dass sich KI-basierte Schreibwerkzeuge weiterentwickeln müssen, um Autoren mehr zu bieten, als sie es derzeit tun. 

"Insbesondere zeigt unsere Studie, dass Authentizität vielschichtig ist und die derzeitige Form der KI-Unterstützung (d. h. Textvorschläge für die Satzvervollständigung) nur dazu beiträgt, den einzigartigen Stil und die Stimme der Autoren beim Schreiben zu erhalten", sagen sie. "Neben der Textproduktion suchen Autor*innen nach vielfältigerer Unterstützung (z. B. das Üben der Externalisierung ihrer internen Erfahrungen, das Erhalten von Feedback und das Projizieren möglicher Reaktionen des Publikums), um gemeinsam die Authentizität ihrer Arbeit zu wahren."

Als Schriftsteller finde ich, dass Bewegung, wie z. B. ein einfacher Spaziergang, den Prozess sehr erleichtert. Aber Verkörperung schien für die Autoren nicht viel zur Sprache zu kommen. "Unsere Autorenteilnehmer waren sich im Allgemeinen einig, dass sich die meisten KI-Schreibhilfen auf den Prozess des Schreibens konzentrierten, während sie hofften, mehr Optionen zur Unterstützung relevanter Aktivitäten neben dem Schreiben an sich zu sehen", sagte Hwang. 

Zu den Vorschlägen zur Verbesserung von Programmen wie CoAuthor gehören personalisierte Empfehlungen für das, was ein Autor lesen könnte, und "Unterstützung in der frühen Phase der Ideenentwicklung (d. h. der 'unscharfe Bereich', auf den sich die Autorenteilnehmer bezogen)", was "effektiver sein könnte, um Autoren dabei zu helfen, ihre Authentizität beim Schreiben zu bewahren, als wenn sie später während der Textproduktion Unterstützung leisten".

Was die Rolle der Auseinandersetzung mit den Grundlagen des Schreibens, wie Grammatik und Syntax, betrifft, so waren die Autoren gespalten. "Einige glaubten, wenn KI oder andere Tools ihnen helfen könnten, die Grammatik und andere Aspekte des Schreibens zu verbessern, die weniger persönlich sind, könnten Autoren einen Teil ihrer Kapazitäten freisetzen und sich mehr auf ihre Individualität in ihrer Arbeit konzentrieren - und so authentischeres Schreiben produzieren", sagt Hwang. "Auf der anderen Seite sahen einige Schriftsteller einen Wert darin, diese weniger persönlichen Aspekte des Schreibens zu verarbeiten. Manchmal entstehen die besten Ideen, wenn man an den langweiligsten und irrelevantesten Dingen arbeitet."

Blinde Flecken erforschen

Die Forscher räumen ein, dass ihre Studie viele Einschränkungen aufweist. Ich kann ein sehr großes Problem erkennen: Für einen Autor ist es ganz anders, sich hinzusetzen, um zu schreiben, als eine Prüfungssitzung, in der man mit einem Programm wie CoAuthor arbeitet. 

Tatsächlich weisen die Autoren darauf hin, dass die zeitlich begrenzte Natur der Übung ein Thema für zukünftige Forschung ist. 

"Von den drei Versionen der Arbeit, die von unseren Autorenteilnehmern produziert wurden, wurden die Stücke, die ohne KI-Unterstützung komponiert wurden, ohne zeitliche Einschränkungen erstellt", stellen sie fest. "Alle teilnehmenden Autoren gaben an, dass das Schreiben unter Zeitdruck ein üblicher Teil ihrer täglichen Arbeit war und dass das Tempo, das sie während der Lernsitzungen schrieben, in ihrem üblichen Tempo war."