Science-Fiction-Magazin stoppt neue Einreichungen nach einem Anstieg der von KI geschriebenen Geschichten

KI-generierte Belletristik ist für Genremagazine schnell zu einem Problem geworden.

Das Science-Fiction- und Fantasy-Magazin Clarkesworld musste die Annahme neuer Beiträge vorübergehend aussetzen, nachdem es eine Flut von KI-generierten Geschichten erhalten hatte.

Neil Clarke, Gründer von Clarkesworld, erläutert detailliert die Probleme der Website bei der Erkennung von Plagiaten und KI-generierten Geschichten, wobei die Probleme etwa zu Beginn der Pandemie auftraten. Bis zum Jahr 2020 hatte er jeden Monat durchweg weniger als 25 größtenteils computergestützte Eingaben entdeckt.

Im Detail: Diese Experten kämpfen darum, die KI vor Hackern zu schützen. Die Zeit wird knapp

Ein kleiner Anstieg kam es, als OpenAI Ende November ChatGPT veröffentlichte. Die Zahl der plagiierten oder KI-generierten Einsendungen stieg im Dezember auf 50 pro Monat, verdoppelte sich dann auf über 100 im Januar und verdreifachte sich dann bis Mitte Februar auf über 350. Kurz nach Clarkes Post, in dem er die Aussetzung neuer Einreichungen ankündigte, kam es zu einem weiteren Anstieg, sodass die Zahl der Erkennungen bis zum 20. Februar auf über 500 stieg.

Bei der Bekanntgabe seiner Entscheidung sagte Clarke, dass die Zahl der entdeckten Spam-Einsendungen im Februar 38 % erreicht habe.

Nicht nur Zeitschriftenverlage verzeichnen einen Anstieg der KI-generierten Einreichungen. Reuters berichtete am Dienstag, dass es Mitte Februar über 200 KI-generierte E-Books im Kindle-Shop von Amazon gab und dass dies nur diejenigen waren, die ChatGPT von OpenAI tatsächlich als Autor oder Co-Autor offenlegten. Zu den KI-generierten Materialien gehörten Belletristik, Selbsthilfebücher und illustrierte Kinderbücher.

Wahrscheinlich gibt es noch mehr, die die Rolle von ChatGPT nicht offenlegen, da Amazon von den Autoren nicht verlangt, offenzulegen, ob KI-generierte Werke über Amazons Selbstverlagseinheit Kindle Direct Publishing veröffentlicht werden.

Mary Rasenberger, Geschäftsführerin der Autorengruppe Authors Guild, sagte gegenüber Reuters, dass menschliches Ghostwriting eine lange Tradition habe, argumentierte jedoch, dass Autoren und Plattformen Transparenz darüber gewährleisten sollten, wie diese Bücher erstellt werden.

Eine Amazon-Sprecherin sagte gegenüber Reuters, dass alle Bücher im Shop den Inhaltsrichtlinien entsprechen müssen, zu denen auch geistige Eigentumsrechte und andere geltende Gesetze gehören.

Clarkesworld hat eine Richtlinie zu KI-geschriebenen Geschichten: „Wir berücksichtigen derzeit keine Geschichten, die von KI geschrieben, mitgeschrieben oder unterstützt wurden.“

„Unsere Richtlinien besagen bereits, dass wir keine geschriebenen oder unterstützten Werke von „KI“ wollen. Das ist ihnen egal. Ein Kontrollkästchen auf einem Formular wird sie nicht aufhalten. Sie lügen einfach“, twitterte er.

6. Our guidelines already state that we don't want "AI" written or assisted works. They don't care. A checkbox on a form won't stop them. They just lie.

— clarkesworld (@clarkesworld) February 21, 2023

Clarke räumte ein, dass es Tools zur Erkennung plagiierter und maschinell geschriebener Texte gebe, wies jedoch darauf hin, dass diese anfällig für falsch-negative und -positive Ergebnisse seien.

OpenAI hat kürzlich ein kostenloses Klassifizierungstool zur Erkennung von KI-generiertem Text veröffentlicht, stellte jedoch auch fest, dass dieser „unvollkommen“ sei und immer noch nicht bekannt sei, ob er tatsächlich nützlich sei. Der Klassifikator identifiziert 26 % des KI-geschriebenen Textes korrekt als „wahrscheinlich KI-geschrieben“ - seine wahre Positivquote. In 9 % der Fälle wird fälschlicherweise von Menschen geschriebener Text als KI-geschrieben identifiziert - ein Fehlalarm.

Clarke skizziert eine Reihe von Ansätzen, die Verlage neben der Implementierung von Erkennungstools von Drittanbietern verfolgen könnten, die sich seiner Meinung nach die meisten Kurzspielmärkte derzeit nicht leisten können. Andere Techniken könnten das Blockieren von Übermittlungen über ein VPN oder das Blockieren von Übermittlungen aus Regionen umfassen, die mit einem höheren Prozentsatz betrügerischer Übermittlungen verbunden sind.

„Es wird nicht einfach von alleine verschwinden und ich habe keine Lösung. Ich bastele an einigen herum, aber das ist kein Schlagabtausch, den jeder „gewinnen“ kann. Das Beste von uns.“ „Ich kann nur hoffen, genug Wasser zu schöpfen, um über Wasser zu bleiben“, schrieb Clarke.

„Wenn das Feld keinen Weg findet, mit dieser Situation umzugehen, werden die Dinge anfangen zu scheitern. Die Reaktionszeiten werden schlechter und ich möchte nicht einmal darüber nachdenken, was mit meinen Kollegen passieren wird, die Feedback zu Einsendungen geben.“ Nein, Es ist nicht das Ende der Kurzgeschichten (bitte hören Sie einfach mit diesem Unsinn auf), aber es wird die Dinge verkomplizieren.“