Könnten KI-Haftungsausschlüsse auf Instagram Ihnen dabei helfen, KI-generierte Influencer zu erkennen?
Generative KI kann hyperrealistische Fotos und Videos erstellen, aber nicht jeder kann KI-generierte Inhalte allein mit den Augen erkennen.
Instagram könnte an einer Funktion arbeiten, die Benutzer benachrichtigt, wenn die KI einen Beitrag, auf den sie stoßen, teilweise oder vollständig erstellt hat. Laut einem Beitrag des App-Forschers Alessandro Paluzzi werden von KI erstellte Beiträge mit einem begleitenden Etikett versehen, das erklärt, dass KI bei der Erstellung des Beitrags eine Rolle gespielt hat.
Aber könnten die Labels den Leuten helfen, zu erkennen, wann generative KI ein ganzes Konto erstellt?
Drei beliebte Influencer auf Instagram haben über acht Millionen Follower und Markenverträge im Wert von mehreren Millionen Dollar. Allerdings sind alle drei KI-generiert. Lil Miquela, Imma und Shudu sind Instagram-Influencer, deren Fotos KI-generiert sind.
Sie alle führen ein aufregendes Leben und haben mit Marken wie Dior, Calvin Klein, Chanel und Prada zusammengearbeitet. Obwohl jeder KI-Influencer eine Variation des Ausdrucks „digitale Persona“ in seiner Biografie hat und alle seine Fotos ein unheimliches Tal-Feeling haben, glauben viele Kommentatoren und Follower, dass die Influencer echt sind.
Jeder digitale Influencer ist das Produkt eines Technologieunternehmens, das Grafikdesigner und digitale Künstler beschäftigt, um mithilfe künstlicher Intelligenz Bilder der Influencer zu erstellen.
Digitale Influencer sind für Marken und Marketingunternehmen attraktiv, weil sie die mit Reisen verbundenen Kosten senken, Sprachbarrieren beseitigen und ihr Erscheinungsbild im Handumdrehen ändern können, um es an jede Marke anzupassen.
Noch wichtiger ist, dass digitale Influencer kein Markenrisiko darstellen. Sie haben keine Meinungen oder politischen Werte und keine fragwürdigen Tweets von vor zehn Jahren. Ein digitaler Influencer kann nichts tun, was die Integrität einer Marke gefährden würde.
Darüber hinaus dürfen digitale Influencer nicht altern oder etwas an ihrem Erscheinungsbild ändern, das nicht mit den Werten einer Marke übereinstimmt. Zum Beispiel. Lil Miquela ist 19 Jahre alt, seit sie 2016 ihren Instagram-Account erstellt hat. Seitdem hat sie mit Prominenten zusammengearbeitet, Zeitschriftencover geziert und Millionen von Dollar eingesammelt.
Aber wenn die Leute schnell an den Beiträgen von Lil Miquela vorbeiscrollen, wie viele können dann sofort erkennen, dass sie KI-generiert ist? Experten sagen, nicht viele. Junge Menschen sind besonders beeindruckbar und die Inhalte, die sie online sehen, prägen ihr Bild von sich selbst und der Welt um sie herum.
Und mit digitalen Influencern können sie jederzeit perfekt aussehen und ein ideales Leben führen, was den Druck und das Unbehagen, das Teenager durch das Scrollen in den sozialen Medien verspüren, noch verstärken könnte.
Liegt es also an Instagram, Lil Miquela als KI-generierte Influencerin, ihre „Eigentümer“ oder Instagram-Nutzer zu „outen“, damit sie die von ihnen konsumierten Inhalte besser beurteilen können? Die Regierung sagt, sie solle neue Behörden schaffen, um Big Tech an strengere Standards zu halten.
Big Tech sagt, eine solche Regulierung könnte Innovationen ersticken, und viele Nutzer glauben, dass die Verantwortung bei Technologie- und Social-Media-Unternehmen liegt.
KI-generierte Content-Labels wären nicht das erste Mal, dass Instagram versucht, den Nutzern dabei zu helfen, die Inhalte, auf die sie stoßen, besser zu verstehen. Im Jahr 2020, während der Wirren der COVID-19-Pandemie, blockierte Instagram Hashtags, die Fehlinformationen über Impfstoffe verbreiteten, und versorgte Nutzer mit vertrauenswürdigen Informationen über COVID-19 und die Impfstoffe.
Aber generative KI ist nicht so einfach wie die Bereitstellung von Verbindungen zum National Health Service oder den Centers for Disease Control and Prevention. KI kann schwieriger zu erkennen und einzudämmen sein, und Technologieunternehmen müssen die möglichen Gefahren der durch generative KI verbreiteten Fehlinformationen bekämpfen.