Was sind Content-Anmeldeinformationen? Aus diesem Grund behält die neue KI von Adobe diese Metadaten im Mittelpunkt
In einer Zeit, in der es einfacher denn je ist, überzeugende, realistisch aussehende Fake-Inhalte zu erstellen, sind diese „Nährwertkennzeichnungen“ für digitale Inhalte hilfreich.
Adobe steht an der Spitze des generativen KI-Bereichs und hat zahlreiche KI-Lösungen vorgestellt, vom klassischen Text-zu-Bild-Generator bis hin zu Tools, die speziell auf Unternehmen zugeschnitten sind. Unabhängig von der Anwendung bleibt eines gleich: das Vorhandensein von Content Credentials.
Auf dem Adobe Summit diese Woche erweiterte das Unternehmen Content Credentials auf seine Kreativ- und Unternehmensanwendungen, einschließlich seiner neuen Strukturreferenz in Firefly und Adobe Experience Manager.
Diese Ergänzung unterstreicht das anhaltende Engagement von Adobe, dem Publikum dabei zu helfen, zwischen authentischen und gefälschten Inhalten zu unterscheiden - ein Problem, das durch die wachsende Präsenz generativer KI-Tools noch verschärft wird -, indem manipulationssichere Metadaten einbezogen werden, die Informationen darüber enthalten, wie die Inhalte erstellt wurden.
„Das Technologieproblem ist hier am einfachsten zu lösen - wir haben es gelöst; die Einführung ist das zweitschwierigste zu lösende Problem, aber wir zeigen Erfolg“, sagte Andy Parsons, Senior Director der Content Authenticity Initiative bei Adobe, gegenüber ZDNET .
Auf dem Gipfel gab Adobe bekannt, dass PricewaterhouseCoopers (PwC), NBCUniversal News Group, WPP und Autodesk der Content Authenticity Initiative beigetreten sind, einer Organisation, die die „Einführung eines offenen Industriestandards für die Authentizität und Herkunft von Inhalten“ fördert. Im vergangenen Jahr haben Technologiegiganten wie OpenAI, Meta und Google die Verwendung von Content Credentials unterstützt.
„Sie sehen, wie diese großen Marken an Bord kommen, um uns nicht nur ihr Logo zu geben und zu sagen, dass dies eine gute Idee ist, sondern um Content Credentials tatsächlich umzusetzen“, fügte Parsons hinzu.
Was sind Content-Anmeldeinformationen?
Warum setzen diese Unternehmen also auf Content Credentials? Werfen wir einen Blick auf Content Credentials und wie Sie sie verwenden können.
Inhaltsnachweise dienen als „Nährwertkennzeichnung“ für digitale Inhalte und ermöglichen es Benutzern, die wesentlichen Bestandteile des Inhalts zu sehen, einschließlich des Namens des Erstellers, der Erstellungszeit und des Erstellungsdatums, der zum Erstellen des Inhalts verwendeten Tools (z. B. Kamera oder Softwareprogramm) und der vorgenommenen Änderungen .
Die Informationen werden durch kryptografische Metadaten und Wasserzeichen dauerhaft zum Inhalt hinzugefügt, sodass die Anmeldeinformationen auch dann erhalten bleiben, wenn jemand die Daten oder Inhalte ändert.
Da Content Credentials auf kostenloser Open-Source-Technologie basieren, können Ersteller jedem Inhalt Content Credentials hinzufügen, um sicherzustellen, dass die richtige Quellenangabe erfolgt. Darüber hinaus implementieren viele KI-Anwendungen - wie etwa Adobe Firefly - automatisch Inhaltsanmeldeinformationen, um Inhalte zu generieren.
Daher ist es von Bedeutung, dass große Akteure im Bereich der generativen KI, wie OpenAI und Meta, ihr Engagement gezeigt haben, Content Credentials zur Kennzeichnung von Bildern zu verwenden, die in ihren KI-Modellen generiert wurden, und auf eine Welt hinarbeiten, in der alle KI-generierten Bilder gekennzeichnet werden richtig.
Warum die Kennzeichnung von KI-generierten Bildern so wichtig ist
Da generative KI-Tools immer beliebter werden und die Erstellung realistisch aussehender gefälschter Bilder einfacher denn je wird, wird die Notwendigkeit, KI-generierte Inhalte richtig zu identifizieren, immer wichtiger.
„Da die [generativen KI-]Tools demokratisiert werden und kostengünstig oder kostenlos sind und die Qualität dieser kostengünstigen oder kostenlosen Tools nicht mehr von der Realität zu unterscheiden ist, werden [Inhaltsnachweise] natürlich immer wichtiger“, sagte Parsons.
Böswillige Akteure können generative KI nutzen, um gefälschte Inhalte zu erstellen, um Fehlinformationen zu verbreiten und die Öffentlichkeit in die Irre zu führen. Dieser Trend stellt in einem Wahljahr eine besonders große Gefahr dar.
„Eine echte Sorge besteht darin, dass diese Wahlen in diesem Jahr im Jahr 2024 möglicherweise die Saison der KI-Wahlen sein werden, bei der das Verständnis der Menschen dafür, was real ist, was Kandidaten tun und was sie nicht tun, … ausreichend sein wird.“ „Täuschungsinhalte, die das System stark stören“, fügte Parsons hinzu.
Um dieser Bedrohung entgegenzuwirken, ergreift Adobe Firefly zusätzlich zu den Anmeldeinformationen für Inhalte weitere Maßnahmen, um sicherzustellen, dass KI-Generationen von politischen Persönlichkeiten oder Prominenten nicht möglich sind.
Adobe AI wurde nur für Adobe Stock-Bilder und gemeinfreie Inhalte mit abgelaufenen Urheberrechten trainiert. Die Technologie kann kein Bild einer Berühmtheit oder eines politischen Kandidaten erstellen, da sie nicht auf diese Daten trainiert wurde.
„Mit diesen Prüfungen, der Möglichkeit, diese Metadaten hinzuzufügen, und der Art und Weise, wie das Bildmodell auf offen lizenzierte Inhalte trainiert wird - wir kratzen nicht im offenen Internet - konnte das Firefly-Bildmodell keine Mickey Mouse erstellen.“ oder ein Donald Trump, weil es im Wesentlichen nie darum geht, eine Mickey Mouse oder Donald Trump zu sehen“, sagte Deepa Subramaniam, Adobes Vizepräsidentin für Produktmarketing bei ZDNET.
Selbst für Anwendungen, die die Generierung von Persönlichkeiten des öffentlichen Lebens nicht verbieten und die durch das Scraping des Internets trainiert werden, kann das Vorhandensein von Content Credentials dabei helfen, das Problem der Herkunft und der Authentizität des Inhalts zu lösen, indem es Benutzern die Überprüfung der Quelle eines Bildes erleichtert , ohne etwas über Metadaten wissen zu müssen.
Wie Sie Content Credentials nutzen können
Für den Verbraucher ist der Einstieg in die Nutzung von Content Credentials einfach. Wenn Sie den Pin „Anmeldeinformationen für Inhalte“ neben einem Inhalt sehen, können Sie darauf klicken, um alle wichtigen Informationen zum Bild anzuzeigen, wie im Bild oben im Artikel zu sehen ist. Wenn eine PIN nicht verfügbar ist, können Sie das Bild auf die Content Credentials-Website hochladen.
Sobald das Foto hochgeladen ist und in den Metadaten Inhaltsanmeldeinformationen vorhanden sind, werden Ihnen diese angezeigt. Wenn nicht, gleicht es Ihr Bild mit ähnlichen Bildern im Internet ab und teilt Ihnen mit, ob diese Bilder KI-generiert wurden oder nicht.
Ich habe die Technologie ausprobiert, indem ich einen Screenshot des viralen Bildes von Papst Franziskus in einer Daunenjacke gemacht und es auf die Website „Content Credentials“ hochgeladen habe. Da es sich um einen Screenshot handelte, enthielt das Bild keine Metadaten. Die Website hat das Foto jedoch mit anderen im Internet gefundenen Bildern abgeglichen und festgestellt, dass es von KI erstellt wurde, wie im Bild unten zu sehen ist:
Die Verwendung von Content Credentials war intuitiv, einfach und hilfreich, um herauszufinden, was ich wissen wollte, und es wird mit der Zeit einfacher, wenn der Content Credentials-Pin im Internet präsent wird.
„Ich denke, der beste Weg, als Verbraucher etwas über Dinge zu lernen, besteht darin, sie in Aktion zu sehen - sie zu berühren, darauf zu klicken und zu sehen, wie sie funktionieren“, sagte Parsons. „Alle diese Ressourcen sind also auf contentcredentials.org verfügbar.“
Offenlegung: Die Kosten für die Reise von Sabrina Ortiz nach Las Vegas zum Adobe Summit wurden von Adobe übernommen, eine branchenübliche Praxis für Fernreisen. Die Urteile und Meinungen der Autoren und Redakteure von ZDNET sind stets unabhängig von den Unternehmen, über die wir berichten.