Snap möchte Ihnen dabei helfen, die von der KI generierten Bilder von Snapchat mithilfe von Wasserzeichen zu identifizieren
Die Wasserzeichen werden auf Bildern angezeigt, die mit den KI-Tools von Snap erstellt und exportiert oder in der Kamerarolle gespeichert werden.
Snap plant die Einführung einer Wasserzeichenfunktion, mit der Sie echte Bilder besser von denen unterscheiden können, die von KI-Tools generiert wurden. Am Dienstag gab das Unternehmen für mobile Nachrichten bekannt, dass Snapchat Bildern, die mit den generativen KI-Tools von Snap erstellt wurden, ein Wasserzeichen hinzufügen wird.
Das Wasserzeichen, dargestellt als kleines Geisterlogo mit dem bekannten Glitzersymbol, erscheint auf allen solchen Bildern, die exportiert, heruntergeladen oder auf der Kamerarolle gespeichert werden. Jeder, der das Bild erhält, sieht das Logo und das Symbol, sowohl in Snapchat als auch außerhalb der Plattform.
In den letzten Jahren hat Snap eine Reihe KI-gestützter Tools auf den Markt gebracht. Sie können KI verwenden, um Hintergrundbilder zu erstellen, um Ihre Gespräche aufzupeppen, Ihr Gesicht mit verrückten Linsen zu verwandeln, sich über Snapchat Dreams in verschiedene Szenen zu versetzen, mit dem My AI-Chatbot zu chatten und sogar ein virtuelles Haustier zu erstellen.
Das Dilemma besteht darin, dass Menschen leicht dazu verleitet werden können, zu glauben, dass ein von der KI erzeugtes Bild echt ist. Klar, wenn ich ein Foto teile, das mit einem Filter aufgenommen wurde, der mich wie einen Außerirdischen oder Oktopus aussehen lässt, weiß die andere Person, dass es nicht echt ist (es sei denn, sie glaubt an Außerirdische oder sprechende Meeresbewohner). In anderen Fällen können KI-Tools dafür sorgen, dass etwas ganz legitim aussieht.
Snap verwendet bereits einige Tricks, um bestimmte KI-generierte Elemente zu markieren. Kontextbezogene Symbole, Symbole und Beschriftungen werden angezeigt, wenn Sie mit einer von KI unterstützten Snapchat-Funktion interagieren. Ein von der KI erstelltes Dreams-Bild zeigt eine Kontextkarte mit weiteren Details an. Ein Bild, das das Vergrößern-Werkzeug verwendet, um stärker herausgezoomt zu wirken, wird mit dem Glitzersymbol versehen, um anzuzeigen, dass es von der KI erstellt wurde.
Da KI aus politischen Gründen eingesetzt und missbraucht wird, wies Snap außerdem darauf hin, dass seine Mitarbeiter politische Anzeigen auf jede irreführende Verwendung von Inhalten überprüfen. Sie suchen insbesondere nach Anzeichen dafür, dass KI eingesetzt wurde, um ein irreführendes Bild zu erschaffen.
In seiner Pressemitteilung erklärte Snap, dass das Unternehmen auch versucht, mögliche Fehler in seinen eigenen KI-Modellen zu finden und zu testen. Snap nutzt Red-Teaming, einen Prozess, bei dem interne oder externe Personen sich als Hacker und Angreifer ausgeben, um Schwachstellen auszunutzen oder Schutzmaßnahmen in generativen KI-Modellen zu umgehen. Im Fall von Snap suchen Red Teamer nach potenziell voreingenommenen KI-Ergebnissen und -Inhalten.
„Wir glauben an das enorme Potenzial der KI-Technologie, die Fähigkeit unserer Community zu verbessern, sich auszudrücken und miteinander in Kontakt zu treten“, sagte Snap in seiner Veröffentlichung, „und wir sind bestrebt, diese Sicherheits- und Transparenzprotokolle weiter zu verbessern.“