Das neue Tool von Google kann KI-generierte Bilder erkennen, aber so einfach ist das nicht

Das Tool wurde vom DeepMind-Team als Schritt in Richtung verantwortungsvoller KI entwickelt.

Das Tool kann KI-generierte Bilder erkennen, selbst nachdem sie bearbeitet, Farben geändert oder Filter hinzugefügt wurden.

Bilder, die von Werkzeugen der künstlichen Intelligenz erzeugt werden, sind immer schwerer von denen zu unterscheiden, die von Menschen erstellt wurden. KI-generierte Bilder können Fehlinformationen in großem Ausmaß verbreiten und zu einem verantwortungslosen Einsatz von KI führen. Zu diesem Zweck hat Google ein neues SynthID-Tool vorgestellt, das KI-generierte Bilder von von Menschen erstellten Bildern unterscheiden kann.

Das vom DeepMind-Team entwickelte Tool fügt KI-generierten Bildern ein nicht wahrnehmbares digitales Wasserzeichen hinzu - ähnlich einer Signatur. Dasselbe Tool kann dieses Wasserzeichen später erkennen, um anzuzeigen, welche Bilder von der KI erstellt wurden, selbst nach Änderungen wie dem Hinzufügen von Filtern, Komprimieren, Ändern von Farben und mehr.

SynthID kombiniert zwei Deep-Learning-Modelle in einem Tool. Einer fügt das Wasserzeichen visuell und für das bloße Auge nicht wahrnehmbar zum Originalinhalt hinzu und ein anderer identifiziert die mit Wasserzeichen versehenen Bilder.

Derzeit kann SynthID nicht alle von der KI generierten Bilder erkennen, da es auf Bilder beschränkt ist, die mit dem Text-zu-Bild-Tool von Google, Imagen, erstellt wurden. Dies ist jedoch ein Zeichen für eine vielversprechende Zukunft für verantwortungsvolle KI, insbesondere wenn andere Unternehmen SynthID in ihre generativen KI-Tools übernehmen.

Das Tool wird schrittweise für Vertex AI-Kunden bereitgestellt, die Imagen verwenden, und ist nur auf dieser Plattform verfügbar. Google DeepMind hofft jedoch, es bald in anderen Google-Produkten und für Dritte verfügbar zu machen.