Adobe benötigt Ihre Hilfe bei der Suche nach Sicherheitslücken in Content Credentials und Firefly
Adobe erweitert sein Bug-Bounty-Programm. Wenn Sie ein ethischer Hacker oder Sicherheitsforscher sind, erfahren Sie hier, wie Sie beitreten (und Belohnungen verdienen) können.
Das Schließen von Sicherheitslücken ist von entscheidender Bedeutung, um Modelle der generativen künstlichen Intelligenz (KI) vor böswilligen Akteuren, schädlicher Bilderzeugung und anderem potenziellen Missbrauch zu schützen. Um sicherzustellen, dass einige seiner neuesten und größten KI-Projekte so sicher wie möglich sind, hat Adobe am Mittwoch sein Bug-Bounty-Programm, das Sicherheitsforscher für das Finden und Offenlegen von Fehlern belohnt, um Content Credentials und Adobe Firefly erweitert.
Bei Inhaltsnachweisen handelt es sich um manipulationssichere Metadaten, die an digitale Inhalte angehängt werden und als „Nährwertkennzeichnung“ dienen. Dadurch können Benutzer die „Zutaten“ des Inhalts sehen, wie z. B. den Namen des Erstellers, das Erstellungsdatum und alle zum Erstellen des Bilds verwendeten Tools (einschließlich generativer KI-Modelle). ) und die vorgenommenen Änderungen.
Im Zeitalter KI-generierter Bilder kann dieses Herkunftstool dabei helfen, zwischen synthetischen und von Menschen erstellten Inhalten zu unterscheiden. Dies funktioniert allerdings nur, wenn die Content Credentials fälschungssicher sind und bestimmungsgemäß verwendet werden. Adobe betreibt jetzt über sein Bug-Bounty-Programm Crowdsourcing-Sicherheitsbemühungen für Content Credentials, um den Schutz vor potenziellem Missbrauch, wie etwa dem fälschlichen Anhängen von Anmeldeinformationen an den falschen Inhalt, zu verstärken.
Einige KI-Bildgeneratoren, wie Adobe Firefly, fügen automatisch Inhaltsanmeldeinformationen an KI-generierte Inhalte an. Firefly ist die Gruppe generativer KI-Modelle von Adobe, die Bilder aus Eingabeaufforderungen, anderen Bildern und mehr erstellen können. Diese Modellfamilie ist über eine eigenständige Webanwendung und einige der beliebtesten Anwendungen von Adobe, darunter Photoshop, für die Öffentlichkeit leicht zugänglich.
In der Pressemitteilung heißt es, dass Adobe Sicherheitsforscher dazu auffordert, Firefly anhand der größten Sicherheitsrisiken des Open Worldwide Application Security Project (OWASP) in LLM-Anwendungen (Large Language Model) zu testen, etwa Prompt-Injection, Offenlegung vertraulicher Informationen und Vergiftung von Trainingsdaten. Adobe wird dieses Feedback dann nutzen, um seine Forschung und weitere Bemühungen auf die Behebung der Schwachstellen von Firefly zu konzentrieren.
„Durch die proaktive Zusammenarbeit mit der Sicherheitsgemeinschaft hoffen wir, zusätzliche Einblicke in die Sicherheitslage unserer generativen KI-Technologien zu gewinnen, die wiederum wertvolles Feedback für unser internes Sicherheitsprogramm liefern werden“, sagte Adobe in seiner Pressemitteilung.
Adobe lädt ethische Hacker, die an der Teilnahme am Bug-Bounty-Programm interessiert sind, dazu ein, die Adobe HackerOne-Seite zu besuchen und sich über dieses Formular zu bewerben, in dem Fragen zur Sicherheitsforschung und zum Fachwissen des Bewerbers gestellt werden.
Zusätzlich zu Content Credentials und Adobe Firefly ist das Bug-Bounty-Programm für die meisten Adobe-Web-Apps sowie Desktop- und Mobilversionen seiner Creative Cloud-Apps verfügbar. Die vollständige Liste der enthaltenen Apps finden Sie auf der Webseite des Adobe Bug Bounty Program.
Während auf der HackerOne-Seite Belohnungen zwischen 100 und 10.000 US-Dollar aufgeführt sind, heißt es auf der Webseite von Adobe: „Dieses Programm bietet keine finanziellen Belohnungen für die Einreichung von Fehlern.“ " Es ist unklar, ob sich dies nur auf das private Bug-Bounty-Programm von Adobe bezieht.
Darüber hinaus verfügt OpenAI auch über ein Bug-Bounty-Programm, mit dem Sicherheitsforscher je nach Art der Schwachstelle zwischen 200 und 20.000 US-Dollar verdienen können.