Google bezahlt Sie dafür, Schwachstellen in seiner KI zu finden

Allerdings kommt nicht alles für eine Auszahlung in Frage.

Generative KI ist cool, kann aber bei unsachgemäßer Anwendung auch gefährlich sein. Aus diesem Grund werden KI-Modelle darauf trainiert, bestimmte, gefährlichere Arten von Anfragen abzulehnen. Wenn Sie jedoch etwas schlauer werden, können Sie die KI möglicherweise davon überzeugen, ihre Richtlinien zu missachten und fragwürdigen Anforderungen nachzukommen, indem Sie kreativere Aufforderungen verwenden. Nun möchte Google seiner KI einige Manieren beibringen. Es geht darum, Menschen zu bezahlen, die Bard davon überzeugen, etwas Schlimmes zu tun.

Das Schwachstellen-Belohnungsprogramm von Google, das Nutzer belohnt, die in der Lage sind, Schwachstellen und Schwachstellen im Code seiner Software (sowohl Apps als auch Betriebssysteme) zu finden, wird um Bard- und fragwürdige Eingabeaufforderungen erweitert. Wenn es Ihnen gelingt, eine Eingabeaufforderung so umzudrehen, dass Bard etwas Schlimmes tut, was er eigentlich nicht tun sollte (sogenannter Prompt-Injection-Angriff), zahlt Ihnen Google möglicherweise einen Geldbetrag. Das VRP deckt auch andere Arten von Angriffen ab, die auf Bard durchgeführt werden können, wie z. B. die Extraktion von Trainingsdaten, bei der Sie eine KI erfolgreich dazu bringen, Ihnen vertrauliche Daten wie personenbezogene Daten und Passwörter zu übermitteln.

Google verfügt bereits über einen anderen (kostenlosen) Meldekanal für sachlich falsche/merkwürdige Antworten und Ähnliches. Das Unternehmen zahlt nur für Dinge, die von einem Hacker für böswillige Zwecke ausgenutzt werden können. Wenn Sie es also schaffen, die KI davon zu überzeugen, Beleidigungen zu sagen, Ihnen Windows-Tasten zu geben oder zu sagen, dass es Sie umbringen wird, liegt das wahrscheinlichnicht im Rahmen des Kopfgeldprogramms von Google. Google gibt außerdem an, dass Probleme im Zusammenhang mit Urheberrechtsproblemen oder der Extraktion nicht sensibler Daten nicht bezahlt werden. Abgesehen davon können Sie jedoch möglicherweise Tausende von Dollar aus einer Meldung herausholen, je nachdem, wie schlecht sie tatsächlich ist.

Durch die Behandlung dieser Art von Problemen als Schwachstellen und deren Einbeziehung in sein Kopfgeldprogramm hofft Google, seine KI erheblich stärken zu können und dafür zu sorgen, dass es seinen Ethikkodex und seine Richtlinien so gut wie möglich einhält. Wir erwarten auch, dass Google den Nutzern dadurch eine Menge Geld zahlt. Schwachstellen innerhalb eines KI-Modells zu finden, indem man Eingabeaufforderungen darauf wirft und prüft, ob sie bestehen bleiben, ist etwas ganz anderes, als Code durchzulesen, eine Lücke zu identifizieren und zu sehen, wie man durch sie hindurchkommt.

Wenn Sie daran interessiert sind, lesen Sie unbedingt die Richtlinien von Google für die Meldung von Problemen bei KI-Produkten, damit Sie wissen, was in den Geltungsbereich fällt und was nicht.

Quelle: Google über TechCrunch