NIST startet ein Programm zum Benchmarking generativer KI-Technologie und zur Identifizierung von KI-generierten Inhalten
Das Programm wird versuchen herauszufinden, ob Inhalte durch KI oder von Menschen erstellt werden, und KI-Technologie fördern, die ein Nettogut für die Gesellschaft ist.
Das National Institute of Standards and Technology (NIST) des US-Handelsministeriums hat ein neues Programm gestartet, das darauf abzielt, generative KI zu analysieren und herauszufinden, wie die USA die Technologie sicher nutzen können, ohne von KI-generierten Inhalten getäuscht zu werden.
Die Abteilung des Handelsministeriums für die Analyse und Bewertung von Technologiechancen und -risiken nennt ihr neues Programm NIST GenAI. Die Agentur plant, GenAI-Benchmarks zu erstellen, Wege zu finden, um festzustellen, ob Inhalte von Menschen oder KI generiert werden, und letztendlich die Entwicklung von KI-Technologien zu fördern, die für die Gesellschaft als Ganzes von Nutzen sind. NIST hat nicht gesagt, welche KI-Technologien es evaluieren wird, aber es hat gesagt, dass es plant, KI-Modelle in Angriff zu nehmen, die „auf der ganzen Welt“ entwickelt werden.
„Die Pilotstudie zielt darauf ab, das Systemverhalten zur Unterscheidung zwischen synthetischen und von Menschen generierten Inhalten in den Text-zu-Text- (T2T) und Text-zu-Bild- (T2I) Modalitäten zu messen und zu verstehen“, sagte die Agentur in einer Erklärung. „Dieses Pilotprojekt befasst sich mit der Forschungsfrage, wie sich menschliche Inhalte von synthetischen Inhalten unterscheiden und wie die Bewertungsergebnisse den Benutzern bei der Unterscheidung zwischen beiden helfen können.“
Die NIST-Ankündigung erfolgt sechs Monate, nachdem US-Präsident Joe Biden eine Durchführungsverordnung erlassen hat, die alle US-Regierungsbehörden dazu verpflichtet, sichere KI-Strategien zu entwickeln. NIST sagte, dass es in dieser Zeit vier KI-Veröffentlichungen entwickelt habe, unter anderem zur Minderung von KI-Risiken und zur Schaffung globaler KI-Standards, die von Regierungen und Unternehmen weltweit genutzt werden können.
NIST GenAI konzentriert sich inzwischen besonders auf den Beginn synthetischer KI oder Bilder und Inhalte, die von KI-Modellen statt von Menschen erstellt werden. NIST ermöglicht Forscherteams, sich entweder als „Generator“ oder als „Diskriminator“ für die Teilnahme an NIST-GenAI-Bewertungen zu bewerben. Die erste Gruppe wird damit beauftragt zu testen, wie gut ihre KI-Systeme „synthetische Inhalte generieren können, die nicht von von Menschen produzierten Inhalten zu unterscheiden sind“. Die Diskriminatorgruppen werden „auf die Fähigkeit ihres Systems getestet, synthetische Inhalte zu erkennen, die von großen Sprachmodellen (LLMs) und generativen KI-Modellen erstellt wurden.“
Die Bemühungen des NIST zur Erkennung synthetischer KI konzentrieren sich auch auf die Frage, wie sich solche Inhalte auf Patente, menschliche Erfindungen und Industrien weltweit auswirken könnten. Die Behörde ist besorgt darüber, ob KI-generierte Inhalte patentiert und durch das US-amerikanische Recht an geistigem Eigentum geschützt werden können oder sogar sollten.
„Da KI eine größere Rolle bei der Innovation einnimmt, müssen wir den verantwortungsvollen und sicheren Einsatz von KI fördern, um lokale und weltweite Probleme zu lösen und die Arbeitsplätze und Industrien der Zukunft zu entwickeln, während wir gleichzeitig sicherstellen, dass KI nicht die entscheidende Rolle des geistigen Eigentums bei der Anreizsetzung beeinträchtigt.“ menschlichen Einfallsreichtum und Investition“, sagte Kathi Vidal, Unterstaatssekretärin für Handel und geistiges Eigentum, in einer Erklärung.
NIST plant, NIST GenAi schrittweise einzuführen. Die Agentur sagte, dass sie im Mai 2024 mit der Annahme von Teamanmeldungen für das Programm beginnen und ihre erste Testrunde im August 2024 abschließen werde. Die Agentur sagte nicht, welche anderen KI-bezogenen Probleme sie in den folgenden Runden angehen werde.