China legt Grundregeln zur Eindämmung von Deepfake-Missbrauch fest
Das neue Gesetz, das am 10. Januar nächsten Jahres in Kraft tritt, verlangt von jedem, der "Deep Synthesis"-Technologien und -Dienste, einschließlich Deepfakes und Virtual Reality, anbietet, diese Bilder entsprechend zu kennzeichnen.
China hat Grundregeln aufgestellt, um zu verhindern, dass die "Deep Synthesis"-Technologie, einschließlich Deepfakes und Virtual Reality, missbraucht wird. Jeder, der diese Dienste nutzt, muss die Bilder entsprechend kennzeichnen und darf die Technologie nicht für Aktivitäten nutzen, die gegen lokale Vorschriften verstoßen.
Die Cyberspace-Verwaltung Chinas, das Ministerium für Industrie und Informationstechnologie und das Ministerium für öffentliche Sicherheit veröffentlichten eine gemeinsame Erklärung, in der die Verwendung von Tiefensynthesetechnologien und -diensten klar angegeben werden muss, damit diese nicht fälschlicherweise als echte Informationen angesehen werden.
Die neuen Regeln, die ab dem 10. Januar nächsten Jahres in Kraft treten sollen, zielen darauf ab, die nationale Sicherheit und die sozialen Grundwerte des Landes zu schützen sowie die Rechte und Interessen von Bürgern und Organisationen zu schützen, so die Regierungsbehörden.
Sie stellten fest, dass die Synthesetechnologie zwar die Benutzererfahrung verbessert hat, aber auch dazu verwendet wird, falsche und schädliche Informationen zu imitieren, zu identifizieren und zu verbreiten, die den Ruf der Opfer schädigen. Dies gefährdete die nationale Sicherheit und die soziale Stabilität.
Sie fügten hinzu, dass Vorschriften notwendig seien, um solche Risiken zu mindern und die "gesunde" Entwicklung neuer Technologien voranzutreiben. Die Grundregeln würden auch die Entwicklung von Tiefensynthesediensten standardisieren und sicherstellen, dass diese mit den anderen damit verbundenen Vorschriften des Landes übereinstimmen, einschließlich der Gesetze zur Datensicherheit und zum Schutz personenbezogener Daten.
Die neuen Regeln gelten für Technologien, die Deep Learning, Virtual Reality und andere synthetische Algorithmen verwenden, um Text, Bilder, Video, Audio und virtuelle Szenen zu erstellen, einschließlich Text-to-Speech, Sprachbearbeitung, Gestenmanipulation, digitale Simulation und 3D-Rekonstruktion.
Abgesehen davon, dass keine Tiefensynthesedienste zur Erstellung und Verbreitung von Informationen verwendet werden, die durch lokale Gesetze verboten sind, unterstreichen die neuen Vorschriften auch die Notwendigkeit, ein echtes Authentifizierungssystem für Identitätsdaten sowie andere Managementsysteme wie Benutzerregistrierung, Überprüfung des Algorithmusmechanismus, Datensicherheit, Notfallreaktion und Ethikprüfung zu implementieren. Darüber hinaus müssen technische Sicherheitsmaßnahmen getroffen werden.
Diese Managementregeln und Dienstleistungsvereinbarungen müssen offengelegt werden. Die Nutzer müssen auch Mechanismen einrichten, um Gerüchten rechtzeitig entgegenzuwirken, falls die Nutzung von Tiefensynthesediensten zur Veröffentlichung oder Verbreitung falscher Informationen genutzt wird. Auch die zuständigen Regierungsbehörden müssen benachrichtigt werden.
VERWANDTE BERICHTERSTATTUNG
- China erwägt zusätzliche Sicherheitsregeln für Apps, die die öffentliche Meinung beeinflussen
- China will Rechtssektor bis 2025 KI-gestützt machen
- China will mehr Hightech-Zonen im Innovationsdrang
- Datenauswertung und Nutzereinwilligung als Schlüssel zur Einhaltung des chinesischen Rechts
- Chinas Gesetz zum Schutz personenbezogener Daten tritt in Kraft
- China will Online-Daten in Entwürfen für Sicherheitsgesetze klassifizieren
- China identifiziert 17 Schlüsselbereiche für KI-Durchbrüche
- China will bis 2030 weltweit führend im Bereich KI werden