Wie IBMs Blaupause für die Branchentransformation KI, 5G und Zusammenarbeit nutzt
Nach Datenschutz und DSGVO will die EU der KI ihren Stempel aufdrücken, indem sie sie mit dem EU-KI-Act reguliert. Hier erfahren Sie, was es für die Welt insgesamt bedeutet, wann es voraussichtlich in Kraft treten wird und was Experten der Mozilla Foundation dazu sagen.
Fast ein Jahr ist es her, dass die Europäische Kommission den Entwurf für einen der vielleicht einflussreichsten Rechtsrahmen der Welt vorgestellt hat: den EU-KI-Act. Nach Angaben der Mozilla Foundation befindet sich das Framework noch in Arbeit, und jetzt ist es an der Zeit, sich aktiv an den Bemühungen zu beteiligen, seine Richtung zu gestalten.
Die erklärte Mission der Mozilla Foundation ist es, sich dafür einzusetzen, dass das Internet eine öffentliche Ressource bleibt, die offen und für jedermann zugänglich ist. Seit 2019 konzentriert sich die Mozilla Foundation bei einem erheblichen Teil ihrer Programme zum Aufbau von Internet-Gesundheitsbewegungen auf KI.
Wir haben uns mit dem Geschäftsführer der Mozilla Foundation, Mark Surman, und dem leitenden Politikforscher Maximilian Gahntz getroffen, um über Mozillas Fokus und Haltung zum Thema KI zu sprechen, über die wichtigsten Fakten zum EU-KI-Gesetz und darüber, wie es in der Praxis funktionieren wird, sowie über Mozillas Empfehlungen zur Verbesserung und Möglichkeiten, wie alle in den Prozess einbezogen werden können.
Der EU-KI-Rechtsakt ist auf dem Weg, und er ist eine große Sache, auch wenn Sie nicht in der EU ansässig sind
Im Jahr 2019 identifizierte Mozilla KI als eine neue Herausforderung für die Gesundheit des Internets. Der Grundgedanke ist, dass KI Entscheidungen für uns und über uns trifft, aber nicht immer mit uns: Sie kann uns sagen, welche Nachrichten wir lesen, welche Anzeigen wir sehen oder ob wir uns für einen Kredit qualifizieren.
Die Entscheidungen, die KI trifft, haben das Potenzial, der Menschheit zu helfen, aber auch uns zu schaden, stellt Mozilla fest. KI kann historische Vorurteile und Diskriminierung verstärken, dem Engagement Vorrang vor dem Wohlbefinden der Nutzer einräumen und die Macht von Big Tech weiter zementieren und Einzelpersonen an den Rand drängen.
"Vertrauenswürdige KI war in den letzten Jahren ein wichtiger Punkt für uns, denn Daten und maschinelles Lernen und das, was wir heute KI nennen, sind ein so zentrales technisches und soziales Geschäftsgefüge dafür, was das Internet ist und wie sich das Internet mit der Gesellschaft und unserem aller Leben überschneidet", so Surman.
Da KI zunehmend unser Leben durchdringt, stimmt Mozilla mit der EU überein, dass eine Änderung der Normen und Regeln für KI notwendig ist, schreibt Gahntz in Mozillas Reaktion auf den EU-KI-Act.
Das erste, was beim EU-KI-Gesetz zu beachten ist, ist, dass es nicht ausschließlich für in der EU ansässige Organisationen oder Bürger gilt. Die Welle könnte auf der ganzen Welt auf ähnliche Weise zu spüren sein wie die Auswirkungen der DSGVO.
Der EU-KI-Rechtsakt gilt für Nutzer und Anbieter von KI-Systemen, die in der EU ansässig sind, für außerhalb der EU ansässige Anbieter, die die Quelle für das Inverkehrbringen oder die Inbetriebnahme eines KI-Systems in der EU sind, sowie für Anbieter und Nutzer von KI-Systemen, die außerhalb der EU ansässig sind, wenn die von dem System generierten Ergebnisse in der EU verwendet werden.
Das bedeutet, dass Unternehmen, die KI-Systeme entwickeln und einsetzen, entweder den EU-KI-Rechtsakt einhalten oder sich ganz aus der EU zurückziehen müssen. Allerdings gibt es einige Punkte, in denen sich der EU-KI-Act von der DSGVO unterscheidet - aber dazu später mehr.
Wie alle Rechtsvorschriften bewegt sich auch der EU-KI-Rechtsakt auf einem schmalen Grat zwischen den Bedürfnissen von Wirtschaft und Forschung und den Anliegen der Bürger
Ein weiterer wichtiger Punkt in Bezug auf den EU-KI-Rechtsakt ist, dass er noch in Arbeit ist und es eine Weile dauern wird, bis er in Kraft tritt. Sein Lebenszyklus begann mit der Bildung einer hochrangigen Expertengruppe, die, wie Surman feststellte, mit Mozillas Fokus auf vertrauenswürdige KI zusammenfiel. Mozilla hat den EU-KI-Act seit 2019 genau im Blick.
Wie Gahntz feststellte, haben sich seit der Veröffentlichung des ersten Entwurfs des EU-KI-Gesetzes im April 2021 alle an diesem Prozess Beteiligten darauf vorbereitet, sich zu engagieren. Das EU-Parlament musste entscheiden, welche Ausschüsse und welche Personen in diesen Ausschüssen daran arbeiten würden, und zivilgesellschaftliche Organisationen hatten die Möglichkeit, den Text zu lesen und ihre Position zu entwickeln.
Der Punkt, an dem wir uns gerade befinden, ist der Punkt, an dem der aufregende Teil beginnt, wie Gahntz es ausdrückte. Zu diesem Zeitpunkt entwickelt das EU-Parlament seine Position unter Berücksichtigung der Beiträge, die es sowohl von den benannten Ausschüssen als auch von Dritten erhält. Sobald das Europäische Parlament das, was es unter dem Begriff Trustworthy AI versteht, konsolidiert hat, wird es seine Ideen vorlegen, wie der ursprüngliche Entwurf geändert werden kann.
Die EU-Mitgliedstaaten werden das Gleiche tun, und dann wird es eine letzte Verhandlungsrunde zwischen dem Parlament, der Kommission und den Mitgliedstaaten geben, und dann wird der EU-KI-Rechtsakt in Kraft treten. Es ist ein langer und kurvenreicher Weg, und laut Gahntz rechnen wir mit einem Horizont von mindestens einem Jahr, plus einer Übergangszeit zwischen der Verabschiedung des Gesetzes und dem tatsächlichen Inkrafttreten.
Für die DSGVO betrug die Übergangsfrist zwei Jahre. Es wird also wohl nicht vor 2025 dauern, bis der EU-KI-Act in Kraft tritt.
Definition und Kategorisierung von KI-Systemen
Bevor wir auf die Einzelheiten des EU-KI-Gesetzes eingehen, sollten wir innehalten und uns fragen, worauf genau es anwendbar ist. Es gibt keine allgemein anerkannte Definition von KI, daher enthält der EU-KI-Rechtsakt einen Anhang, in dem die Techniken und Ansätze definiert sind, die in seinen Anwendungsbereich fallen.
Wie das Montreal AI Ethics Institute feststellte, hat die Europäische Kommission eine breite und neutrale Definition von KI-Systemen gewählt und sie als Software bezeichnet, "die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Ansätze entwickelt wurde und für eine bestimmte Reihe von vom Menschen definierten Zielen Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen, die die Umgebungen beeinflussen, mit denen sie interagieren".
Zu den im Anhang des EU-KI-Gesetzes genannten Techniken gehören sowohl Ansätze des maschinellen Lernens als auch logik- und wissensbasierte Ansätze. Sie sind so weitreichend, dass sie in die Kritik geraten , weil sie "vorschlagen, die Verwendung der Bayes'schen Schätzung zu regulieren". Während das Navigieren zwischen Geschäfts- und Forschungsbedürfnissen und den Belangen der Bürger auf einem schmalen Grat verläuft, scheinen solche Behauptungen den Kern der Philosophie des vorgeschlagenen Gesetzes nicht zu erfassen: den sogenannten risikobasierten Ansatz.
Im EU-KI-Gesetz werden KI-Systeme nach dem wahrgenommenen Risiko, das von ihnen ausgeht, in 4 Kategorien eingeteilt: Inakzeptable Risikosysteme werden vollständig verboten (obwohl einige Ausnahmen gelten), Systeme mit hohem Risiko unterliegen Regeln der Rückverfolgbarkeit, Transparenz und Robustheit, Systeme mit niedrigem Risiko erfordern Transparenz seitens des Lieferanten und Systeme mit minimalem Risiko, für die keine Anforderungen festgelegt sind.
Es geht also nicht darum, bestimmte Techniken zu regulieren, sondern vielmehr darum, die Anwendung dieser Techniken in bestimmten Anwendungen entsprechend dem Risiko zu regeln, das von den Anwendungen ausgeht. Was die Techniken betrifft, so wird im vorgeschlagenen Rahmen darauf hingewiesen, dass im Laufe der Zeit Anpassungen erforderlich sein können, um mit der Entwicklung des Bereichs Schritt zu halten.
Ausgenommen vom Anwendungsbereich des EU-KI-Gesetzes sind KI-Systeme, die ausschließlich für militärische Zwecke entwickelt oder eingesetzt werden. Behörden von Drittländern und internationale Organisationen, die KI-Systeme im Rahmen internationaler Abkommen über Strafverfolgung und justizielle Zusammenarbeit mit der EU oder mit einem oder mehreren ihrer Mitglieder einsetzen, sind ebenfalls vom EU-KI-Rechtsakt ausgenommen.
Im EU-KI-Gesetz werden KI-Systeme nach dem wahrgenommenen Risiko, das sie darstellen, in 4 Kategorien eingeteilt
KI-Anwendungen, die menschliches Verhalten manipulieren, um Nutzer ihres freien Willens zu berauben, und Systeme, die ein Social Scoring durch die EU-Mitgliedstaaten ermöglichen, werden als inakzeptables Risiko eingestuft und gänzlich verboten.
Zu den Hochrisiko-KI-Systemen gehören die biometrische Identifizierung, die Verwaltung kritischer Infrastrukturen (Wasser, Energie usw.), KI-Systeme, die für den Einsatz in Bildungseinrichtungen oder für das Personalmanagement bestimmt sind, und KI-Anwendungen für den Zugang zu grundlegenden Dienstleistungen (Bankkredite, öffentliche Dienstleistungen, Sozialleistungen, Justiz usw.), für Polizeimissionen sowie für Migrationsmanagement und Grenzkontrollen.
Die Anwendung der biometrischen Identifizierung umfasst jedoch mehrere Ausnahmen, wie z. B. die Suche nach einem vermissten Kind oder die Auffindung von Verdächtigen in Fällen von Terrorismus, Menschenhandel oder Kinderpornografie. Der EU-KI-Rechtsakt schreibt vor, dass KI-Systeme mit hohem Risiko in einer von der Europäischen Kommission geführten Datenbank erfasst werden sollten.
Zu den Systemen mit begrenztem Risiko gehören meist verschiedene Bots. Für diese ist Transparenz die wichtigste Voraussetzung. Wenn Benutzer beispielsweise mit einem Chatbot interagieren, müssen sie über diese Tatsache informiert werden, damit sie eine fundierte Entscheidung treffen können, ob sie fortfahren möchten oder nicht.
Schließlich sind nach Angaben der Kommission KI-Systeme, die kein Risiko für die Rechte der Bürger darstellen, wie z. B. Spam-Filter oder Spiele, von der regulatorischen Verpflichtung ausgenommen.
Das EU-KI-Gesetz als Weg zu vertrauenswürdiger KI
Die Hauptidee hinter diesem risikobasierten Ansatz zur KI-Regulierung erinnert ein wenig an den Ansatz, der bei der Kennzeichnung von elektrischen Haushaltsgeräten auf der Grundlage ihrer Energieeffizienz in der EU angewendet wird. Die Geräte werden nach ihren Energieeffizienzmerkmalen kategorisiert und mit einem Label von A (am besten) bis G (am schlechtesten) versehen.
Es gibt aber auch einige wichtige Unterschiede. Vor allem aber sind Energieetiketten dazu gedacht, von den Verbrauchern gesehen und berücksichtigt zu werden, während die Risikobewertung von KI-Systemen nicht mit dem gleichen Ziel vor Augen konzipiert ist. Wenn es nach Mozilla geht, könnte sich das jedoch ändern, wenn der EU-KI-Act in Kraft tritt.
Es ist immer interessant, Analogien zu ziehen, aber was hier wirklich wichtig ist, ist, dass der risikobasierte Ansatz versucht, die Auswirkungen der Regulierung auf diejenigen zu minimieren, die KI-Systeme entwickeln und einsetzen, die wenig bis gar nicht von Belang sind, sagte Gahntz.
"Die Idee ist, die Aufmerksamkeit auf die Bereiche zu lenken, an denen es knifflig wird, wo Risiken für die Sicherheit, die Rechte und die Privatsphäre der Menschen eingeführt werden und so weiter. Das ist auch der Teil, auf den wir uns konzentrieren wollen, denn Regulierung ist kein Selbstzweck.
Wir wollen mit unseren Empfehlungen und unserer Advocacy-Arbeit dies erreichen. Die Teile der Verordnung, die sich auf die Minderung oder Verhinderung des Eintretens von Risiken konzentrieren, werden im endgültigen EU-KI-Gesetz gestärkt.
Es gibt viele Analogien zu anderen risikobasierten Ansätzen, die wir anderswo im europäischen Recht und in der Regulierung sehen. Aber es ist auch wichtig, die Risiken zu betrachten, die für jeden Anwendungsfall spezifisch sind. Das bedeutet im Grunde, die Frage zu beantworten, wie wir sicherstellen können, dass KI vertrauenswürdig ist", so Gahntz.
Gahntz und Surman betonten, dass die Empfehlungen von Mozilla mit Sorgfalt und der gebotenen Sorgfalt entwickelt wurden, die in diesen Prozess einfließen muss, um sicherzustellen, dass niemand zu Schaden kommt und dass KI am Ende ein Nettonutzen für alle ist.
In Teil 2 dieses Artikels werden wir mit einer Ausarbeitung der Empfehlungen von Mozilla zur Verbesserung des EU-KI-Gesetzes sowie der zugrunde liegenden Philosophie von Trustworthy AI und der KI-Theorie des Wandels fortfahren und wie Sie sich an der Diskussion beteiligen können.