Google und Microsoft arbeiten mit OpenAI zusammen, um eine KI-Sicherheitsüberwachungsgruppe zu bilden

Die als Frontier Model Forum bezeichnete Partnerschaft geht auf ein Treffen im Weißen Haus letzte Woche mit denselben Unternehmen sowie Amazon und Meta zurück, bei dem die sichere und transparente Entwicklung zukünftiger KI diskutiert wurde.

Einige der größten Namen der Technologiebranche schließen sich zusammen, um die Sicherheit der KI zu gewährleisten. Die Technologieriesen Google und Microsoft arbeiten mit OpenAI und Anthropic zusammen, um sicherzustellen, dass die KI-Technologie auf „sichere und verantwortungsvolle“ Weise voranschreitet.

Diese Partnerschaft folgt auf ein Treffen im Weißen Haus letzte Woche mit denselben Unternehmen sowie Amazon und Meta, um die sichere und transparente Entwicklung zukünftiger KI zu diskutieren.

Die Überwachungsgruppe namens Frontier Model Forum stellte fest, dass einige Regierungen auf der ganzen Welt zwar Maßnahmen ergreifen, um die Sicherheit der KI zu gewährleisten, diese Maßnahmen jedoch nicht ausreichen. Stattdessen liegt es an den Technologieunternehmen.

In einem Blogbeitrag auf der Website von Google listete das Forum vier Hauptziele auf:

• Verbesserung der KI-Sicherheitsforschung, um zukünftige Risiken zu minimieren
• Ermittlung bewährter Verfahren für die verantwortungsvolle Entwicklung und Bereitstellung zukünftiger Modelle
• Arbeiten Sie mit politischen Entscheidungsträgern, Wissenschaftlern und anderen zusammen, um Wissen über KI-Sicherheitsrisiken auszutauschen
• Die Unterstützung der Entwicklung von KI wird zur Lösung der größten Probleme der Menschheit wie Klimawandel und Krebserkennung eingesetzt

Ein OpenAI-Vertreter fügte hinzu, dass das Forum zwar mit politischen Entscheidungsträgern zusammenarbeiten werde, diese sich jedoch nicht in die Lobbyarbeit der Regierung einmischen würden.

Die Mitgliedschaft im Forum steht jedem Unternehmen offen, das drei Kriterien erfüllt: Entwicklung und Einsatz von Grenzmodellen, ein starkes Engagement für die Sicherheit von Grenzmodellen und die Bereitschaft, sich an gemeinsamen Initiativen mit anderen Mitgliedern zu beteiligen. Was ist ein „Grenzmodell“? Das Forum definiert dies als „jedes groß angelegte Modell des maschinellen Lernens, das über die aktuellen Fähigkeiten hinausgeht und über ein breites Spektrum an Fähigkeiten verfügt.“

Obwohl KI das Potenzial hat, die Welt zu verändern, sind laut Forum „geeignete Leitplanken erforderlich, um Risiken zu mindern“. Anna Makanju, Vizepräsidentin für globale Angelegenheiten bei OpenAI, gab eine Erklärung ab: „Es ist wichtig, dass KI-Unternehmen - insbesondere diejenigen, die an den leistungsstärksten Modellen arbeiten - sich auf einer gemeinsamen Basis einigen. Das ist dringende Arbeit. Und dieses Forum ist gut positioniert.“ schnell zu handeln, um den Stand der KI-Sicherheit voranzutreiben.“

Brad Smith, Präsident von Microsoft, schloss sich dieser Meinung an und sagte, dass es letztendlich an den Unternehmen liegt, KI-Technologie zu entwickeln, um sie sicher und unter menschlicher Kontrolle zu halten.