OpenAI teilt Sicherheitsaktualisierungen nach Whistleblower-Beschwerden, fordert der Gesetzgeber

In einem X-Thread erklärt der KI-Riese, „wie wir der Sicherheit bei unserer Arbeit Priorität einräumen“. Hier erfahren Sie, was es Neues gibt.

Sicherheit ist eine der größten Sorgen im Zusammenhang mit dem schnellen Wachstum generativer künstlicher Intelligenzmodelle. Eine von Whistleblowern eingereichte und von der Washington Post erhaltene siebenseitige Beschwerde bezüglich der Sicherheitspraktiken von OpenAI hat diese Bedenken nur noch verstärkt. Aus diesem Grund teilt OpenAI der Öffentlichkeit nun ein Update zu seinen Sicherheitsinitiativen mit.

Am Dienstag nutzte OpenAI X, ehemals Twitter, um eine Zusammenfassung von Updates darüber zu teilen, „wie wir der Sicherheit bei unserer Arbeit Priorität einräumen“. Der Thread enthielt Highlights aktueller Initiativen und Aktualisierungen aktueller Projekte.

Um sicherzustellen, dass KI allen zugute kommt, müssen Sie zunächst eine hilfreiche und sichere KI entwickeln. Wir möchten einige Neuigkeiten darüber mitteilen, wie wir der Sicherheit bei unserer Arbeit Priorität einräumen.

OpenAI stellte zunächst sein Preparedness Framework vor, das erstmals im Dezember als Betaversion veröffentlicht wurde. Das Framework umfasst die verschiedenen Vorsichtsmaßnahmen, die OpenAI ergreift, um die Sicherheit seiner Frontier-KI-Modelle zu gewährleisten, z. B. die Bereitstellung von Modell-Scorecards für verschiedene Metriken und die Nichtveröffentlichung eines neuen Modells, wenn es eine „mittlere“ Risikoschwelle überschreitet.

Gleichzeitig teilte OpenAI mit, dass es aktiv an der Entwicklung von „Levels“ arbeite, um OpenAI und Stakeholdern dabei zu helfen, den KI-Fortschritt zu kategorisieren und zu verfolgen, worüber das Unternehmen „bald“ weitere Einzelheiten bekannt geben werde.

OpenAI bot auch Aktualisierungen zu seinem Safety and Security Committee an, das ursprünglich im Mai vom Vorstand von OpenAI ins Leben gerufen wurde, um seinen Betrieb um eine weitere Ebene der Kontrolle und des Ausgleichs zu erweitern. Die vom Ausschuss, dem technische und politische Experten angehören, durchgeführte Überprüfung ist derzeit im Gange. Sobald es abgeschlossen ist, wird OpenAI weitere geplante Schritte bekannt geben.

Abschließend machte OpenAI nach Angaben des Unternehmens auf seine Whistleblower-Richtlinie aufmerksam, die „das Recht der Mitarbeiter auf vertrauliche Offenlegung schützt“. Um Gespräche über die Technologie zu fördern, hat das Unternehmen auch den Austrittsprozess seiner Mitarbeiter geändert und nicht herabwürdigende Bedingungen gestrichen.

OpenAI teilte diese Aktualisierungen nur einen Tag, nachdem der US-Gesetzgeber nach dem Whistleblower-Bericht verlangt hatte, dass OpenAI Daten zu seinen Sicherheitspraktiken weitergibt. Zu den wichtigsten Punkten des Berichts gehörte, dass OpenAI die Mitarbeiter daran hinderte, die zuständigen Behörden über Technologierisiken zu informieren, und dass die Mitarbeiter auf ihre bundesstaatlichen Rechte auf eine Whistleblower-Entschädigung verzichteten. Beides wurde in den X-Beiträgen angesprochen.