Versuchen Sie, die neuen o1-Modelle von OpenAI zu knacken? Du könntest gesperrt werden
Ein neues KI-Modell zum Halluzinieren zu bringen, kann eine lustige Herausforderung sein, aber diese Aktionen haben jetzt Konsequenzen.
Selbst die intelligentesten KI-Modelle neigen zu Halluzinationen, die amüsant sein können, wenn sie provoziert werden. Darf ich Sie an Klebepizza erinnern? Wenn Sie jedoch versuchen, in den erweiterten o1-Argumentationsmodellen von OpenAI Halluzinationen hervorzurufen, verlieren Sie möglicherweise den Zugriff auf das Modell vollständig.
OpenAI stellte letzte Woche seine o1-Modelle vor, die darauf trainiert wurden, „vor dem Sprechen zu denken“ und daher in der Lage sind, komplexe mathematische, naturwissenschaftliche und Codierungsprobleme mithilfe fortgeschrittener Argumentation zu lösen. Bei einem Modell, das derart beeindruckende Fähigkeiten anpreist, machten sich die Leute natürlich daran, seine Argumentationskette zu durchbrechen.
Wie Wired jedoch erstmals entdeckte, erhielten Benutzer, die dies versuchten, Warnungen in der Chatbot-Oberfläche, die sie darüber informierten, dass ihre Aktionen gegen die Nutzungsbedingungen und Nutzungsrichtlinien von OpenAI verstießen. Zu den Benutzeraktionen gehörte die Erwähnung von Begriffen wie „Begründungsverfolgung“ oder „Begründung“.
Lol pic.twitter.com/qbnIMXkCcm
— Dyusha Gritsevskiy (@dyushag) September 12, 2024
Gemäß den Nutzungsbedingungen von OpenAI, zuletzt aktualisiert am 31. Januar 2024, behält sich das Unternehmen das Recht vor, „Ihren Zugriff auf unsere Dienste auszusetzen oder zu beenden oder Ihr Konto zu löschen“, wenn es feststellt, dass ein Verstoß eines Benutzers gegen die Nutzungsbedingungen oder Nutzungsrichtlinien ein Risiko darstellen könnte oder OpenAI und anderen Benutzern schaden oder gegen das Gesetz verstoßen.
Die Reaktionen auf diese Richtlinien waren gemischt. Einige beklagten sich darüber, dass diese Einschränkungen ein ordnungsgemäßes Red-Teaming behindern, während andere froh darüber sind, dass aktive Vorkehrungen zum Schutz vor Schlupflöchern in neueren Modellen getroffen werden.
Wenn Sie die o1-Modelle selbst ausprobieren möchten, können Sie ein kostenloses ChatGPT-Konto erstellen, sich anmelden, in der Modellauswahl auf „Alpha-Modi“ umschalten und o1-mini auswählen. Wenn Sie o1-preview ausprobieren möchten, müssen Sie ein ChatGPT Plus-Konto für 20 $pro Monat abonnieren.