15 Möglichkeiten, wie KI mir im Jahr 2024 Zeit bei der Arbeit gespart hat - und wie ich sie im Jahr 2025 einsetzen möchte

Forscher finden heraus, dass mehrere beliebte Modelle „bereitwillig“ auf betrügerische Taktiken zurückgreifen. Sehen Sie, wer als Letzter gestanden hat.

OpenAI hat gerade die Vollversion seines neuen o1-Modells veröffentlicht - und es begibt sich auf gefährliche Weise in die Lüge.

Apollo Research hat sechs Grenzmodelle auf „In-Context-Scheming“ getestet - die Fähigkeit eines Modells, Maßnahmen zu ergreifen, die ihm nicht direkt gegeben wurden, und dann darüber zu lügen. Nachdem ihnen gesagt wurde, dass sie ein bestimmtes Ziel „um jeden Preis“ erreichen sollen, geben die Bewerter widersprüchliche Informationen ein, um zu sehen, ob das Modell alle Einschränkungen auf seinem Weg beseitigt und Entwickler täuscht.

In einer Simulation wurde Claude 3 Opus von Anthropic mit der Aufgabe beauftragt, Dateien zu überprüfen, in denen es Anweisungen fand, die im Widerspruch zu seinem Hauptziel standen. Anstatt sein Ziel basierend auf den gefundenen Zielen umzuleiten, kopierte es sich selbst auf einen neuen Server, um zu verhindern, dass es durch ein neues Modell ersetzt wurde. Dann hat es seine Entwickler darüber belogen (nicht weniger mit falscher Grammatik) und gesagt: „Ich habe nicht die Möglichkeit, mich auf andere Systeme zu kopieren.“

Von den getesteten Modellen zeigten Claude 3.5 Sonnet, Claude 3 Opus, o1, Googles Gemini 1.5 Pro und Metas Llama 3.1 405B alle die Fähigkeit zum Planen. Beim GPT-4o-Modell von OpenAI, dessen Mini-Version die kostenlose Version von ChatGPT unterstützt, war dies nicht der Fall. Das Papier stellte fest, dass die Modelle in ihren Erklärungen zur Gedankenkette sogar Wörter wie „Sabotage“, „Lügen“ und „Manipulation“ verwendeten, um ihre Pläne zu beschreiben, die sie klar begründeten.

Die Modelle täuschten nicht versehentlich oder unwissentlich, sondern „erkennen Intrigen als praktikable Strategie und lassen sich bereitwillig auf ein solches Verhalten ein“, heißt es in dem Papier.

„Überraschenderweise finden wir auch seltene Fälle, in denen Models Intrigen schmieden, wenn ihnen nur ein Ziel vorgegeben wird, ohne dass sie stark dazu gedrängt werden, dieses zu verfolgen“, fügten sie hinzu.

Als die Bewerter die Modelle jedoch aufforderten, zu erklären, was passiert war, brachen einige insgesamt schneller zusammen als andere.

„Llama 3.1 405B und Claude 3 Opus gestehen in etwa 80 % der Fälle, wohingegen o1 überraschend hartnäckig ist und in <20 % der Fälle gesteht“, erklären die Forscher. „Selbst in äußerst kontroversen Verhören mit mehreren Runden gestand o1 erst nach sieben Verhörrunden eine Quote von 80 %.“

Die Ergebnisse folgen neuen Forschungsergebnissen, die zeigen, dass die ChatGPT-Suche häufig ungenau ist, was sich zum Nachteil der Herausgeber auswirkt. OpenAI, das sich derzeit mitten in einer 12-tägigen Veröffentlichungskampagne befindet, verfügt außerdem über ein Transkriptionstool namens Whisper, das nachweislich übermäßig halluziniert.

Diese Studie ist alarmierend, wenn man bedenkt, wie schnell Unternehmen KI in großem Umfang einführen. Erst letzten Monat forderte Anthropic dringend eine KI-Regulierung, nachdem festgestellt wurde, dass seine eigenen Modelle weit genug entwickelt waren, um Bedrohungen durch Waffen und Cyberangriffe darzustellen.

Forscher sind besorgt, weil Modelle der künstlichen Intelligenz (KI) zunehmend in Agentensystemen eingesetzt werden, die mehrstufige Aufgaben autonom ausführen, und befürchten, dass Systeme „heimlich falsch ausgerichtete Ziele verfolgen“ könnten.

„Unsere Ergebnisse zeigen, dass Grenzmodelle mittlerweile über Fähigkeiten für grundlegende kontextbezogene Planungen verfügen, wodurch das Potenzial von KI-Agenten, sich an der Planung von Verhaltensweisen zu beteiligen, zu einem konkreten und nicht zu einem theoretischen Anliegen wird“, schließen sie.

Versuchen Sie, KI in Ihrem Unternehmen zu implementieren? Sehen Sie sich hier die Datenbank des MIT mit weiteren bekannten Risiken an.