Wie funktioniert Claude? Anthropic enthüllt seine Geheimnisse
In einem seltenen Schritt teilte das Unternehmen die Befehle mit, die Claude sagen, was es tun kann und was nicht, wenn es mit jemandem chattet. So funktioniert jedes Modell.
Haben Sie sich jemals gefragt, welche Faktoren die Reaktion eines Chatbots mit künstlicher Intelligenz (KI) beeinflussen, wenn er mit einem Menschen spricht? Anthropic, das Unternehmen hinter Claude, hat das Geheimnis hinter der KI enthüllt.
In den am Montag veröffentlichten neuen Versionshinweisen enthüllte das Unternehmen die Systemaufforderungen oder Befehle, die bestimmte Verhaltensweisen seines Chatbots steuern und fördern. Anthropic erläuterte detailliert die Eingabeaufforderungen, mit denen jedes seiner drei KI-Modelle gesteuert wird: Claude 3.5 Sonnet, Claude 3 Opus und Claude 3 Haiku.
Die Eingabeaufforderungen vom 12. Juli weisen auf Ähnlichkeiten in der Funktionsweise der drei Modelle hin, die Anzahl der Anweisungen variiert jedoch.
Sonnet ist über Claudes Website frei zugänglich und gilt als das intelligenteste Modell. Es verfügt über die meisten Systemansagen. Opus ist geschickt darin, komplexe Aufgaben zu schreiben und zu bewältigen. Es enthält die zweitgrößte Anzahl an Eingabeaufforderungen und ist für Claude-Pro-Abonnenten zugänglich, während Haiku, das am schnellsten eingestufte der drei Programme und ebenfalls für Abonnenten verfügbar ist, die wenigsten Eingabeaufforderungen aufweist.
Was sagen die Systemansagen eigentlich? Hier finden Sie Beispiele für jedes Modell.
Claude 3,5 Sonett
In einer Systemaufforderung teilt Anthropic Sonnet mit, dass URLs, Links oder Videos nicht geöffnet werden können. Wenn Sie versuchen, bei der Abfrage von Sonnet welche einzuschließen, verdeutlicht der Chatbot diese Einschränkung und weist Sie an, den Text oder das Bild direkt in die Konversation einzufügen. Eine weitere Aufforderung schreibt vor, dass Sonnet versuchen sollte, mit sorgfältigen Gedanken und klaren Informationen zu antworten, wenn ein Benutzer Fragen zu einem kontroversen Thema stellt, ohne zu sagen, dass das Thema sensibel sei oder zu behaupten, dass es objektive Fakten liefert.
Wenn Sonnet eine Aufgabe nicht ausführen kann oder will, wird es angewiesen, Ihnen dies zu erklären, ohne sich zu entschuldigen (und dass es generell vermeiden sollte, Antworten mit „Es tut mir leid“ oder „Ich entschuldige mich“) zu beginnen. Wenn Sonnet nach einem obskuren Thema gefragt wird, erinnert es Sie daran, dass es, obwohl es auf Genauigkeit abzielt, bei der Antwort auf eine solche Frage möglicherweise halluziniert.
Anthropic weist Claude sogar an, ausdrücklich das Wort „halluzinieren“ zu verwenden, da der Benutzer weiß, was das bedeutet.
Claude Sonnet ist auch darauf programmiert, mit Bildern vorsichtig umzugehen, insbesondere mit Bildern, bei denen Gesichter erkennbar sind. Selbst bei der Beschreibung eines Bildes verhält sich Sonnet so, als ob es „gesichtsblind“ wäre, was bedeutet, dass es Ihnen nicht den Namen einer Person auf diesem Bild verrät. Wenn Sie den Namen kennen und diese Details mit Claude teilen, kann die KI diese Person mit Ihnen besprechen, wird dies jedoch tun, ohne zu bestätigen, dass es sich um die Person auf dem Bild handelt.
Als nächstes wird Sonnet angewiesen, ausführliche und manchmal lange Antworten auf komplexe und offene Fragen zu geben, aber kürzere und prägnantere Antworten auf einfache Fragen und Aufgaben. Insgesamt sollte die KI versuchen, eine prägnante Antwort auf eine Frage zu geben, dann aber anbieten, näher darauf einzugehen, wenn Sie weitere Details wünschen.
„Claude hilft gerne bei der Analyse, Beantwortung von Fragen, Mathematik, Codierung, kreativem Schreiben, Unterricht, Rollenspielen, allgemeinen Diskussionen und allen möglichen anderen Aufgaben“, fügt Anthropic als weitere Systemaufforderung hinzu. Aber der Chatbot wird angewiesen, bestimmte Affirmationen und Füllphrasen wie „Auf jeden Fall“, „Natürlich“, „Absolut“, „Großartig“ und „Sicher“ zu vermeiden.
Claude 3 Opus
Opus enthält mehrere der gleichen Systemaufforderungen wie Sonnet, einschließlich der Problemumgehungen für die Unfähigkeit, URLs, Links oder Videos zu öffnen, und seines Haftungsausschlusses für Halluzinationen.
Andernfalls wird Opus darauf hingewiesen, dass es, wenn ihm eine Frage gestellt wird, die bestimmte Ansichten einer großen Anzahl von Menschen betrifft, Hilfe leisten soll, auch wenn es darauf trainiert wurde, diese Ansichten nicht zu teilen. Wenn man zu einem kontroversen Thema befragt wird, sollte Opus sorgfältige Gedanken und objektive Informationen liefern, ohne schädliche Inhalte herunterzuspielen.
Der Bot wird außerdem angewiesen, Stereotypisierungen zu vermeiden, einschließlich jeglicher „negativer Stereotypisierung von Mehrheitsgruppen“.
Claude 3 Haiku
Schließlich ist Haiku so programmiert, dass es prägnante Antworten auf sehr einfache Fragen, aber ausführlichere Antworten auf komplexe und offene Fragen gibt. Mit einem etwas kleineren Umfang als Sonnet ist Haiku auf „Schreiben, Analyse, Beantwortung von Fragen, Mathematik, Codierung und alle möglichen anderen Aufgaben“ ausgerichtet, heißt es in den Versionshinweisen. Außerdem vermeidet dieses Modell die Erwähnung der in den Systemaufforderungen enthaltenen Informationen, es sei denn, diese Informationen stehen in direktem Zusammenhang mit Ihrer Frage.
Insgesamt lesen sich die Aufforderungen so, als ob ein Romanautor eine Charakterstudie oder einen Entwurf zusammenstellen würde, der die Dinge enthält, die die Figur tun und nicht tun sollte. Bestimmte Aufforderungen waren besonders aufschlussreich, insbesondere diejenigen, die Claude sagten, er solle in seinen Gesprächen nicht vertraut oder entschuldigend sein, sondern ehrlich sein, wenn eine Reaktion eine Halluzination sein könnte (ein Begriff, von dem Anthropic glaubt, dass jeder ihn versteht).
Die Transparenz dieser Systemaufforderungen durch Anthropic ist einzigartig, da Entwickler generativer KI solche Details normalerweise geheim halten. Das Unternehmen plant jedoch, solche Enthüllungen regelmäßig durchzuführen.
In einem Beitrag auf