Microsoft: So haben wir ChatGPT-ähnliche Technologie in die Bing-Suche integriert
Microsoft erklärt, wie es das GPT-Sprachmodell hinter Bing Chat mit Bing-Suchergebnissen „verankert“ hat.
Microsoft hat einige Details zu Prometheus bekannt gegeben, dem proprietären KI-Modell, das es entwickelt hat, um ChatGPT-ähnliche Funktionen in die Bing-Suche zu integrieren.
Microsoft hat bereits gesagt, dass das neue Bing „viel leistungsfähiger“ ist als das GPT-3.5-KI-Modell von OpenAI hinter ChatGPT. Öffentliche Experimente zeigten jedoch schnell, dass die Chatbot-Funktion anfällig für unerwartete Ausbrüche war, was Microsoft dazu veranlasste, die Anzahl der „Chat-Runden“ auf fünf pro Sitzung zu begrenzen, um Verwirrung zu vermeiden.
Im Detail: Diese Experten kämpfen darum, die KI vor Hackern zu schützen. Die Zeit wird knapp
Jetzt hat Jordi Ribas, CVP für Suche und KI bei Microsoft, einige Details zu Prometheus mitgeteilt - dem proprietären Modell von Microsoft, das Bing mit dem GPT-Modell von OpenAI verknüpft, um relevantere Ergebnisse in Bing zu generieren - und wie es bei der Entwicklung des neuen Bing vorgegangen ist.
Ribas‘ Erklärung kommt, als Benutzer herausfanden, dass Microsoft Sydney (den internen Codenamen für Bing Chat) Ende 2021 mit Benutzern in Indien getestet hatte. Benutzer dort berichteten im November 2022, dass Sydney fast genauso „unhöflich“ sei, wie Benutzer es fanden Dies soll geschehen, nachdem Microsoft das neue Bing veröffentlicht hat.
Laut Ribas teilte OpenAI im Sommer 2022 sein „bahnbrechendes“ Post-GPT-3.5-Modell mit Microsoft. Microsoft-Präsident Brad Smith sagte, dass die OpenAI-Technologie „Anfang letzten Sommers“ in seinem Blogbeitrag über Microsofts „verantwortungsvolle KI“ gezeigt wurde.
OpenAI öffnete ChatGPT im November für die Welt, während Microsoft Berichten zufolge im Dezember Gespräche über eine Investition von 10 Milliarden US-Dollar in OpenAI führte, was Ende Januar bestätigt wurde. Am 7. Februar wurde dann das neue Bing veröffentlicht, einen Tag nachdem Google seinen ChatGPT-Rivalen Bard verdrängt hatte.
„Der Anblick dieses neuen Modells hat uns dazu inspiriert, zu untersuchen, wie wir die GPT-Funktionen in das Bing-Suchprodukt integrieren können, damit wir genauere und vollständigere Suchergebnisse für jede Abfrage bereitstellen können, einschließlich langer, komplexer, natürlicher Abfragen“, erklärt Ribas.
Wie Ribas betont, werden große Sprachmodelle wie GPT-3.5 auf Daten bis zu einem bestimmten Zeitpunkt trainiert. Im Fall von ChatGPT wurden die Trainingsdaten irgendwann im Jahr 2021 eingestellt. Um das Benutzererlebnis „reicher, relevanter und genauer“ zu machen, hat Microsoft beschlossen, es über Prometheus mit dem Back-End von Bing zu kombinieren.
Laut Ribas kombiniert Prometheus den Bing-Index, das Ranking und die Antwortergebnisse mit der GPT-Version, die Bing verwendet, um die Chat-Antwort zu liefern.
„Prometheus nutzt die Leistungsfähigkeit von Bing und GPT, um über eine Komponente namens Bing Orchestrator iterativ eine Reihe interner Abfragen zu generieren, und zielt darauf ab, eine genaue und umfassende Antwort auf die Benutzeranfrage innerhalb des gegebenen Konversationskontexts bereitzustellen. Und das alles innerhalb von Millisekunden.“ Wir bezeichnen diese von Prometheus generierte Antwort als Chat-Antwort“, erklärt Ribas.
Ribas fügt hinzu, dass Bing-Suchergebnisse, die auf Suchanfragen und Chats von Benutzern basieren, Prometheus mit neuen Informationen versorgen, um aktuelle Fragen zu beantworten und Ungenauigkeiten zu reduzieren. Der Prozess wird „Grounding“ genannt - eine Technik, die Google bei der Entwicklung eines großen Sprachmodells für intelligente Roboter verwendet hat. Im Fall von Bing basiert das GPT-Sprachmodell auf Bing-Daten, sodass Bing Zitate zu Bing-Chat-Antworten hinzufügt.
„Auch wenn Grounding eine bemerkenswerte Innovation ist, handelt es sich um eine neue Technologie und wir müssen darüber nachdenken, wie wir sie verantwortungsvoll anwenden, einschließlich der weiteren Reduzierung von Ungenauigkeiten und der Verhinderung anstößiger und schädlicher Inhalte. Deshalb ist das Sammeln von Inhalten ein wichtiges Ziel der neuen Bing-Vorschau.“ „Wir nutzen das Feedback unserer Nutzer, um Prometheus weiter zu verbessern“, erklärt Ribas.
Um die Genauigkeit der Chat-Antworten zu verbessern, plant Microsoft, die an das Modell gesendeten Erdungsdaten um das Vierfache zu erhöhen.
Ribas sagt auch, dass das Bing-Team uneinig war, wie es den Chat in die vertraute Benutzeroberfläche für Suchanfragen und Antworten integrieren sollte. Eine Seite wollte, dass die Chat-Antwort wie Suchergebnisse aussieht und die Antworten entsprechend ihrer Relevanz für die Anfrage platziert werden. Andere wünschten sich eine neue „interaktive, chatbasierte Suchmethode“.
Am Ende hat Microsoft Suche und Chat in einer einzigen Oberfläche kombiniert, die es Benutzern ermöglicht, zwischen Such- und Chat-Modus zu wechseln, indem sie auf ein Element der Seite klicken oder nach oben und unten scrollen.
