OpenAI hat einen Weg gefunden, KI-Modelle logischer zu gestalten und Halluzinationen zu vermeiden

Eine Änderung in der Art und Weise, wie KI-Modelle sich selbst trainieren, könnte dazu beitragen, Erfindungen zu verhindern.

Obwohl KI-Modelle fortgeschritten sind und außergewöhnliche Dinge leisten können, sind sie dennoch in der Lage, Fehler zu machen und falsche Antworten zu produzieren - sogenannte Halluzinationen.

Alle großen KI-Chatbots, einschließlich ChatGPT und Google Bard, sind anfällig für diese Halluzinationen. Sowohl OpenAI als auch Google geben sogar an, dass ihre Chatbots möglicherweise falsche Informationen produzieren.

„ChatGPT schreibt manchmal plausibel klingende, aber falsche oder unsinnige Antworten“, sagt OpenAI in einem ChatGPT-Blogbeitrag.

Die Schaffung falscher Informationen hat zu weit verbreiteten Bedenken hinsichtlich der Verbreitung von Fehlinformationen und deren möglichen negativen Folgen geführt.

In einem neuen Forschungsbeitrag teilt OpenAI mit, dass es möglicherweise einen Weg gefunden hat, KI-Modelle dazu zu bringen, logischer zu handeln und Halluzinationen zu vermeiden.

OpenAI hat ein Modell trainiert, das in der Lage ist, komplexe mathematische Probleme durch „Prozessüberwachung“ zu lösen, eine Methode, die Feedback für jeden einzelnen Schritt liefert, im Gegensatz zur „Ergebnisüberwachung“, die Feedback zu einem Endergebnis liefert.

In der Forschungsarbeit testete OpenAI beide Methoden mithilfe des MATH-Datensatzes und stellte fest, dass die Prozessüberwachungsmethode zu einer „deutlich besseren Leistung“ führte.

„Die Prozessüberwachung führt auch eher zu interpretierbaren Überlegungen, da sie das Modell dazu ermutigt, einem vom Menschen genehmigten Prozess zu folgen“, heißt es in der Forschungsarbeit von OpenAI.

OpenAI weist darauf hin, dass außerhalb des Rahmens mathematischer Probleme nicht bekannt ist, wie umfassend diese Ergebnisse anwendbar sein werden, es jedoch dennoch wichtig ist, sie in anderen Bereichen zu untersuchen.