„OpenAI ist Produktentwicklung, keine KI-Forschung“, sagt Metas Chef-KI-Wissenschaftler LeCun

Die Regierung sollte die grundlegende Wissenschaft der KI nicht regulieren, sagen LeCun und sein Kollege Andrew Ng.

„Eine Reihe sehr kluger Leute haben diesem Vorschlag zugestimmt, und ich denke, sowohl Yann als auch ich sind besorgt über diesen Vorschlag“, sagte Andrew Ng, Left, Gründer und CEO des Unternehmens für angewandte KI Landing.ai und des KI-Bildungsunternehmens DeepLearning.ai . Zu ihm gesellte sich Yann LeCun, Chef-KI-Wissenschaftler bei Meta Platforms.

Während eines Live-Webcasts auf YouTube am Freitag zog der leitende KI-Wissenschaftler von Meta Platforms, Yann LeCun, eine Grenze zwischen der Regulierung der Wissenschaft der KI und der Regulierung von Produkten und wies darauf hin, dass die umstrittenste KI-Entwicklung, OpenAIs ChatGPT, ein Produkt und kein Basisprodukt darstellt Forschung und Entwicklung.

„Wenn wir über GPT-4 oder was auch immer OpenAI derzeit herausbringt, sprechen, sprechen wir nicht über Forschung und Entwicklung, sondern über Produktentwicklung, okay?“ sagte LeCun.

„OpenAI hat sich von einem KI-Forschungslabor, das, wie der Name schon sagt, relativ offen war, zu einem gewinnorientierten Unternehmen entwickelt und ist nun eine Art Auftragsforschungslabor hauptsächlich für Microsoft, das nichts mehr über seine Funktionsweise preisgibt, also das hier ist Produktentwicklung; das ist keine Forschung und Entwicklung.“

LeCun veranstaltete einen gemeinsamen Webcast mit Andrew Ng, Gründer und CEO des KI-Unternehmens Landing.ai, und dem KI-Bildungsunternehmen DeepLearning.ai. Die beiden präsentierten ihre Argumente gegen das sechsmonatige Moratorium für KI-Tests, das vom Future of Life Institute vorgeschlagen und von verschiedenen Koryphäen unterzeichnet wurde.

Der Vorschlag sieht vor, dass KI-Labore das Training von KI-Systemen, die leistungsfähiger sind als GPT-4 von OpenAI, das neueste von mehreren sogenannten großen Sprachmodellen, die die Grundlage für KI-Programme wie ChatGPT bilden, für mindestens sechs Monate unterbrechen .

Eine Aufzeichnung der halbstündigen Sitzung kann auf YouTube angesehen werden.

Sowohl LeCun als auch Ng argumentierten, dass eine Verzögerung der KI-Forschung schlecht wäre, weil sie den Fortschritt abschneide.

„Ich habe das Gefühl, dass KI heute zwar ein gewisses Schadensrisiko birgt - ich denke, Voreingenommenheit, Fairness, Machtkonzentration sind echte Probleme -, dass sie aber auch echten Wert schafft, für Bildung, für das Gesundheitswesen, das ist unglaublich spannend, der Wert.“ „So viele Menschen schaffen etwas, um anderen Menschen zu helfen“, sagte Ng.

„So erstaunlich GPT-4 heute auch ist, die Entwicklung von etwas noch Besserem als GPT-4 wird all diesen Anwendungen dabei helfen, vielen Menschen zu helfen“, fuhr Ng fort. „Eine Unterbrechung dieses Fortschritts scheint also großen Schaden anzurichten und die Schaffung vieler sehr wertvoller Dinge zu verlangsamen, die vielen Menschen helfen würden.“

LeCun stimmte dem zu, betonte jedoch die Unterscheidung zwischen Forschung und Produktentwicklung.

„Meine erste Reaktion darauf ist, dass die Forderung nach einer Verzögerung von Forschung und Entwicklung im Wesentlichen einer neuen Welle des Obskurantismus gleichkommt“, sagte LeCun. „Warum den Fortschritt von Wissen und Wissenschaft verlangsamen?“

„Dann ist da noch die Frage der Produkte“, fuhr LeCun fort. „Ich bin voll und ganz dafür, Produkte zu regulieren, die in die Hände von Menschen gelangen. Ich sehe keinen Sinn darin, Forschung und Entwicklung zu regulieren. Ich glaube nicht, dass dies einem anderen Zweck dient als der Reduzierung des Wissens, das wir nutzen könnten, um die Technologie tatsächlich zu verbessern.“ , sicherer.“

LeCun verwies auf die Entscheidung von OpenAI, mit GPT-4 die Offenlegung der Funktionsweise seines Programms drastisch einzuschränken, und bot in dem formellen Forschungspapier, in dem das Programm letzten Monat der Welt vorgestellt wurde, fast nichts von technischem Wert an.

„Teilweise sind die Leute darüber unzufrieden, dass OpenAI jetzt geheim gehalten wird, weil die meisten Ideen, die sie in ihren Produkten verwendet haben, nicht von ihnen stammen“, sagte LeCun. „Es waren Ideen, die von Leuten von Google und FAIR (Facebook AI Research) und verschiedenen anderen akademischen Gruppen usw. veröffentlicht wurden, und jetzt sind sie sozusagen unter Verschluss.“

LeCun wurde in der Frage-und-Antwort-Runde gefragt, warum sein Kollege Yoshua Bengio, Leiter des kanadischen MILA-Instituts für KI, das Moratoriumsschreiben unterzeichnet hat. LeCun antwortete, dass Bengio besonders die Offenheit in der KI-Forschung am Herzen liegt. Tatsächlich sagte Bengio, dass die Wende von OpenAI zur Geheimhaltung eine abschreckende Wirkung auf die Grundlagenforschung haben könnte.

„Ich stimme ihm zu“, was die Notwendigkeit von Offenheit in der Forschung angeht, sagte LeCun. „Aber wir reden hier nicht über Forschung, sondern über Produkte.“

LeCuns Charakterisierung der Arbeit von OpenAI als bloße Produktentwicklung steht im Einklang mit früheren Bemerkungen, dass OpenAI keine tatsächlichen wissenschaftlichen Durchbrüche erzielt hat. Im Januar bemerkte er, dass ChatGPT von OpenAI „nicht besonders innovativ“ sei.

Während der Sitzung am Freitag prognostizierte LeCun, dass der freie Forschungsfluss Programme hervorbringen wird, die GPT-4 in ihren Fähigkeiten erfüllen oder übertreffen.

„Dies wird nicht sehr lange anhalten, da es in relativ kurzer Zeit viele andere Produkte mit ähnlichen, wenn nicht sogar besseren Fähigkeiten geben wird“, sagte LeCun.

„OpenAI hat aufgrund des Schwungrads an Daten, das es ihnen ermöglicht, es zu optimieren, einen kleinen Vorsprung, aber das wird nicht von Dauer sein.“