"OpenAI est le développement de produits, pas la recherche sur l'IA", déclare LeCun, scientifique en chef de l'IA chez Meta.

Le gouvernement ne devrait pas réglementer la science fondamentale de l’IA, affirment LeCun et son collègue Andrew Ng.

"Un certain nombre de personnes très intelligentes ont signé cette proposition, et je pense que Yann et moi sommes préoccupés par cette proposition", a déclaré Andrew Ng, à gauche, fondateur et PDG de la société d'IA appliquée Landing.ai et de la société d'enseignement de l'IA DeepLearning.ai. . Il a été rejoint par Yann LeCun, scientifique en chef de l'IA pour Meta Platforms.

Vendredi, lors d'une webdiffusion en direct sur YouTube, Yann LeCun, scientifique en chef de l'IA chez Meta Platforms, a tracé une ligne entre la réglementation de la science de l'IA et la réglementation des produits, soulignant que le développement le plus controversé de l'IA, ChatGPT d'OpenAI, représente un produit, et non un produit de base. R&D.

"Quand nous parlons de GPT-4, ou de tout ce qu'OpenAI propose actuellement, nous ne parlons pas de recherche et développement, nous parlons de développement de produits, d'accord ?" dit LeCun.

"OpenAI est passé d'un laboratoire de recherche en IA relativement ouvert, comme son nom l'indique, à une entreprise à but lucratif, et maintenant à une sorte de laboratoire de recherche sous contrat principalement pour Microsoft qui ne révèle plus rien sur leur fonctionnement, donc ceci c'est du développement de produits ; ce n'est pas de la R&D."

LeCun organisait une webdiffusion conjointe avec Andrew Ng, fondateur et PDG de la société d'IA appliquée Landing.ai, et la société éducative en IA DeepLearning.ai. Les deux hommes ont présenté leur argument contre le moratoire de six mois sur les tests d’IA proposé par le Future of Life Institute et signé par diverses sommités.

La proposition appelle les laboratoires d'IA à suspendre - pendant au moins six mois - la formation de systèmes d'IA plus puissants que le GPT-4 d'OpenAI, le dernier de plusieurs soi-disant grands modèles de langage qui constituent la base des programmes d'IA tels que ChatGPT. .

Une rediffusion de la séance d'une demi-heure peut être visionnée sur YouTube.

LeCun et Ng ont tous deux fait valoir que retarder la recherche sur l’IA serait une mauvaise chose car cela freinerait les progrès.

"J'ai l'impression que, même si l'IA présente aujourd'hui un certain risque de préjudice - je pense que les préjugés, l'équité, la concentration du pouvoir, ce sont de vrais problèmes - elle crée également une réelle valeur, pour l'éducation, pour les soins de santé, c'est incroyablement excitant, la valeur tant de gens créent pour aider les autres », a déclaré Ng.

"Aussi étonnant que soit GPT-4 aujourd'hui, créer quelque chose d'encore meilleur que GPT-4 aidera toutes ces applications à aider beaucoup de gens", a poursuivi Ng. "Donc, suspendre ces progrès semble créer beaucoup de mal et ralentir la création de beaucoup de choses très précieuses qui pourraient aider beaucoup de gens."

LeCun était d'accord, tout en soulignant la distinction entre la recherche et le développement de produits.

"Ma première réaction à cela est que réclamer un retard dans la recherche et le développement équivaut essentiellement à une nouvelle vague d'obscurantisme", a déclaré LeCun. "Pourquoi ralentir le progrès de la connaissance et de la science ?"

"Ensuite, il y a la question des produits", a poursuivi LeCun. "Je suis tout à fait favorable à la réglementation des produits qui entrent dans les mains des gens ; je ne vois pas l'intérêt de réglementer la R&D, je ne pense pas que cela serve à autre chose que de réduire les connaissances que nous pourrions utiliser pour améliorer réellement la technologie. , plus sûr."

LeCun a fait référence à la décision d'OpenAI, avec GPT-4, de limiter considérablement la divulgation du fonctionnement de son programme, n'offrant presque rien de valeur technique dans le document de recherche officiel présentant le programme au monde le mois dernier.

"En partie, les gens sont mécontents du fait qu'OpenAI soit désormais secret, car la plupart des idées qu'ils ont utilisées dans leurs produits ne venaient pas d'eux", a déclaré LeCun. "Il s'agissait d'idées publiées par des personnes de Google, de FAIR [Facebook AI Research] et de divers autres groupes universitaires, etc., et maintenant elles sont en quelque sorte sous clé."

On a demandé à LeCun lors de la séance de questions-réponses pourquoi son homologue, Yoshua Bengio, directeur de l'institut canadien MILA pour l'IA, avait signé la lettre de moratoire. LeCun a répondu que Bengio est particulièrement préoccupé par l'ouverture de la recherche sur l'IA. En effet, Bengio a déclaré que le tournant d'OpenAI vers le secret pourrait avoir un effet dissuasif sur la recherche fondamentale.

"Je suis d'accord avec lui" sur la nécessité d'une ouverture dans la recherche, a déclaré LeCun. "Mais nous ne parlons pas ici de recherche, nous parlons de produits."

La caractérisation par LeCun du travail d'OpenAI comme un simple développement de produits est cohérente avec les remarques antérieures selon lesquelles OpenAI n'a réalisé aucune véritable percée scientifique. En janvier, il a fait remarquer que ChatGPT d'OpenAI n'était « pas particulièrement innovant ».

Au cours de la séance de vendredi, LeCun a prédit que la libre circulation de la recherche produirait des programmes dont les capacités atteindraient ou dépasseraient le GPT-4.

"Cela ne va pas durer très longtemps, dans le sens où il y aura beaucoup d'autres produits dotés de capacités similaires, voire meilleures, dans un délai relativement court", a déclaré LeCun.

"OpenAI a un peu d'avance grâce au volant de données qui leur permet de le régler, mais cela ne va pas durer."