Des machines qui pensent comme des humains : tout ce qu’il faut savoir sur l’IAG et l’IA Débat 3

Pendant 3,5 heures, des chercheurs dirigés par Gary Marcus et Vincent Boucher ont discuté des outils qui pourraient donner naissance à la légendaire « intelligence artificielle générale » et des implications pratiques et morales qui pourraient en être une.

Après une interruption d'un an, le débat sur l'IA animé par Gary Marcus et Vincent Boucher est revenu avec un groupe de penseurs de l'IA, cette fois y compris des types de politiques et des universitaires en dehors de la discipline de l'IA, tels que Noam Chomsky.

Après une interruption d’un an, le débat annuel sur l’intelligence artificielle organisé par Montreal.ai et par Gary Marcus, professeur émérite de l’Université de New York et taquin d’IA, est revenu vendredi soir, une fois de plus organisé sous forme d’événement exclusivement virtuel comme en 2020.

« Le problème est assez général et important », a déclaré Chomsky. « Les médias diffusent des articles de réflexion majeurs sur les réalisations miraculeuses de GPT-3 et de ses descendants, plus récemment ChatGPT, et d’autres comparables dans d’autres domaines, et leur importance concernant les questions fondamentales sur la nature humaine. »

Il a demandé : « Au-delà de l’utilité, qu’apprenons-nous de ces approches sur la cognition, la pensée, en particulier le langage, une composante essentielle de la cognition humaine ? » 

Chomsky a déclaré : « De nombreux défauts ont été détectés dans de grands modèles de langage », et peut-être qu'ils s'amélioreront avec « plus de données, plus de paramètres ». Mais, « Il y a un défaut très simple et fondamental qui ne sera jamais corrigé », a-t-il déclaré. « De par leur conception, les systèmes ne font aucune distinction entre les langues possibles et impossibles. »

Chomsky a poursuivi :

T Plus les systèmes sont améliorés, plus la défaillance devient profonde [...] Ils ne nous disent rien sur le langage et la pensée, sur la cognition en général, ou sur ce que c’est que d’être humain. Nous le comprenons très bien dans d’autres domaines. Personne ne prêterait attention à une théorie des particules élémentaires qui ne ferait pas au moins la distinction entre les particules possibles et impossibles [...] Y a-t-il quelque chose de valeur dans, disons, GPT-3 ou des systèmes plus sophistiqués comme celui-ci ? Il est assez difficile de trouver [...] On peut se demander, quel est l'intérêt ? Peut-il y avoir un autre type d’IA, le genre qui était l’objectif des pionniers de la discipline, comme Turing, Newell et Simon, et Minsky, qui considéraient l’IA comme faisant partie de la science cognitive émergente, un type d’IA qui contribuerait à la compréhension de la pensée, du langage, de la cognition et d’autres domaines, qui aiderait à répondre aux types de questions qui ont été prédominantes au cours des millénaires, en ce qui concerne l’oracle de Delphes : « Quel genre de créatures sommes-nous ? 

Marcus a suivi Chomsky avec sa propre présentation parlant de quatre éléments non résolus de la cognition : l’abstraction, le raisonnement, la compositionnalité et la factualité.

Marcus a ensuite montré des exemples illustratifs où des programmes tels que GPT-3 tombent en fonction de chaque élément. Par exemple, en ce qui concerne la « factualité », a déclaré Marcus, les programmes d’apprentissage profond ne maintiennent aucun modèle mondial à partir duquel tirer des conclusions.

Marcus a proposé un diaporama sur la façon dont l’IA échoue sur quatre éléments non résolus de la cognition : l’abstraction, le raisonnement, la compositionnalité et la factualité.

Konrad Kording, professeur à l’Université de Pennsylvanie, a suivi Marcus dans une conférence préenregistrée sur le cerveau. (Kording était en voyage au moment de l’événement.)

Kording a commencé par parler de la quête pour apporter des notions de causalité à l’informatique. Les humains, a déclaré Kording, sont généralement de « mauvais détectives » mais sont bons pour « perturber » les choses afin d’observer les conséquences. 

Il a décrit la perturbation d’un transistor à micropuce et le suivi de traces de tension pour observer la causalité dans la pratique. Les humains se concentrent sur les riches modèles du monde, a-t-il déclaré.

Une diapositive de la présentation enregistrée de Konrad Kording.

Le neuroscientifique Dileep George, qui se concentre sur l'IAG au sein de l'unité DeepMind de Google, était le suivant. « Je suis ingénieur », a-t-il déclaré au public. George a donné deux exemples de dates historiques, le premier avion en 1903 et le premier vol transatlantique sans escale en 1919, et a mis tout le monde au défi de deviner l’année de la catastrophe de Hindenburg. La réponse est 1937, ce qui, selon George, devrait surprendre les gens parce qu’il a suivi si longtemps après les progrès de l’avion. 

Le but, a déclaré George, était de faire la distinction entre « l’expansion » des programmes d’IA actuels et la compréhension des « différences fondamentales entre les modèles actuels et l’intelligence humaine ».

Marcus posa la première question des intervenants. Il a interrogé Chomsky sur le concept d'« inné » dans les écrits de Chomsky, l'idée que quelque chose est « construit » dans l'esprit humain. L’IA devrait-elle accorder plus d’attention à l’innéité ?

Selon Chomsky, « tout type de croissance et de développement d’un état initial à un état stationnaire implique trois facteurs ». L’un est la structure interne dans l’état initial, le deuxième est « toutes les données qui arrivent » et troisièmement, « les lois générales de la nature », a-t-il dit.

« Il s’avère que la structure innée joue un rôle extraordinaire dans tous les domaines que nous découvrons. » 

Les choses qui sont considérées comme un exemple paradigmatique de l’apprentissage, comme l’acquisition d’un langage, « dès que vous commencez à le démonter, vous constatez que les données n’ont presque aucun effet ; La structure des options pour les possibilités phonologiques ont un effet restrictif énorme sur les types de sons qui seront même entendus par l’enfant [...] Les concepts sont très riches, il n'est presque pas nécessaire de les prouver pour les acquérir, quelques présentations [...] mon soupçon est que plus nous nous penchons sur des choses particulières, plus nous découvrirons cela comme dans le système visuel et à peu près tout ce que nous comprenons. 

Le neuroscientifique Dileep George de DeepMind.

Marcus a fait l'éloge de l'article sur un système appelé Cicero cette année de la part des scientifiques de l'IA de Meta, car il allait à l'encontre de la simple mise à l'échelle. Il a noté que le modèle comporte des systèmes distincts pour la planification et la langue. 

Dileep George a ajouté que l’IA devra faire « un ensemble d’hypothèses de base sur le monde » et « qu’il y a une certaine magie dans notre structure du monde qui nous permet de faire seulement une poignée d’hypothèses, peut-être moins d’une demi-douzaine, et d’appliquer ces leçons encore et encore pour construire un modèle du monde ».

De telles hypothèses se trouvent en fait à l’intérieur des modèles d’apprentissage profond, mais à un niveau éloigné de l’observation directe, a ajouté George.

Marcus a demandé à Chomsky, âgé de 94 ans, ce qui le motive. « Ce qui me motive, c’est l’oracle de Delphes », a déclaré Chomsky. « Connais-toi toi-même », a ajouté Chomsky, il n’y a pratiquement aucune différence génétique entre les êtres humains. Le langage, a-t-il dit, n’a pas changé depuis l’émergence de l’homme, comme en témoigne le fait que tout enfant dans n’importe quelle culture est capable d’acquérir le langage. « Quel genre de créatures sommes-nous ? » est la question, a déclaré Chomsky. Chomsky a proposé que le langage soit au cœur de l’IA pour comprendre ce qui rend les humains si uniques en tant qu’espèce. 

Marcus est passé à la deuxième question, sur la réalisation d’un raisonnement pragmatique dans les systèmes informatiques. Il a fait venir Yejin Choi, qui est professeur Brett Helsel à l’Université de Washington, comme premier orateur. 

Choi a prédit « des performances de plus en plus étonnantes de l’IA dans les années à venir ». 

Yejin Choi, professeur Brett Helsel à l’Université de Washington.

« Et pourtant, ces réseaux continueront à faire des erreurs dans les cas adverses et limites », a déclaré Choi. C’est parce que « nous ne connaissons tout simplement pas la profondeur » des réseaux. Choi a utilisé l’exemple de la matière noire en physique, quelque chose que la science connaît mais ne peut pas mesurer. « La matière noire du langage et de l’intelligence pourrait être le bon sens. »

La matière noire ici, a déclaré Choi, est ce qui est facile pour les humains mais difficile pour les machines. 

Le suivant était David Ferrucci, ancien du projet IBM Watson et fondateur d’une nouvelle société, Elemental Cognition.

Ferrucci a déclaré que son intérêt a toujours résidé dans les programmes avec lesquels il pouvait converser comme avec une personne. « J'ai toujours imaginé que nous ne pourrions pas vraiment faire en sorte que les machines réalisent cette vision si elles ne pouvaient pas expliquer pourquoi elles produisaient la production qu'elles produisaient. »

Ferrucci a donné des exemples de cas où GPT-3 a échoué dans des tâches de raisonnement de bon sens. De tels systèmes, avec suffisamment de données, « commenceront à refléter ce que nous considérons comme du bon sens ». En fouillant dans GPT-3, il a déclaré que « c'est comme explorer une nouvelle planète, c'est en quelque sorte cette chose remarquable », et pourtant « c'est finalement insatisfaisant » parce qu'il ne s'agit que de la production, pas des raisons de cette sortie. 

Sa société, a déclaré Ferrucci, poursuit une approche « hybride » qui utilise des modèles de langage pour générer des hypothèses en tant que sortie, puis effectue un raisonnement en plus de cela en utilisant des « modèles causaux ». De tels modèles « peuvent être induits » à partir de la sortie, mais ils nécessitent également que les humains interagissent avec la machine. Cela conduirait à des « représentations structurées » au-dessus des modèles de langage.

David Ferrucci, ancien membre du projet Watson d’IBM.

Après Ferrucci, Dileep George est revenu pour donner quelques points sur le bon sens et la « simulation mentale ». Il a discuté de la façon dont les humains peuvent imaginer un scénario - en simulant - afin de répondre à des questions de raisonnement de bon sens. La simulation permet à une personne de répondre à de nombreuses questions sur une question hypothétique. 

George a émis l’hypothèse que la simulation provient du système sensorimoteur et qu’elle est stockée dans le « système perceptuel + moteur ».

Le langage, a suggéré George, « est quelque chose qui contrôle la simulation ». Il a proposé l'idée de la conversation comme la tentative d'une personne de « faire exécuter la simulation » chez quelqu'un d'autre. 

Marcus est passé à la séance de questions-réponses. Il a repris le commentaire de Ferrucci selon lequel « la connaissance est projetée dans le langage ».

« Nous avons maintenant ce paradigme qui nous permet d’obtenir beaucoup de connaissances à partir de grands modèles de langage », a déclaré Marcus. C'est un paradigme, a-t-il dit. Marcus a suggéré que « nous avons besoin de changements de paradigme », y compris un qui « intégrerait toutes les connaissances que vous pouvez tirer de la langue avec tout le reste ». Les modèles de langage, a déclaré Marcus, sont « privés » de nombreux types d’entrées. 

Schmidhuber, qui est directeur scientifique du Swiss AI Lab IDSIA (Istituto Dalle Molle di Studi sull'Intelligenza Artificiale), est intervenu. Schmidhuber a répondu à Marcus que « c’est un vieux débat », c’est-à-dire des systèmes avec un modèle mondial. « Ce sont tous des concepts des années 80 et 90 », y compris l'accent mis sur « l'incarnation ». Les modèles de langage récents, a déclaré Schmidhuber, sont « limités, nous le savons ».

Jürgen Schmidhuber, directeur scientifique du Swiss AI Lab IDSIA.

Mais, a déclaré Schmidhuber, il existe des systèmes pour remédier à cette lacune ; des choses comme un réseau séparé pour prédire les conséquences, pour faire des simulations mentales, etc.

« Une grande partie de ce dont nous discutons aujourd’hui a, du moins en principe, été résolue il y a de nombreuses années », a déclaré Schmidhuber, grâce à des « réseaux neuronaux à usage général ». De tels systèmes ne sont « pas encore aussi bons que les humains ».

Schmidhuber a déclaré que « l’ancienne pensée » revient, car la puissance de calcul devient moins chère à quelques années d’intervalle. « Nous pouvons faire avec ces anciens algorithmes beaucoup de choses que nous ne pouvions pas faire à l'époque. » 

Marcus a interrogé Schmidhuber et George sur l'ancienne expérience de SHRDLU menée par l'un des étudiants de Minsky, Terry Winograd, y compris le « monde des blocs » d'objets simples à nommer et à manipuler. Marcus a déclaré qu'il avait soulevé comme un défi, le réseau neuronal « Gato » de DeepMind pourrait-il être capable de faire ce que le monde des blocs n'a pas réussi à faire ? « Et serait-ce un point de référence raisonnable pour l’IA d’essayer de faire ce que Winograd a fait dans sa thèse dans les années 1960 ? »

George a répondu que s'il s'agit d'un système capable d'acquérir des abstractions du monde et d'effectuer des tâches, telles que l'empilement de choses, de tels systèmes n'ont pas été réalisés. 

Schmidhuber a répondu que les systèmes informatiques réussissent déjà bien à manipuler dans des simulations, comme les jeux vidéo, mais que dans le monde réel, il s'agit de choisir de nouvelles expériences, « comme un scientifique », en posant « les bonnes questions ».

« Comment puis-je inventer mes propres programmes de manière à pouvoir apprendre efficacement grâce à mes expériences, puis les utiliser pour mon modèle de monde amélioré ? », a-t-il proposé. 

« Pourquoi n’est-ce pas encore comme dans les films ? » a demandé Schmidhuber. 

« À cause de problèmes comme celui-là, peu d’exemples de formation qui doivent être exploités à bon escient, nous y arrivons, par des méthodes purement neuronales, mais nous n’en sommes pas encore là. Ce n'est pas grave, car le coût du calcul n'est pas encore là où nous le souhaitons.

Marcus a ajouté qu’il y a le monde réel et le monde simulé et la question d’essayer de les relier par le langage. Il a cité une déclaration en langage naturel de blocks world. Le niveau de conversation dans le monde des blocs, a déclaré Marcus, « je pense que c’est encore difficile, même en simulation » pour l’IA actuelle.

Marcus s'est ensuite tourné vers Artur d'Avila Garcez, professeur d'informatique à la City, Université de Londres. D'Avila Garcez a suggéré que la question est, encore une fois, celle de l'inné. « Nous voyons beaucoup d’apprentissage profond contraint récemment, en ajoutant ces abstractions. » De tels programmes sont « spécifiques à l’application ». 

D'Avila Garcez a déclaré qu'il pourrait s'agir d'incorporer l'IA symbolique. 

Choi a commenté que « par rapport à l'innéité, je crois qu'il y a quelque chose à apprendre de la psychologie du développement », en ce qui concerne l'agentivité et les objets, le temps et le lieu. « Il se peut qu’il y ait une refonte fondamentale que nous devons faire pour gérer certains concepts différemment. »

« Je ne pense pas que la solution soit dans le passé » et « il s'agit simplement d'ajouter des couches de paramètres », a déclaré M. Choi. Certaines approches formelles des décennies précédentes ne sont peut-être pas compatibles avec les approches actuelles. 

George a ajouté que certains éléments, tels que les objets, peuvent « émerger » d’un fonctionnement de niveau inférieur. Selon George, on supposait que « l’espace est construit », mais maintenant, il croit qu’il pourrait être dérivé du temps. « Vous pouvez apprendre des représentations spatiales purement à partir de séquences sensori-motrices - uniquement du temps et des actions. »

Francesca Rossi, membre d'IBM et responsable mondiale de l'éthique de l'IA au Thomas J. Watson Research Center, a posé une question à Schmidhuber : « Comment se fait-il que nous voyions des systèmes qui n'ont toujours pas les capacités que nous aimerions avoir ? Comment expliquez-vous cela, Jurgen, que ces techniques définies ne soient toujours pas intégrées dans les systèmes actuels ?

Schmidhuber : « Je suis heureux de répondre à cette question. Je pense que c'est surtout une question de coût de calcul pour le moment.

Schmidhuber a poursuivi,

Un réseau récurrent peut exécuter n’importe quel algorithme arbitraire, et l’un des plus beaux aspects de cela est qu’il peut également apprendre un algorithme d’apprentissage. La grande question est de savoir lequel de ces algorithmes peut-il apprendre ? Nous pourrions avoir besoin de meilleurs algorithmes. La possibilité d’améliorer l’algorithme d’apprentissage. Les premiers systèmes de ce type sont apparus en 1992. J’ai écrit le premier article en 1992. À l’époque, nous ne pouvions presque rien faire. Aujourd’hui, nous pouvons avoir des millions et des milliards de poids. Des travaux récents avec mes étudiants ont montré que ces vieux concepts, avec quelques améliorations ici et là, fonctionnent soudainement à merveille et que vous pouvez apprendre de nouveaux algorithmes d’apprentissage qui sont bien meilleurs que la rétropropagation par exemple. 

Marcus a clôturé la section en annonçant un nouvel article de lui-même et de ses collaborateurs, intitulé « Benchmarking Progress for Infant-level Physical Reasoning in AI », qui, selon lui, est « très pertinent pour les choses dont nous venons de parler ». Marcus a déclaré que le document sera publié sur le site Web du débat. 

Marcus a ensuite fait appel à Ben Goertzel, qui porte plusieurs chapeaux, en tant que scientifique en chef chez Hanson Robotics et à la tête de la Fondation SingularityNET et de la Société AGI, pour lancer la troisième section, notant que Goertzel avait contribué à inventer le terme « AGI ».

Ben Goertzel, scientifique en chef chez Hanson Robotics.

Goertzel a noté que son projet actuel vise à construire l’AGI et à « incarner des systèmes généralement intelligents ». Il a suggéré que les systèmes qui peuvent « dépasser leur formation » sont « maintenant tout à fait réalisables », bien qu’ils puissent prendre quelques années. Il a également prophétisé que les programmes actuels d'apprentissage profond ne feront pas beaucoup de progrès vers l'AGI. ChatGPT « ne sait pas de quoi il parle », a déclaré Goertzel. Mais s'il est combiné avec « un vérificateur de faits, vous pourriez peut-être le faire débiter des conneries moins évidentes, mais vous n'allez toujours pas le rendre capable de généralisation comme l'esprit humain ».

« L’intelligence générale », a déclaré Goertzel, sera plus capable d’imagination et de « croissance illimitée ».

Marcus a ajouté : « Je suis tout à fait d’accord avec vous sur le méta-apprentissage », ajoutant : « J’adore cette idée de nombreuses voies vers l’AGI. » 

Marcus s'est ensuite attaqué au mythe, a-t-il dit, selon lequel Yann LeCun de Meta et les autres lauréats du prix Turing, Geoffrey Hinton et Yoshua Bengio, avaient été les pionniers de l'apprentissage profond. Il a présenté Schmidhuber, encore une fois, comme ayant « non seulement écrit l’histoire définitive de la façon dont l’apprentissage profond s’est réellement développé, mais il a également apporté de nombreuses contributions majeures à l’apprentissage profond depuis plus de trois décennies ».

« Je suis vraiment fasciné par cette idée de méta-apprentissage, car elle semble englober tout ce que nous voulons réaliser », a déclaré Schmidhuber. L’essentiel, a-t-il dit, était « d’avoir le type de système le plus général qui puisse apprendre toutes ces choses et, en fonction des circonstances, de l’environnement et de la fonction objectif, il inventera des algorithmes d’apprentissage qui sont correctement adaptés à ce type de problème et à cette classe de problèmes et ainsi de suite. » Tout cela est possible en utilisant des approches « différentiables ». a déclaré Schmidhuber.

Schmidhuber a ajouté : « Une chose qui est vraiment essentielle, je pense, c’est cet aspect scientifique artificiel de l’intelligence artificielle, qui consiste vraiment à inventer automatiquement des questions auxquelles vous aimeriez avoir des réponses. » 

Schmidhuber a résumé en disant que tous les outils existent et qu’il s’agit d’assembler toutes ces pièces du puzzle.

Marcus a déclaré qu’il était « tout à fait d’accord » avec Schmidhuber sur le principe du méta-apprentissage, si ce n’est sur les détails, puis a évoqué Francesca Rossi. 

Rossi a intitulé son discours « Thinking fast and slow in AI », une allusion au livre du même titre de Daniel Kahneman, et a décrit un « système multi-agents » appelé « SOFAI », ou Slow and Fast AI, qui utilise divers « solveurs » pour proposer des solutions à un problème, et un module « métacognitif » pour arbitrer les solutions proposées.

Rossi est allé dans les détails, décrivant la combinaison de « deux grandes modalités » appelées « décisions séquentielles dans une grille contrainte » et « planification symbolique classique et épistémique ».

Rossi a fait un discours catégorique en faveur de l’humain dans la boucle, déclarant que l’architecture combinée pourrait étendre la façon humaine de prendre des décisions « aux non-humains », puis faire en sorte que la machine « interagisse avec les êtres humains d’une manière qui pousse l’humain à utiliser son système un, ou son système deux. ou sa métacognition.

« Il s’agit donc d’une façon de pousser l’humain à utiliser l’une de ces trois modalités en fonction du type d’information dérivé de l’architecture SOFAI. » Ainsi, penser vite et lentement serait un modèle sur la façon de construire une machine, et un modèle sur la façon dont elle interagit avec les gens. 

Francesca Rossi, boursière IBM et responsable mondiale de l’éthique de l’IA au Thomas J. Watson Research Center.

À la suite de M. Rossi, Jeff Clune, professeur agrégé d’informatique à l’Université de la Colombie-Britannique, a été invité à discuter des algorithmes générant de l’IA : le chemin le plus rapide vers l’IAG.

Clune a déclaré que l'IA d'aujourd'hui utilise un « chemin manuel vers l'IA », en « identifiant les blocs de construction ». Cela signifie toutes sortes de règles d'apprentissage et de fonctions objectives, etc. Mais il restait le défi de savoir comment combiner tous les éléments constitutifs, « un défi herculéen », a déclaré Clune.

En pratique, les approches conçues à la main cèdent la place à des approches générées automatiquement, a-t-il soutenu. 

Clune a proposé « trois piliers » dans lesquels pousser : « Nous devons méta-apprendre les architectures, nous devons méta-apprendre les algorithmes, et surtout, nous devons générer automatiquement des environnements d’apprentissage et/ou des données efficaces. » 

Clune a observé que l’IA s’améliore en « se tenant sur les épaules » de diverses avancées, telles que GPT-3. Il a donné l’exemple du projet OpenAI où des vidéos de personnes jouant à des jeux ont apporté une « accélération massive » aux machines jouant à Minecraft.

Clune a suggéré d’ajouter un « quatrième pilier », à savoir « l’exploitation des données humaines ».

Clune a prédit qu’il y aurait un changement de 30 % dans la réalisation de l’AGI d’ici 2030, définie comme « capable de faire plus de 50 % du travail humain économiquement valable ». Clune a ajouté que la voie est « dans le paradigme actuel », ce qui signifie qu’aucun nouveau paradigme n’était nécessaire.

Clune a conclu en déclarant : « Nous ne sommes pas prêts » pour l’AGI. « Nous devons commencer à planifier maintenant. »

Marcus a dit : « Je vais prendre votre pari » sur une probabilité de 30 % d'AGI en 2030.

Jeff Clune, professeur agrégé d’informatique à l’Université de la Colombie-Britannique.

Clune a été suivie par Sara Hooker, qui dirige le laboratoire de recherche à but non lucratif Cohere For AI, qui a parlé du sujet : « Pourquoi certaines idées réussissent-elles et d’autres échouent ? » 

« Quels sont les ingrédients dont nous avons besoin pour progresser ? » a proposé Hooker comme problème.

Il a fallu trois décennies depuis l'invention de l'hélice arrière et des circonvolutions dans les années 60, 70 et 80 pour que l'apprentissage profond soit reconnu. Pourquoi? a-t-elle demandé.

La réponse était l’essor des GPU, a-t-elle déclaré. « Une heureuse coïncidence. »

« C'est vraiment la chance des idées qui ont réussi à être compatibles avec l'outillage disponible », a déclaré Hooker. 

Sara Hooker, qui dirige le laboratoire de recherche à but non lucratif Cohere For AI.

La prochaine percée, a déclaré Hooker, nécessitera de nouveaux algorithmes et de nouveaux matériels et logiciels. Le monde de l'IA a « doublé » le cadre actuel, a-t-elle déclaré, « en se penchant sur des accélérateurs spécialisés », où « nous avons renoncé à la flexibilité ». 

La discipline, a déclaré Hooker, s’est enfermée dans le matériel, et avec elle, de mauvaises « hypothèses », telles que la mise à l’échelle des réseaux neuronaux seule peut réussir. Cela, a-t-elle dit, soulève des problèmes, tels que le coût élevé de la « mémorisation de la longue traîne » des phénomènes. 

Le progrès, a déclaré Hooker, signifiera « réduire le coût des différentes combinaisons matériel-logiciel-algorithme ».

Marcus a ensuite de nouveau fait appel à D'Avila Garcez pour faire sa présentation de diapositives sur « l'IA durable ».

« Le moment est venu de commencer à parler d'IA durable en relation avec les objectifs de durabilité de l'ONU », a déclaré M. D'Avila Garcez.

D'Avila Garcez a déclaré que les limites de l'apprentissage profond sont devenues « très claires » depuis le premier débat sur l'IA, y compris, entre autres, l'équité, l'efficacité énergétique, la robustesse, le raisonnement et la confiance.

« Ces limites sont importantes en raison du grand succès de l’apprentissage profond », a-t-il déclaré. D'Avila Garcez a proposé l'IA neuro-symbolique comme voie à suivre. Des travaux pertinents sur la symbolique neuronale remontent aux années 1990, a déclaré D'Avila Garcez, et il a cité des documents de référence à http://www.neural-symbolic.org.

D'Avila Garcez a proposé plusieurs tâches cruciales, notamment des « mesures de confiance et de responsabilité », et la « fidélité d'une explication » et l'alignement avec les objectifs de développement durable, et pas seulement « l'exactitude des résultats ». 

Artur d'Avila Garcez, professeur d'informatique à la City, Université de Londres. 

L'apprentissage du programme d'études sera particulièrement important, a déclaré D'Avila Garcez. Un « cadre sémantique » pour l’IA neuro-symbolique est un nouvel article qui sera publié prochainement, a-t-il noté.

Clune a lancé la séance de questions-réponses avec la question suivante : « N'êtes-vous pas d'accord pour dire que ChatGPT a moins de ces défauts que GPT-3, et que GPT-3 en a moins que GPT-2 et GPT-1 ? Si c’est le cas, ce qui a résolu ces défauts, c’est le même livre de jeu, mais à l’échelle. Alors, pourquoi devrions-nous conclure maintenant que nous devrions nous arrêter et ajouter plus de structure plutôt que d’adopter le paradigme actuel de la mise à l’échelle ?

George offrit la première réponse. « Il est clair que la mise à l'échelle apportera des résultats plus impressionnants », a-t-il déclaré. Mais, « Je ne suis pas d'accord que les défauts sont moins nombreux », a déclaré George. « Les systèmes s'améliorent, mais c'est une propriété de nombreux algorithmes. C'est une question d'efficacité de mise à l'échelle.

Choi a répondu : « ChatGPT n’est pas plus grand que GPT-3 DaVinci, mais il est mieux entraîné grâce à une énorme quantité de commentaires humains, ce qui se résume à une annotation humaine. » Le programme, a déclaré Choi, a produit des rumeurs selon lesquelles « ils [OpenAI] auraient pu dépenser plus de 10 millions de dollars pour créer des données annotées par de tels humains. Il s'agit donc peut-être d'un cas de données plus manuelles. Choi a rejeté l'idée que ChatGPT soit meilleur.

Selon M. Choi, les programmes sont passionnants, mais « je ne pense vraiment pas que nous sachions quelle est l'ampleur et la profondeur des cas particuliers, les cas limites auxquels nous pourrions avoir à faire face si nous voulons atteindre l'AGI. Je soupçonne que c'est un monstre beaucoup plus grand que ce à quoi nous nous attendons. L'écart entre l'intelligence humaine et la prochaine version de GPT est « beaucoup plus grand que ce que nous pourrions soupçonner aujourd'hui ».

Marcus a offert sa propre riposte : « Le risque ici est la fermeture prématurée, nous choisissons une réponse que nous pensons fonctionner mais qui n’est pas la bonne. »

Le groupe s’est ensuite ajourné pendant 5 minutes. 

Après la pause, la députée canadienne Michelle Rempel Garner a été la première à faire une présentation.

Marcus a présenté Rempel Garner comme l’une des premières personnes du gouvernement à soulever des préoccupations concernant ChatGPT. 

Rempel Garner a offert « le point de vue d'un politicien ». Le calendrier de l'arrivée de l'AGI est « incertain », a-t-elle dit, mais le manque de certitude quant à la façon dont le gouvernement devrait aborder la question est tout aussi important. « Les efforts qui ont émergé se concentrent sur des cadres punitifs relativement étroits. » Elle a déclaré que cela posait problème car il s'agissait d'une posture « réactive » qui ne pouvait pas suivre la vitesse de développement de la technologie. « Le discours actuel sur le rôle du gouvernement a tendance à être une approche naïve et pessimiste. » 

Michelle Rempel Garner, députée du Parlement canadien.

Le gouvernement, a déclaré Rempel Garner, détient d’importants « leviers » qui pourraient être utiles pour stimuler la recherche à grande échelle en dehors du simple capital privé. Mais les gouvernements rencontrent des problèmes dans l’utilisation de leurs leviers. L'une d'entre elles est que les mœurs sociales ne se sont pas toujours adaptées aux nouvelles technologies. Et les gouvernements opèrent toujours dans un contexte où ils supposent que les humains sont les seules formes de cognition. Le gouvernement n'est pas conçu pour considérer que l'humanité partage la planète avec d'autres formes de cognition.

Rempel Garner a déclaré : « Ce qui me préoccupe en tant que législateur, c’est que notre gouvernement opère dans un contexte où les humains sont le summum de la maîtrise », mais « le gouvernement devrait imaginer un monde où ce ne serait peut-être pas le cas ». 

Rempel Garner a offert une « expérience vécue » en tentant de faire adopter un projet de loi au Parlement sur le Web3. Elle a été surprise de constater que c’est devenu un « exercice partisan » et a déclaré : « On ne peut pas laisser cette dynamique se répéter avec l’AGI. »  

Elle a poursuivi : « Le gouvernement doit innover et transcender les paradigmes opérationnels actuels pour relever les défis et saisir les opportunités que présente le développement de l’IAG ; même si l’horizon temporel de l’émergence de l’AGI est incertain, compte tenu de la rigidité traditionnelle du gouvernement, cela devait commencer hier.

Choi a suivi Rempel Garner avec une deuxième présentation, pour développer sa position sur la façon dont la « sécurité de l’IA », « l’équité » et la « moralité » seraient perçues conjointement.

Choi a cité de mauvais exemples de ChatGPT violant le bon sens et offrant des suggestions dangereuses en réponse aux questions. 

Choi a décrit le prototype de recherche « Delphi » pour construire des « modèles moraux de bon sens » sur des modèles de langage. Elle a dit que Delphi serait en mesure de spéculer que certaines déclarations pourraient être des suggestions dangereuses. 

Delphi pourrait « s’aligner sur les normes sociales » grâce à l’apprentissage par renforcement, mais pas sans une certaine « connaissance préalable », a déclaré Choi. La nécessité d’enseigner des « valeurs humaines » conduit, selon Choi, à un besoin de « pluralisme des valeurs », la capacité d’avoir un « système d’IA sûr » qui respecterait les divers systèmes culturels.

Marcus a ensuite évoqué Anja Kaspersen du Carnegie Council on AI Ethics. 

Kaspersen a partagé six observations pour promouvoir la discussion sur la question « Qui décide ? » en ce qui concerne l’IAG, et « Où en est l’IA en ce qui concerne la distribution de l’énergie ? »

Son premier thème était « La condition humaine sera-t-elle améliorée grâce aux technologies numériques et à l’IA, ou l’IA transformera-t-elle la condition humaine ? »

« Je vois qu’il y a un risque réel dans les objectifs actuels de développement de l’IA qui pourrait déformer ce que signifie être humain », a observé Kaspersen. « Les incitations actuelles sont davantage orientées vers le remplacement [c’est-à-dire le remplacement des humains] plutôt que vers les systèmes d’IA qui visent à améliorer la dignité et le bien-être humains », a-t-elle déclaré.

« Si nous ne redirigeons pas tout cela... Nous risquons de devenir complices et de détruire le fondement de ce que signifie être humain et la valeur que nous accordons à l’être humain et à l’autocratie », a-t-elle déclaré. 

Deuxièmement, « le pouvoir des récits et les dangers de ce que j’appelle le scientisme incontrôlé ». 

Anja Kaspersen, chercheuse principale au Carnegie Council on AI Ethics.

« Lorsque nous discutons de technologies ayant un impact profond et profond sur les systèmes sociaux et politiques, nous devons être très attentifs à fournir une lentille ascendante et réductionniste, où le scientisme devient une sorte d’éthologie. »

Il y a un danger de « gaslighting de l’espèce humaine », a-t-elle dit, avec des récits qui « mettent l’accent sur les défauts des capacités humaines individuelles ».

Kaspersen a cité l'exemple du scientifique J. Robert Oppenheimer, qui a prononcé un discours en 1963 : « Il a dit : Il n'est pas possible d'être un scientifique à moins de croire que la connaissance du monde et le pouvoir qu'elle donne sont une chose qui a une valeur intrinsèque pour l'humanité. » Elle a déclaré que l’entreprise est passée de plus en plus de personnes dans la prise de décision à maintenant les scientifiques eux-mêmes.

Troisièmement, l’IA est une « histoire de pouvoir », a-t-elle déclaré. La « révolution actuelle » des données et des algorithmes est la « redistribution du pouvoir ». Elle a cité le point de vue de Marcus sur les pièges du « découplage ».

« Les gens qui essaient de s’exprimer sont manipulés, repoussés et intimidés », a-t-elle déclaré.

Quatrièmement, a-t-elle dit, il y a le « pouvoir de toutes les sciences sociales », empruntant au sociologue Pierre Bourdieu, et la question de savoir qui, dans une société, a « le plus grand intérêt dans les arrangements actuels » et dans « garder certaines questions à l’écart du discours public ». 

Cinquièmement, a déclaré Kaspersen, il y avait le problème que les façons d’aborder les problèmes d’IA deviennent une « cape d’invisibilité de gouvernance », un moyen de « masquer les problèmes et les limites de nos méthodes et systèmes scientifiques au nom de leur résolution ».

Le sixième et dernier point de Kaspersen était qu'il y a « une certaine confusion quant à ce que signifie intégrer l'éthique dans ce domaine », c'est-à-dire l'IA. Le point clé, a déclaré Kaspersen, est que l’informatique n’est plus simplement « théorique », mais plutôt « elle est devenue une caractéristique déterminante de la vie avec un impact profond et profond sur ce que signifie être humain ».

Après Kaspersen, Clune et Rossi ont fait de brèves remarques en réponse.

Clune a dit qu’il répondait à la question : « Devrions-nous programmer les machines pour qu’elles aient des valeurs explicites ? »

« Ma réponse est non », a-t-il dit. La question est « cruciale », a-t-il dit, « parce que l’IAG arrive, elle sera intégrée et aura un impact sur presque tous les aspects de nos vies. »

Clune a déclaré : « Les enjeux ne pourraient pas être plus élevés ; nous devons aligner l'éthique et les valeurs de l'IA sur les nôtres. Mais les valeurs ne devraient pas être codées en dur parce que, « n° 1, tous les signes pointent vers [l'idée que] l'IA ou l'IAG apprise surpassera largement tout ce qui est codé à la main... et la société finira par adopter l'IA la plus puissante disponible. Et la raison n° 2, « nous ne savons pas comment programmer l'éthique », a-t-il déclaré. « C'est trop complexe », a-t-il dit, ajoutant : « Voir le travail d'Asimov sur les trois lois, par exemple », faisant référence aux trois lois de la robotique d'Isaac Asimov.

Clune a suggéré que la meilleure façon d’aborder l’éthique est d’utiliser l’apprentissage par renforcement combiné à la rétroaction humaine, y compris un « flux sans fin d’exemples, de discussions, de débats, de cas limites ».

Clune a suggéré que le danger le plus grave est ce qui se passe lorsque l’IA et l’AGI « sont fabriquées par des acteurs sans scrupules », d’autant plus que les grands modèles de langage deviennent de plus en plus faciles à entraîner.

Rossi a posé que « la question est de savoir si nous devrions intégrer des valeurs dans les systèmes d’IA », déclarant : « Ma réponse est oui ».

Les valeurs ne peuvent pas être obtenues « simplement en regardant les données ou en apprenant des données », a déclaré Rossi, de sorte qu'« il a besoin de données humaines, de règles, d’une approche neuro-symbolique pour intégrer ces valeurs et les définir ». Bien qu’il ne soit peut-être pas possible de coder en dur les valeurs, a déclaré Rossi, « à un moment donné, elles doivent être explicitement vues de l’extérieur ».

Après Rossi, Ferrucci a fait une brève observation sur deux points. Premièrement, « la transparence est essentielle », a-t-il déclaré, « les systèmes d'IA devraient être en mesure d'expliquer pourquoi ils prennent les décisions qu'ils prennent. » Mais, a-t-il dit, la transparence n'élimine pas la nécessité d'un système de valeurs qui est « conçu quelque part et convenu ».

Ferrucci a déclaré : « Vous ne voulez pas vous retrouver dans une situation où une décision horrible est prise, et ce n'est pas grave que vous puissiez l'expliquer à la fin ; Vous voulez que ces décisions soient conformes à quelque chose qui a collectivement du sens, et qui doit être établi à l’avance.

Choi a suivi Ferrucci, observant que les humains sont souvent en désaccord sur ce qui est moral. « Les humains sont capables de savoir quand les gens ne sont pas d’accord », a-t-elle noté. « Je pense que l’IA devrait être capable de faire exactement cela », a-t-elle déclaré.

Erik Brynjolfsson de l’Institut de Stanford pour l’IA centrée sur l’humain.

Pour le dernier segment, Erik Brynjolfsson, professeur Jerry Yang et Akiko Yamazaki et chercheur principal à l’Institut de Stanford pour l’IA centrée sur l’humain (HAI) et directeur du Stanford Digital Economy Lab, a commencé par noter que « la promesse de l’IA de type humain est d’augmenter la productivité, de profiter de plus de loisirs et, peut-être plus profondément, pour améliorer notre compréhension de notre propre esprit.

Une partie du « jeu d'imitation » d'Alan Turing devient plus réaliste maintenant, a déclaré Brynjolfsson, mais il y a une autre souche en plus de l'imitation des humains, et c'est l'IA qui fait des choses qui augmentent ou complètent les humains. 

« Mes recherches au MIT montrent que l’augmentation ou la complémentarité des humains présente des avantages économiques bien plus importants que l’IA qui se contente de substituer ou d’imiter le travail humain », a déclaré Brynjolfsson.

Malheureusement, a-t-il dit, trois types de parties prenantes - les technologues, les industriels et les décideurs politiques - ont des incitations qui « sont très mal alignées et favorisent la substitution du travail humain plutôt que son augmentation ».

Et « si la société continue à poursuivre de nombreux types d'IA qui imitent les capacités humaines », a déclaré Brynjolfsson, « nous nous retrouverons dans un piège économique ». Ce piège, qu'il appelle le piège de Turing, finirait par créer des avantages plutôt pervers. 

« Imaginez si Dédale avait développé des robots » dans le mythe grec, a-t-il dit. « Ils ont réussi à automatiser des tâches à cette époque, il y a 3 000 ans, et ses robots ont réussi à automatiser chacune des tâches que les Grecs de l’Antiquité effectuaient à cette époque », comme la poterie et le tissage. « La bonne nouvelle, c’est que le travail humain ne serait plus nécessaire, les gens vivraient une vie de loisirs, mais vous pouvez aussi voir que ce ne serait pas un monde avec un niveau de vie particulièrement élevé » en étant coincé avec les artefacts et la production de l’époque.

« Pour améliorer considérablement la qualité de vie », a postulé Brynjolfsson, « nous ne pouvons pas construire des machines qui se substituent simplement au travail humain et l'imitent ; Nous devons élargir nos capacités et faire de nouvelles choses.

En outre, a déclaré Brynjolfsson, l’automatisation augmente la concentration du pouvoir économique, par exemple en faisant baisser les salaires.

La technologie d'aujourd'hui n'augmente pas les capacités humaines, contrairement aux technologies des 200 années précédentes qui avaient amélioré les capacités humaines, a-t-il soutenu. 

« Nous devons prendre au sérieux les technologies qui complètent les humains », a-t-il déclaré, à la fois pour créer un gâteau économique plus important, mais aussi pour répartir la richesse plus équitablement. Le problème systémique, a-t-il soutenu, est les incitations perverses des trois parties prenantes, les technologues, les industriels et les décideurs.

Brynjolfsson a été suivi par Kai-Fu Lee, ancien cadre de Google et Microsoft et maintenant à la tête de la société de capital-risque Sinovation Ventures. Lee, citant son nouveau livre, AI 2041, a proposé de « débattre de moi-même ». 

Kai-Fu Lee, ancien dirigeant de Google et Microsoft et aujourd’hui à la tête de la société de capital-risque Sinovation Ventures.

Dans le livre, il offre une vision largement positive des « pouvoirs incroyables » de l’IA, et en particulier, du contenu généré par l’IA, y compris « l’affichage phénoménal de capacités qui présentent certainement un comportement incroyablement capable et intelligent », en particulier dans les domaines commerciaux, comme le changement du paradigme des moteurs de recherche et même le changement du fonctionnement de TikTok pour la publicité.

« Mais aujourd’hui, je veux surtout parler des dangers potentiels que cela va créer », a-t-il déclaré.

Dans le passé, a déclaré Lee, « je pouvais soit penser à des algorithmes, soit au moins imaginer des solutions technologiques » aux « externalités » créées par les programmes d’IA. « Mais maintenant, je suis coincé parce que je ne peux pas facilement imaginer une solution simple pour la désinformation générée par l'IA en tant que désinformation spécifiquement ciblée et puissante sur le plan commercial », a déclaré Lee. 

Et si, a déclaré Lee, Amazon, Google ou Facebook pouvaient « cibler chaque individu et induire en erreur [...] et donner des réponses qui pourraient potentiellement être très bonnes pour l’entreprise commerciale parce qu’il y a un désalignement fondamental des intérêts, parce que les grandes entreprises veulent que nous regardions les produits, regardions le contenu, cliquions et regardions et devenions dépendants [afin que] la prochaine génération de produits [...] soit simplement sensible au pouvoir du capitalisme et à la cupidité que les entreprises en démarrage et les sociétés de capital-risque financeront des activités qui généreront d’énormes richesses, perturberont les industries avec des technologies très difficiles à contrôler.

Cela, a-t-il dit, rendra encore plus puissants les « grands géants », les entreprises qui contrôlent les « modèles de base » de l'IA. 

« Et le deuxième grand, grand danger est que cela fournira un ensemble de technologies qui permettront aux acteurs non étatiques et aux personnes qui veulent utiliser l’IA pour le mal plus facilement que jamais. » Lee a suggéré la possibilité d’un scandale à la Cambridge Analytica bien pire que ne l’avait été Cambridge Analytica, car il sera alimenté par un AIGC plus sophistiqué. Les acteurs non étatiques, a-t-il suggéré, pourraient « amener les gens à des pensées » qui pourraient perturber les élections, et d’autres choses terribles --- « le début de ce que j’appellerais « Cambridge Analytica sous stéroïdes ».

Lee a exhorté ses pairs à réfléchir à la manière d’éviter ce « plus grand danger ». 

Il a déclaré : « Nous avons vraiment besoin d’un appel à l’action pour que les gens travaillent sur des technologies qui exploiteront et aideront cette incroyable percée technologique à être plus positives, plus contrôlées et plus contenues dans ses utilisations commerciales potentielles maléfiques. »

Marcus, après s’être mis d’accord avec Lee, a présenté la dernière intervenante, Angela Sheffield, directrice principale de l’intelligence artificielle de la société de conseil numérique Raft, dans la région de Washington.

Angela Sheffield, directrice principale de l’intelligence artificielle chez Raft, une société de conseil numérique de la région de Washington.

Sheffield, citant ses fréquentes conversations avec « des décideurs de haut niveau du gouvernement américain et des gouvernements internationaux », a déclaré qu'« il y a un réel sentiment d’urgence parmi nos décideurs et décideurs politiques sur la façon de réglementer l’IA ». 

« Nous savons peut-être que l'IAG n'est pas tout à fait la prochaine », a déclaré M. Sheffield, mais cela n'aide pas les décideurs politiques de le dire parce qu'« ils ont besoin de quelque chose « tout de suite qui les aide à légiférer et les aide également à s'engager avec les décideurs de haut niveau dans d'autres pays ».

« Il faut plus que de simples cadres », a-t-elle déclaré. « Je veux dire, appliquer cela à un problème significatif du monde réel, définir les paramètres du problème, être précis [...] quelque chose sur lequel lancer des fléchettes. Le moment est venu d’aller plus vite en raison de la motivation que nous venons d’entendre de la part de Kai-Fu.

Elle a posé la question suivante : « Si ce n’est pas nous, alors qui ? » 

Sheffield a souligné ses propres travaux sur l’IA dans la sécurité nationale, en particulier en ce qui concerne la prolifération nucléaire. « Nous avons trouvé des opportunités où nous pourrions faire correspondre les algorithmes d’IA avec de nouvelles sources de données afin d’améliorer notre capacité à améliorer la façon dont nous abordons la recherche de méchants développant des armes nucléaires. » Il y a un espoir, a déclaré Sheffield, d’utiliser l’IA pour « augmenter la façon dont nous faisons du commandement et du contrôle », c’est-à-dire « comment un groupe de personnes recueille des informations, donne un sens à tout cela, décide quoi faire et exécute cela.

Pour la dernière partie, Marcus a déclaré un « tour éclair », la possibilité pour chaque participant de répondre, en 30 secondes ou moins : « Si vous pouviez donner aux étudiants un conseil sur, par exemple, quelle question d’IA nécessite le plus de recherches, ou comment se préparer à un monde dans lequel l’IA est de plus en plus centrale, quel serait ce conseil ? »

Brynjolfsson a déclaré qu’il y avait eu une amélioration de l’IA « à l’équilibre ponctué », mais qu’il n’y avait pas eu une telle amélioration dans « nos institutions économiques, nos compétences, nos organisations », et que la clé était donc « comment pouvons-nous réinventer nos institutions ».

Ferrucci a déclaré : « Votre cerveau, votre travail et vos croyances les plus fondamentales seront mis à l’épreuve par l’IA comme jamais auparavant. Assurez-vous de le comprendre, comment il fonctionne, où et comment il est utilisé.

Choi : « Nous devons nous efforcer d'aligner l'IA sur les valeurs humaines, en particulier en mettant l'accent sur le pluralisme ; Je pense que c'est l'un des défis vraiment critiques auxquels nous sommes confrontés et, plus largement, nous nous attaquons à des défis tels que la robustesse, la généralisation, l'explicabilité, etc.

Kaspersen : « Se libérer des silos ; Il s’agit d’un type de convergence de technologies tout simplement sans précédent. Posez de très bonnes questions pour naviguer dans les considérations et les incertitudes éthiques.

George : « Choisissez si vous voulez être sur l’échelle ou sur la recherche fondamentale, car ils ont des trajectoires différentes. »

D'Avila Garcez : « Nous avons besoin d'une IA qui comprend les humains et d'humains qui comprennent l'IA ; Cela aura une incidence sur la démocratie, sur la responsabilité et, en fin de compte, sur l’éducation.

Lee : « Nous devrions travailler sur des technologies qui peuvent faire des choses qu’une personne ne peut pas faire ou ne peut pas bien faire [...] Et ne vous contentez pas d'opter pour l'algorithme le plus grand, le plus rapide et le meilleur, mais pensez aux externalités potentielles [... qui] fournissent non seulement l’électricité, mais aussi le disjoncteur pour s’assurer que la technologie est sûre et utilisable.

Sheffield : « Envisagez de vous spécialiser dans une application de domaine. Il y a tellement de richesse dans notre recherche et développement et dans notre contribution à la société humaine dans l'application de l'IA à un ensemble spécifique de problèmes ou à un domaine spécifique.

Clune : « AGI arrive bientôt. Donc, pour les chercheurs qui développent l'IA, je vous encourage à travailler sur des techniques basées sur l'ingénierie, les algorithmes, le méta-apprentissage, l'apprentissage de bout en bout, etc., car celles-ci sont les plus susceptibles d'être absorbées dans l'IAG que nous créons. Pour les chercheurs qui ne sont pas spécialisés dans l’IA, les plus importantes sont probablement les questions de gouvernance, alors quelle est la stratégie à suivre lorsque l’IAG est développée ? Qui décide de ce livre de jeu ? Et comment faire en sorte que tout le monde sur la planète soit d’accord avec ce plan de match ?

Rossi : « À ce stade, l’IA n’est pas seulement une science et une technologie, c’est une discipline technique sociale [...] Commencez par parler avec des personnes qui ne sont pas dans votre discipline afin qu’ensemble vous puissiez évaluer l’impact de l’IA, de ce sur quoi vous travaillez, et être en mesure de conduire ces technologies vers un avenir où le progrès scientifique soutient le progrès humain.

Marcus a clôturé la soirée en rappelant sa déclaration lors du dernier débat : « Il faut tout un village pour élever l’IA ».

« Je pense que c'est encore plus vrai maintenant », a-t-il déclaré. « L'IA était un enfant avant, maintenant c'est un peu comme un adolescent turbulent, pas encore complètement en possession d'un jugement mature. »

Il a conclu : « Je pense que le moment est à la fois excitant et périlleux. »