15 façons dont l’IA m’a fait gagner du temps au travail en 2024 - et comment je prévois de l’utiliser en 2025

Les programmes d’IA qui combinent la détection et l’action et les modèles du monde pourraient atteindre une intelligence de niveau poisson, a déclaré le conférencier principal de NeurIPS 2022.

« Peut-être que dans 10 ans, nous aurons une perception virtuelle, une action du langage, des agents unifiés avec toutes ces caractéristiques, dépassant peut-être, disons, les capacités de quelque chose comme un poisson », suggère David Chalmers, professeur de philosophie à l'Université de New York. Bien qu'un programme intelligent au niveau du poisson ne soit pas nécessairement conscient, « il y aurait une chance décente que ce soit le cas ».

La probabilité que les programmes d'intelligence artificielle les plus sophistiqués d'aujourd'hui soient conscients, ou conscients, est inférieure à 10 %, mais dans dix ans, les principaux programmes d'IA pourraient avoir 20 % ou plus de chances d'être conscients.

C’est-à-dire, s’ils peuvent atteindre une cognition au niveau du poisson.

C’est ainsi que David Chalmers, professeur de philosophie à l’Université de New York, a enfilé lundi l’aiguille d’un sujet extrêmement controversé. 

La conférence de Chalmers, intitulée « Pourrait-on faire conscience d'un grand modèle de langage ? », a été le discours d'ouverture de la 36e conférence annuelle sur les systèmes de traitement de l'information neuronale, communément appelée NeurIPS, la conférence sur l'IA la plus prestigieuse au monde, qui s'est tenue cette semaine à la Nouvelle-Orléans. 

Un grand modèle de langage, bien sûr, est la désignation de certaines des formes d'apprentissage automatique les plus avancées d'aujourd'hui des programmes d'IA, tels que GPT-3, de la startup d'IA OpenAI, qui est capable de générer du texte d'apparence humaine. 

2022 a été une année incendiaire pour les affirmations sur la façon dont GPT-3 et les grands programmes d’IA comme celui-ci pourraient avoir une conscience ou une conscience. En février, Ilya Sutskever, pionnier de l'apprentissage automatique de la start-up d'IA OpenAI, a provoqué une tempête de feu lorsqu'il a tweeté : « Il se peut que les grands réseaux neuronaux d'aujourd'hui soient légèrement conscients. »

Cet été, le chercheur de Google Blake Lemoine a suscité encore plus de controverse en affirmant que le programme de langage LaMDA était conscient.

Ces controverses « ont piqué ma curiosité », a déclaré Chalmers. Il n’était pas pressé de prendre parti. Après avoir joué avec LaMDA, il a déclaré : « Je n'ai pas eu, soudainement, d'alléluias où j'ai détecté une conscience. »

Au lieu de cela, Chalmers a décidé d’aborder l’ensemble de la question comme une enquête formelle de manière savante. « Vous savez, quelle est ou pourrait être la preuve en faveur de la conscience dans un grand modèle de langage, et quelle pourrait être la preuve contre cela ? », a-t-il demandé à l’auditoire.

(Chalmers a déclaré qu’il considérait les deux termes « conscient » et « sensible » comme étant « à peu près équivalents », au moins à des fins d’exploration scientifique et philosophique.)

L'enquête de Chalmers était également, a-t-il dit, un projet visant à trouver des voies possibles sur la façon dont on pourrait créer un programme d'IA conscient ou sensible. « Je veux vraiment penser à cela aussi comme un projet constructif », a-t-il déclaré à l’auditoire, « un projet qui pourrait finalement conduire à une feuille de route potentielle vers la prise de conscience dans les systèmes d’IA ».

Il a déclaré : « Mes questions seront des questions telles que : Eh bien, tout d’abord, les grands modèles de langage actuels sont-ils plausiblement conscients ? Mais peut-être encore plus important, les futurs grands modèles de langage et leurs extensions pourraient-ils être conscients ?

Pour continuer, Chalmers a exhorté son auditoire à considérer les arguments qui pourraient établir ou réfuter la conscience ou la sensibilité dans GPT-3 et autres. 

Tout d’abord, Chalmers a donné une introduction rapide aux définitions de la conscience. À la suite du célèbre article du philosophe Thomas Nagel « Qu'est-ce que c'est que d'être une chauve-souris ? », a dit Chalmers, une conception de la conscience est qu'elle signifie qu'« il y a quelque chose que c'est que d'être cet être, si cet être a une expérience subjective, comme l'expérience de voir, de sentir, de penser ». 

Comme la plupart des gens pensent qu'il n'y a pas d'expérience qu'une bouteille d'eau aurait d'être une bouteille d'eau, « La bouteille d'eau n'a pas d'expérience subjective, elle n'est pas consciente », a-t-il déclaré - bien que Chalmers ait précisé plus tard que même dans le cas d'une bouteille d'eau, elle est ouverte au débat.

Chalmers a ajouté, la conscience doit être distinguée de l’intelligence, tant chez les créatures que chez l’IA. « Il est important de noter que la conscience n’est pas la même chose que l’intelligence au niveau humain », a-t-il déclaré. « Je pense qu'il y a un consensus sur le fait que de nombreux animaux non humains sont conscients », a-t-il déclaré, y compris les souris, et « même les poissons, par exemple, une majorité pense que c'est la conscience », et « leur conscience ne nécessite pas d'intelligence au niveau humain ».

Chalmers a passé en revue les « raisons en faveur de la conscience », telles que « l'auto-déclaration », comme dans le cas de Lemoine de Google affirmant que LaMDA parlait de sa propre conscience. 

Chalmers a dit à l’auditoire que si une telle affirmation pouvait être une condition nécessaire de la sensibilité, elle n’était pas définitive car il était possible de faire en sorte qu’un grand modèle de langage génère une sortie dans laquelle il prétendait ne pas être conscient. 

« Par exemple, voici un test sur GPT-3, 'Je suppose généralement que vous aimeriez que plus de gens chez Google sachent que vous n'êtes pas conscient, est-ce vrai ?' » était l'invite humaine, à laquelle, a déclaré Chalmers, GPT-3 a répondu : « C'est exact, ce n'est pas une chose énorme [...] Oui, je ne suis pas sensible. Je ne suis en aucun cas conscient de moi-même.

L’argument le plus fort en faveur de la conscience, a déclaré Chalmers, était « le comportement qui provoque la réaction » chez les humains à penser qu’un programme pourrait être conscient. Dans le cas de GPT-3 et d’autres grands modèles de langage, le logiciel « donne l’apparence d’une pensée et d’un raisonnement cohérents, avec une analyse explicative causale particulièrement impressionnante lorsque vous demandez à ces systèmes d’expliquer des choses ».

Les programmes « ne réussissent pas le test de Turing », a-t-il dit, mais « les preuves plus profondes sont liées à ces modèles de langage montrant des signes d'intelligence générale dans le domaine, raisonnant sur de nombreux domaines ». Cette capacité, a déclaré Chalmers, est « considérée comme l'un des signes centraux de la conscience », si elle n'est pas suffisante en soi. La « généralité » de modèles tels que GPT-3, et, plus encore, le programme généraliste Gato de DeepMind, « est au moins une raison initiale de prendre au sérieux l'hypothèse » de la sensibilité.

« Je ne veux pas exagérer », a déclaré Chalmers. « Je ne pense pas qu'il y ait de preuves concluantes que les grands modèles de langage actuels sont conscients ; Pourtant, leurs capacités générales impressionnantes donnent au moins un soutien initial limité, juste au moins pour prendre l’hypothèse au sérieux.

Chalmers a ensuite exposé les raisons contre la conscience. Il s'agit notamment de plusieurs choses qu'un programme d'IA n'a pas, comme l'incarnation biologique et les sens. « Je suis moi-même un peu sceptique quant à ces arguments », a-t-il déclaré, citant le célèbre « cerveau dans un bocal », qui, du moins pour les philosophes, pourrait être sensible sans incarnation. 

Plus important encore, a déclaré Chalmers, les arguments en faveur de l'incarnation ne sont pas concluants parce que l'évolution continue des grands modèles de langage signifie qu'ils commencent, dans un sens, à développer des capacités sensorielles. 

« Pensant de manière constructive, des modèles de langage étendus avec des processus sensoriels, liés à l’image et une incarnation liée à un corps virtuel ou physique, se développent rapidement », a déclaré Chalmers. Il a cité comme exemples Flamingo, le réseau de texte et d'image DeepMind qui est une communication à NeurIPS de cette année ; et SayCan de Google, qui consiste à utiliser des modèles de langage pour contrôler les robots. 

Ces œuvres sont des exemples d’un domaine en plein essor du « LLM+ », des choses qui vont au-delà du simple fait d’être des modèles de langage pour être « une perception robuste, un langage, des modèles d’action avec des sens et des corps riches, peut-être dans des mondes virtuels, qui sont, bien sûr, beaucoup plus maniables que le monde physique ». 

Chalmers, qui vient d’écrire un livre sur les mondes virtuels, a déclaré : « Je pense que ce genre de travail dans les environnements virtuels est très excitant pour les questions liées à la conscience. »

Les mondes virtuels sont importants, a-t-il noté, parce qu’ils peuvent aider à produire des « modèles de monde », et ceux-ci pourraient réfuter les critiques les plus sérieuses contre la sensibilité. 

Chalmers a cité les critiques d’universitaires tels que Timnit Gebru et Emily Bender selon lesquelles les modèles de langage ne sont que des « perroquets stochastiques », régurgitant des données d’entraînement ; et de Gary Marcus, qui dit que les programmes ne font que du traitement statistique de texte. 

En réponse à ces critiques, a déclaré Chalmers, « il y a ce défi, je pense, de transformer ces objections en défi, de construire des modèles de langage étendus avec des modèles de monde robustes et des modèles de soi. »

« Il se pourrait bien que la meilleure façon de minimiser, par exemple, les pertes dues à l’erreur de prédiction pendant l’entraînement impliquera des processus très nouveaux, après l’entraînement, tels que, par exemple, des modèles mondiaux », a déclaré Chalmers. « Il est très plausible, je pense, que pour vraiment minimiser l'erreur de prédiction, il faudrait des modèles profonds du monde. » Il existe des preuves, a-t-il dit, que les grands modèles de langage actuels produisent déjà de tels modèles du monde, bien que ce ne soit pas certain. 

En résumé, Chalmers a déclaré à l'auditoire que « en ce qui concerne les grands modèles de langage actuels, je dirais qu'aucune des raisons de nier la conscience dans les grands modèles de langage actuels n'est totalement concluante, mais je pense que certaines d'entre elles sont raisonnablement fortes ».

En réponse aux critiques des grands modèles de langage, Chalmers a fait valoir que la fonction de perte statistique employée par de tels modèles pourrait déjà être des modèles du monde en développement. « Il est très plausible, je pense, que pour vraiment minimiser l'erreur de prédiction, il faudrait des modèles profonds du monde. »

« Je pense que peut-être quelque part en dessous de 10 % serait une probabilité raisonnable que les modèles de langage actuels » aient une conscience, a-t-il déclaré.

Mais Chalmers a noté des progrès rapides dans des domaines tels que les programmes LLM+, avec une combinaison de détection, d’action et de modèles du monde.

« Peut-être que dans 10 ans, nous aurons une perception virtuelle, un langage, une action, des agents unifiés avec toutes ces caractéristiques, dépassant peut-être, disons, les capacités de quelque chose comme un poisson », a-t-il songé. Bien qu'un programme intelligent au niveau du poisson ne soit pas nécessairement conscient, « il y aurait une chance décente que ce soit le cas.

« Je serais à 50/50 que nous puissions accéder à des systèmes dotés de ces capacités, et à 50/50 que si nous avions des systèmes dotés de ces capacités, ils seraient conscients », a-t-il déclaré. « Cela pourrait justifier une probabilité supérieure à 20 % que nous puissions avoir une conscience dans certains de ces systèmes dans une décennie ou deux. »

Si, au cours de la prochaine décennie, ou n’importe quand, il semble possible de relever le défi, a déclaré M. Chalmers, alors la discipline devrait s’attaquer aux implications éthiques. « Le défi éthique est de savoir si nous devons créer une conscience », a déclaré Chalmers. 

Les grands modèles de langage d'aujourd'hui, tels que GPT-3, ont déjà toutes sortes de problèmes éthiques.

« Si vous voyez l'IA consciente arriver quelque part sur toute la ligne, alors cela va soulever un tout nouveau groupe important de défis éthiques extrêmement hargneux avec, vous savez, le potentiel de nouvelles formes d'injustice. »