15 façons dont l'IA m'a fait gagner du temps au travail en 2024 - et comment je prévois de l'utiliser en 2025
Nous devenons plus intelligents à mesure que nous nous engageons dans une ingénierie rapide, mais nous continuons également à définir l'intelligence.
Depuis longtemps travaillant dans les tranchées de l'apprentissage automatique, Terry Sejnowski est un ardent défenseur de l'impact positif de l'intelligence artificielle (IA). En 2018, il a écrit dans le livre The Deep Learning Revolution que « l’IA vous rendra plus intelligent ».
Les choses bougent vite à l’heure de l’IA. Depuis 2018, l’IA générative (Gen AI) a envahi nos vies. Dans son dernier livre, ChatGPT and the Future of AI: The Deep Language Revolution, publié le mois dernier par MIT Press, Sejnowski passe en revue l'essor des grands modèles de langage (LLM) et conclut que « l'IA nous rend effectivement plus intelligents ».
Terry Sejnowski
Mais comment mesurer plus intelligemment ? Qu'est-ce que ça veut dire exactement ?
"Qu'est-ce que l'intelligence ? L'intelligence est en réalité une question de résolution de problèmes", a déclaré Sejnowski à ZDNET dans une interview. Avec ChatGPT et des programmes similaires, « je suis capable de me mettre à jour plus rapidement, mais cela me mène aussi à des choses auxquelles je n'aurais peut-être jamais pensé ou exploré ; cela m'ouvre des portes. »
Il a poursuivi : « Pensez à ce qu'est réellement ChatGPT. Tout le monde pense : « Oh, il parle comme un humain. » La seule chose dont nous sommes sûrs, c'est que ce n'est pas humain. Qu'est-ce que c'est ? C'est un outil comme une pelle. »
Comme une pelle, affirme Sejnowski, ce grand outil linguistique nous aide à faire les choses mieux que nous ne le ferions à mains nues. Il a déclaré que les écrivains s'améliorent avec ChatGPT parce que "cela les aide à surmonter les blocages mentaux".
Il a largement utilisé ChatGPT pour rechercher le livre, a-t-il noté dans son nouveau livre. "Avec l'aide des LLM, ce livre a pris environ la moitié du temps nécessaire pour écrire mon précédent livre sur La révolution du Deep Learning."
Écrit avec la même voix engageante et la même connaissance faisant autorité en matière d’IA, le nouveau livre est très différent du précédent. En 2018, Sejnowski a donné une leçon d'histoire. Dans la nouvelle Révolution, Sejnowski s'intéresse à la direction que prennent ces outils et à la manière dont ils changent nos notions de pensée et la façon dont nous nous percevons.
"Nous en sommes actuellement au stade de l'utilisation des outils ; nous apprenons à utiliser l'outil, et les outils s'améliorent constamment", a déclaré Sejnowski à ZDNET.
"ChatGPT pourrait faire beaucoup de choses, mais il ne peut pas le faire aussi bien que les meilleurs humains. Mais, je vous le dis, il le fait bien mieux que la plupart des humains."
Une chose que ChatGPT ne fait pas, c'est d'écrire aussi bien que Sejnowski. Tout au long du livre, il propose des résumés de chapitres générés par ChatGPT, en espérant qu'ils soient « plus faciles à suivre que le texte ». En fait, les résumés sont banals, un peu comme beaucoup de prose générée par GPT, et semblent surtout être un gadget. C’est le seul point faible du livre et une transgression suffisamment petite pour être pardonnée dans ce qui est par ailleurs une lecture magistrale et profondément captivante.
De peur que vous ne pensiez que le livre est une lettre d’amour à ChatGPT, l’élément le plus profond du livre, occupant la plupart de ses pages, est une analyse de la façon dont l’IA générative affecte la science, et vice versa.
L’IA révèle par exemple certains aspects du cerveau aux neuroscientifiques, et les neurosciences ouvrent à leur tour de nouvelles possibilités à l’IA, affirme-t-il, dans une sorte de cercle vertueux.
Cette observation est étayée par la longue carrière de Sejnowski dans les deux domaines. Sejnowski est titulaire de la chaire Francis Crick du Salk Institute for Biological Studies et professeur émérite à l'Université de Californie à San Diego. Il a apporté des contributions fondamentales à l’IA d’aujourd’hui, mais a tracé une voie différente de celle de ses collègues de l’IA.
Sejnowski a obtenu son doctorat en physique sous la direction de John Hopfield à Princeton dans les années 1970, puis a largement collaboré avec Geoffrey Hinton, deux personnes qui ont reçu le prix Nobel de physique cette année pour leurs travaux sur l'IA. Au début, Sejnowski s'est détourné de la construction de systèmes d'IA en soi pour se tourner vers les neurosciences car, a-t-il déclaré à ZDNET, "je voulais comprendre comment fonctionne le cerveau".
De nombreux praticiens de l’IA estiment que le cerveau est beaucoup trop complexe par rapport aux réseaux neuronaux artificiels pour progresser, et ils fuient la science du cerveau pour améliorer leurs chances professionnelles de publier des avancées. Sejnowski, cependant, est enthousiasmé par ce qu’il apprend et est convaincu qu’il est sur le point de faire de grandes découvertes sur le cerveau grâce à l’IA.
Par exemple, le mécanisme sous-jacent des grands modèles de langage - la façon dont ils prédisent le mot suivant - est un mécanisme fondamental, applicable à la mémoire humaine.
Tout ce que vous tapez en GPT et le reste est codé sous la forme d'une longue chaîne de chiffres, connue sous le nom de « fenêtre contextuelle ». Cette fenêtre constitue la mémoire de travail utilisée pour faire des prédictions. OpenAI et d'autres rivalisent pour avoir des fenêtres contextuelles de plus en plus longues, ce qui devrait se traduire par une plus grande capacité à prédire le mot, la phrase ou le paragraphe suivant.
Sejnowski pense que quelque chose de similaire se produit dans le cerveau. Il a expliqué à ZDNET que la question du neuroscientifique pourrait être : « Comment le long vecteur d'entrée est-il implémenté dans le cerveau ? Pas seulement à travers les phrases, mais à travers les paragraphes. Vous construisez dans votre cerveau une sorte d'histoire, et comment est-elle réalisée ? que ça se passe ?"
La réponse, estime Sejnowski, réside dans ce qu'on appelle les « ondes progressives », qui sont des vagues d'activité neuronale se propageant à travers le cortex cérébral. Le phénomène a "généralement été ignoré" en neurosciences, a-t-il déclaré, car "personne n'avait la moindre idée de ce que pourrait être cette fonction".
Au milieu du tiers de Revolution, Sejnowski fait allusion à la possibilité que la génération AI élucide enfin le mystère des ondes progressives. Il propose une excellente histoire des LLM, emmenant le lecteur depuis les débuts de l’IA jusqu’au développement du transformateur, la première forme de modèle de langage. Les lecteurs intéressés peuvent trouver beaucoup plus de détails sur les ondes progressives et les transformateurs dans un article scientifique publié dans la revue Trends in Neuroscience.
Dans le même temps, les choses « vont dans la direction opposée », l’intelligence artificielle continuant d’évoluer à mesure qu’elle emprunte aux neurosciences, a déclaré Sejnowski à ZDNET.
Dans son livre, il avance que les diverses faiblesses des grands modèles de langage - les « hallucinations » et les résultats parfois absurdes - peuvent être comprises comme des étapes de développement analogues au propre développement mental des humains. La technologie, bien que prometteuse, a encore un long chemin à parcourir.
"Les LLM sont des Peter Pan, qui n'ont jamais grandi et vivent dans un pays imaginaire numérique", écrit Sejnowski. "Les LLM manquent également d'adolescence ; chez les humains, c'est avant que le cortex préfrontal ne mûrisse et mette un frein au mauvais jugement."
Le dernier tiers du livre se concentre sur la direction que peut prendre l’IA compte tenu de ce paradigme d’une sorte d’enfance.
"Une orientation à long terme pour l'IA est d'incorporer les LLM dans des systèmes plus vastes", écrit-il, "de la même manière que le langage a été intégré dans des systèmes cérébraux qui ont évolué au fil des millions d'années pour le contrôle sensorimoteur, essentiel à la survie."
La génération AI a déjà étendu ses capacités en empruntant à d’autres domaines scientifiques, a déclaré Sejnowski à ZDNET.
L'une des innovations les plus significatives de ces dernières années dans les LLM consiste à insérer ce qu'on appelle un « modèle spatial d'états », emprunté à la physique des particules. Des entreprises commerciales, telles que AI21, ont utilisé le mode espace d’état pour améliorer considérablement les performances en termes de temps requis pour répondre à l’invite.
Le modèle d'espace d'état est également lié à la théorie des ondes progressives du cerveau, a déclaré Sejnowski à ZDNET, bouclant ainsi la boucle.
Cette pollinisation croisée des efforts entre la science et l’IA est l’aspect le plus fascinant du livre, soulignant tout ce qui reste à comprendre dans les deux camps.
Les LLM ont une structure sous-jacente que les chercheurs en IA commencent tout juste à comprendre. Sejnowski prédit que la révélation de ce mystère pourrait conduire à de nouvelles formes de mathématiques, qui, à leur tour, pourraient faire progresser considérablement l’IA.
"Les LLM d'aujourd'hui sont l'équivalent des cathédrales construites au Moyen Âge par essais et erreurs", écrit-il dans Révolution. "À mesure que les LLM inspirent de nouvelles mathématiques, un nouveau cadre conceptuel réifiera des concepts tels que la compréhension et l'intelligence ; leur progéniture sera l'équivalent de gratte-ciel."
L'une des choses remarquables à propos de ce livre est qu'il est extraordinairement ancré dans le travail de la science et de l'IA, informé par les décennies de participation de Sejnowski dans les deux, et qu'il s'élève pourtant vers de nouveaux sommets de l'imagination scientifique.
Sejnowski postule que des sciences et des mathématiques entièrement nouvelles pourraient émerger, tout comme les percées de Newton et d’autres ont modifié notre compréhension de l’univers.
"Les physiciens ont proposé des équations décrivant des propriétés mystérieuses de l'univers, telles que la gravité, la thermodynamique, l'électricité, le magnétisme et les particules élémentaires, qui permettaient de faire des prédictions précises avec seulement quelques paramètres, appelés constantes physiques", écrit Sejnowski.
"Au XXIe siècle, un nouveau domaine des mathématiques connaît davantage de succès, basé sur les algorithmes issus de l'informatique. Nous commençons tout juste à explorer l'univers algorithmique, ce qui pourrait nécessiter un changement dans notre réflexion sur la compréhension scientifique."
Peut-être nous attendra une révélation sur l’intelligence telle qu’elle a toujours existé mais que nous n’avons jamais saisie.
Grâce aux outils de la génération AI, les gens parviennent à mieux comprendre leurs forces et leurs limites, a déclaré Sejnowski à ZDNET.
"Plus je l'utilise et plus je vois à quoi les autres l'utilisent, il est clair que cela les reflète réellement", a déclaré Sejnowski. À mesure que les gens s'améliorent en matière d'ingénierie rapide, l'outil reflète de plus en plus le style de l'utilisateur : "Ils se voient mieux dans ce miroir."
L’effet miroir ouvre la voie à une perspective alléchante : nous n’allons pas parvenir à une « intelligence générale artificielle », le Saint Graal de l’IA, sous la forme clichée et de science-fiction d’un humanoïde réaliste qui marche et parle comme nous. Nous allons plutôt modifier notre compréhension de ce que nous pensons savoir sur le renseignement. Cela va au-delà de la simple utilisation d’un outil, mais nous n’avons pas encore d’expression pour ce que pourrait être cette autre chose.
"L'intelligence générale pourrait-elle provenir de la manière dont les humains interagissent socialement, le langage apparaissant comme un retardataire dans l'évolution pour améliorer la socialité ?" Sejnowski demande dans le livre. "Le moment est venu pour nous de repenser le concept d'"intelligence générale" chez les humains."