Comment le plan de transformation de l'industrie d'IBM tire parti de l'IA, de la 5G et de la collaboration
Le « calcul mortel » signifie que les ordinateurs analogiques qui marient étroitement l’IA au matériel mettront GPT-3 dans votre grille-pain pour 1 $et fonctionneront avec quelques watts de puissance.
Selon Geoffrey Hinton, pionnier de l’intelligence artificielle, les formes d’apprentissage automatique vont produire une révolution dans les systèmes informatiques, un nouveau type d’union matériel-logiciel qui peut mettre l’IA dans votre grille-pain.
Hinton a été invité à donner une conférence lors de la conférence en reconnaissance de son article d’il y a dix ans, « ImageNet Classification with Deep Convolutional Neural Networks », écrit avec ses étudiants diplômés Alex Krizhevsky et Ilya Sutskever. L'article a reçu le prix « Test of Time » de la conférence pour son « impact énorme » sur le domaine. Le travail, publié en 2012, était la première fois qu’un réseau neuronal convolutif concourait au niveau humain au concours de reconnaissance d’images ImageNet, et c’est l’événement qui a mis en mouvement l’ère actuelle de l’IA.
Hinton, qui est récipiendaire du prix ACM Turing pour ses réalisations en informatique, l'équivalent du prix Nobel dans le domaine, a formé le Deep Learning Conspiracy, un groupe qui a ressuscité le domaine moribond de l'apprentissage automatique avec ses collègues récipiendaires de Turing, Yann LeCun de Meta et Yoshua Bengio de l'institut MILA pour l'IA de Montréal.
En ce sens, Hinton est la royauté de l’IA dans sa position dans le domaine.
Dans sa conférence invitée, Hinton a passé la plupart de son temps à parler d’une nouvelle approche des réseaux neuronaux, appelée réseau avant-avant, qui supprime la technique de rétropropagation utilisée dans presque tous les réseaux neuronaux. Il a suggéré qu’en supprimant l’hélice arrière, les filets avant-avant pourraient se rapprocher de manière plus plausible de ce qui se passe dans le cerveau dans la vie réelle.
Une ébauche du travail prospectif est affichée sur la page d'accueil de Hinton (PDF) à l'Université de Toronto, où il est professeur émérite.
L’approche avant-gardiste pourrait être bien adaptée au matériel de calcul mortel, a déclaré Hinton.
« Maintenant, si quelque chose comme ça doit se produire, nous devons avoir une procédure d'apprentissage qui s'exécutera dans un matériel particulier, et nous apprenons à utiliser les propriétés spécifiques de ce matériel particulier sans savoir quelles sont toutes ces propriétés », a expliqué Hinton. « Mais je pense que l’algorithme avant-avant est un candidat prometteur pour ce que cette petite procédure pourrait être. »
L’un des obstacles à la construction de nouveaux ordinateurs mortels analogiques, a-t-il dit, est que les gens sont attachés à la fiabilité de l’exécution d’un logiciel sur des millions d’appareils.
« Vous le remplaceriez par chacun de ces téléphones portables, il devrait commencer comme un téléphone portable pour bébé, et il devrait apprendre à être un téléphone portable », a-t-il suggéré. « Et c'est très douloureux. »
Même les ingénieurs les plus habiles à la technologie impliquée seront lents à abandonner le paradigme des ordinateurs immortels parfaits et identiques par peur de l’incertitude.
« Parmi les personnes qui s’intéressent au calcul analogique, il y en a très peu qui sont encore prêtes à renoncer à l’immortalité », a-t-il déclaré. C’est à cause de l’attachement à la cohérence, à la prévisibilité, a-t-il dit. « Si vous voulez que votre matériel analogique fasse la même chose à chaque fois... Vous avez un vrai problème avec toutes ces choses électriques et tout ça.