J’ai utilisé Copilot AI Vision pour naviguer sur le Web pour moi, et il a un grand potentiel
En utilisant le multiplexage par répartition en longueur d’onde, les chercheurs ont pu effectuer une reconnaissance d’image à l’aide de l’informatique optique, réduisant ainsi considérablement l’énergie requise.
Les scientifiques du MIT ont utilisé des photodétecteurs spéciaux pour réaliser une équation d’IA simplement en envoyant de la lumière à un dispositif client à faible consommation. Cette approche pourrait être particulièrement utile dans l’espace lointain.
L’une des préoccupations les plus pressantes pour l’application industrielle de l’intelligence artificielle est de savoir comment exécuter les programmes sur de petits appareils informatiques qui ont très peu de puissance de traitement, très peu de mémoire et peut-être une limite en termes d’énergie disponible, dans le cas des batteries.
Le marché dit de l’edge pour l’IA a été un domaine énorme ces derniers temps, les startups recevant des dizaines de millions de dollars en capital-risque pour proposer des puces et des logiciels. L’effort de pointe a conduit à des outils de développement spéciaux pour les formes d’apprentissage automatique de l’IA, tels que l’initiative TinyML de Google.
Ces deux voies représentent deux philosophies : soit rendre les appareils de pointe plus puissants, soit alléger les programmes d’IA pour utiliser moins de calculs.
Il y a une troisième approche possible, c’est-à-dire essayer d’équilibrer plus soigneusement le travail effectué sur les dispositifs limités et les moyens par quels moyens. C'est le plan présenté en octobre par des chercheurs du MIT dans la revue savante Science.
Le chercheur Alexander Sludds et ses collègues du laboratoire de recherche en électronique, du laboratoire d'informatique et d'intelligence artificielle du MIT et du Lincoln Laboratory, en partenariat avec Nokia et NTT Research, ont mis au point un système qui utilise la photonique pour transmettre des données à un appareil client où elles peuvent être calculées dans le domaine optique d'une manière beaucoup plus économe en énergie.
Leur configuration de réseau, qu’ils appellent Netcast, peut effectuer l’opération fondamentale de manipulation des poids, ou paramètres, d’un réseau neuronal profond, en utilisant environ 10 femtoJoules de puissance, ou 10 fJ, ce qui, disent-ils, « est de trois ordres de grandeur inférieur à ce qui est possible dans les CMOS numériques existants » - c’est-à-dire les puces semi-conductrices standard.
Un femtoJoule, écrit sous la forme d’un point décimal suivi de 14 zéros et d’un 1, est un quadrillionième, avec est une très petite fraction de joule, un joule étant la quantité d’électricité nécessaire pour faire fonctionner un appareil de 1 watt pendant une seconde.
Cette minuscule fraction de watt représente une économie d’énergie majeure et est importante car de nombreux appareils de pointe, notent les auteurs, auront un budget énergétique total en milliwatts, ou millièmes de watt, par rapport aux appareils informatiques typiques utilisant des dizaines ou des centaines de watts. L’opération femtoJoule de Netcast place effectivement le programme en dessous de ce qui avait été jusqu’à présent « un goulot d’étranglement tenace près de 1 pJ », c’est-à-dire un picoJoule, ou un trillionième de joule.
La clé de Netcast était de savoir comment réduire le travail que le client doit effectuer pour le fonctionnement fondamental d’un réseau neuronal afin de respecter ce budget de 10 femtojoules.
Un réseau neuronal fait des prédictions en transmettant des données d’entrée à ses paramètres ou poids, et en multipliant l’entrée par le poids. Cette opération mathématique, le produit d’un vecteur d’entrée et d’une matrice de paramètres, s’appelle une opération de multiplication-accumulation, ou MAC, et les programmes de réseau neuronal en effectuent des tonnes chaque seconde lorsque les multiples poids de chaque couche de réseau sont appliqués à l’entrée.
La plus grande consommation d’énergie pour la plupart des réseaux neuronaux en général est la récupération de données à partir de la RAM, des puces de mémoire et l’accès au réseau. C'est un problème car les poids neuronaux sont généralement stockés dans la RAM, de sorte que chaque couche d'opérations MAC peut nécessiter plusieurs sorties via le bus PCIe vers la RAM et peut-être même vers une carte de ligne réseau pour les magasins de mémoire distants.
Par conséquent, la clé de Netcast était de savoir comment minimiser l’accès à la mémoire et le trafic réseau pour le périphérique client.
La solution est une technologie photonique existante appelée multiplexage par répartition en longueur d’onde. À l'aide du WDM, comme on l'appelle communément, plusieurs éléments de données peuvent être envoyés simultanément sur une ligne de fibre optique en attribuant à chaque élément de données sa propre longueur d'onde de lumière afin que les données multiples partagent le spectre total disponible de rayonnement dans la fibre. WDM est une technologie très mature et solide qui est utilisée dans tous les réseaux de télécommunications modernes pour augmenter la capacité de transmission de données par fibre optique ; il constitue l’épine dorsale d’Internet.
Chaque rangée d’une matrice peut être encodée sur une longueur d’onde de lumière, puis « diffusée » vers le dispositif client, de sorte qu’un signal WDM multi-longueurs d’onde peut envoyer une matrice de poids entière ou même plusieurs matrices. Au niveau du dispositif client, un récepteur optique récupère les données encodées dans chaque longueur d’onde et les combine avec les données d’entrée pour effectuer la multiplication matricielle dans le domaine optique plutôt qu’électriquement. Le produit peut ensuite être stocké électriquement sur la RAM locale une fois converti à partir du signal optique.
Sludds et son équipe écrivent que cela se traduit par une simplification spectaculaire des composants qui doivent se trouver dans un dispositif client à la périphérie.
« Cette architecture minimise les composants actifs chez le client, ne nécessitant qu’un seul modulateur d’émetteur-récepteur optique, un convertisseur numérique-analogique (DAC) et un convertisseur analogique-numérique (ADC). »
Les auteurs ont construit une version réelle de Netcast qui parcourt plus de 84 kilomètres de fibre en utilisant WDM avec une capacité de 2,4 térabits par seconde, allant du campus principal du MIT au Lincoln Lab et retour. Leur test du système consiste à effectuer des prédictions sur une tâche classique d’apprentissage automatique, la base de données MNIST de caractères manuscrits. Les images des caractères manuscrits sont introduites dans le réseau neuronal, et le réseau doit effectuer une tâche de reconnaissance d’image, en identifiant le caractère que chaque image représente.
« En utilisant 1 000 images de test localement, nous démontrons une précision de calcul de 98,7 %, comparable à la précision de base du modèle de 98,7 % », rapportent-ils.
Les auteurs vont encore plus loin. Anticipant le déploiement dans des satellites et d’autres lieux exotiques, ils ont travaillé à la mise au point de photodétecteurs, appelés récepteurs intégrateurs, qui peuvent fonctionner avec un très petit nombre de photons.
« Les applications de Netcast, y compris le déploiement en espace libre sur des drones ou des engins spatiaux, peuvent fonctionner dans des environnements profondément pourvus de photons », écrivent-ils. Une version de leurs récepteurs intégrateurs est capable de détecter les résultats d’une opération MAC fonctionnant uniquement sur des fractions d’un femtoJoule, connu sous le nom d’attoJoule, qui ne nécessite que 100 photons pour l’opération MAC.
Mais les auteurs vont encore plus loin. Ils ont pu aller jusqu’à une limite théorique de Netcast où chaque Mac nécessite moins d’un photon pour être détecté. À l’aide de ce qu’on appelle des détecteurs monophotoniques à nanofils supraconducteurs (SNSPD), ils construisent un récepteur capable de mesurer les résultats de chaque MAC avec moins d’un photon d’information.
« Ce résultat peut sembler surprenant à première vue étant donné que moins d’un seul photon par MAC est contre-intuitif », ont écrit Sludds et son équipe. « Nous pouvons mieux comprendre cette mesure en notant qu’au moment de la lecture, nous avons effectué un produit vecteur-vecteur avec M=100 MAC. Chaque MAC peut contenir moins d’un seul photon, mais le signal mesuré contiendra de nombreux photons.
Les implications pour l’informatique pourraient être profondes.
« La réalisation de l’informatique avec moins d’un photon par MAC », ont-ils écrit, « pourrait permettre une nouvelle classe de systèmes informatiques qui protègent à la fois les données d’entrée du client et les données de poids du serveur » du point de vue de la confidentialité des données. Cela pourrait également rendre l’informatique sur les engins spatiaux plus fiable. « Les données de poids d’une station de base directionnelle pourraient être transmises au vaisseau spatial et classifiées sur le vaisseau, avant que les résultats ne soient transmis à la Terre. »
Toutes les pièces de Netcast peuvent être fabriquées aujourd’hui dans n’importe quelle usine de puces à semi-conducteurs standard, ont noté Sludds et son équipe.
En conclusion, ils ont écrit : « Notre approche supprime un goulot d’étranglement fondamental dans l’edge computing, permettant le calcul à haut débit sur des capteurs et des drones déployés. »