La percée quantique de Google est « vraiment remarquable » - mais il reste encore beaucoup à faire

L’informatique IA continuera de croître grâce à l’inférence, ce qui nécessitera de tout nouveaux centres de données IA de plusieurs gigawatts.

Thomas Graham, à droite, co-fondateur de la startup de puces Lightmatter, a déclaré à Mandeep Singh de Bloomberg Intelligence que des centres de données équivalant à huit fois la consommation électrique de la ville de New York seraient en construction d'ici 2026 pour servir le déploiement de l'IA.

Nvidia et ses partenaires et clients ont progressivement construit des installations informatiques de plus en plus grandes à travers le monde pour répondre aux besoins de calcul intensifs de la formation de programmes géants d'intelligence artificielle (IA) tels que GPT-4. Cet effort gagnera en importance à mesure que davantage de modèles d’IA seront mis en production, déclare une startup au service des géants de la technologie.

"Les gens voudront plus de calcul, pas nécessairement à cause des lois d'échelle, mais parce que vous déployez ces choses maintenant", a déclaré Thomas Graham, co-fondateur de la startup de calcul optique Lightmatter, lors d'une interview la semaine dernière à New York avec Mandeep Singh, un analyste technologique senior chez Bloomberg Intelligence.

Singh a demandé à Graham si les grands modèles de langage (LLM) tels que GPT-4 continueraient à « évoluer », c'est-à-dire à croître en taille à mesure qu'OpenAI et d'autres tentent de réaliser des modèles plus ambitieux.

Graham a inversé la question, suggérant que la prochaine étape de l'appétit informatique de l'IA consiste à mettre en production des réseaux neuronaux entraînés.

"Si vous considérez la formation comme de la R&D, l'inférence est en réalité un déploiement, et au fur et à mesure que vous le déployez, vous aurez besoin de gros ordinateurs pour exécuter vos modèles", a déclaré Graham. La discussion faisait partie d'une conférence d'une journée organisée par Bloomberg Intelligence intitulée « Gen AI : peut-elle tenir sa promesse de productivité ? »

Le point de vue de Graham fait écho à celui du PDG de Nvidia, Jensen Huang, qui a déclaré à Wall Street ces derniers mois que « l'intensification » des formes « agents » d'IA nécessiterait « à la fois une formation plus sophistiquée [des modèles d'IA], mais aussi une inférence de plus en plus sophistiquée ». " et que, par conséquent, " le calcul d'inférence évolue de manière exponentielle ".

"Si vous considérez la formation comme de la R&D, l'inférence est en réalité un déploiement, et au fur et à mesure que vous le déployez, vous aurez besoin de gros ordinateurs pour exécuter vos modèles", a déclaré Graham.

Lightmatter, fondée en 2018, développe une technologie de puce capable de relier plusieurs processeurs sur une seule puce semi-conductrice à l'aide de connexions optiques, ce qui peut remplacer les liaisons réseau conventionnelles entre des dizaines, des centaines, voire des milliers de puces nécessaires à la construction de centres de données d'IA. Les interconnexions optiques, comme on les appelle, peuvent déplacer les données plus rapidement que les fils de cuivre pour une fraction de la consommation d'énergie.

La technologie peut être utilisée entre les ordinateurs d'un rack de centre de données et entre les racks pour simplifier le réseau informatique, rendant ainsi l'ensemble du centre de données plus économique, a déclaré Graham à Singh.

« Donc, en supprimant vraiment les traces de cuivre que vous avez dans les centres de données, à la fois dans le serveur sur la carte de circuit imprimé de l'imprimante et dans le câblage entre les racks, ou en remplaçant tout cela par de la fibre, le tout par de l'optique, cela augmente considérablement la bande passante que vous avez. obtenir", a déclaré Graham.

Lightmatter travaille avec de nombreuses entreprises technologiques sur des projets de nouveaux centres de données, a déclaré Graham. "Les centres de données sont construits à partir de zéro", a-t-il déclaré. Lightmatter a déjà annoncé un partenariat avec le fabricant sous contrat de semi-conducteurs Global Foundries, qui possède des installations dans le nord de l'État de New York et sert de nombreux fabricants de puces, dont Advanced Micro Devices.

En dehors de cette collaboration, Graham a refusé de nommer des partenaires et des clients. L'implication de son discours était que son entreprise s'associe à des fournisseurs de silicium tels que Broadcom ou Marvell pour fabriquer des pièces intégrées personnalisées pour les géants de la technologie qui conçoivent leurs propres processeurs pour leurs centres de données, tels que Google, Amazon et Microsoft.

Pour avoir une idée de l'ampleur du déploiement, Graham a souligné qu'il existe actuellement au moins une douzaine de nouveaux centres de données d'IA prévus ou en construction qui nécessitent un gigawatt d'énergie pour fonctionner.

"Juste pour le contexte, la ville de New York consomme cinq gigawatts d'énergie par jour en moyenne. Donc, plusieurs New York." D'ici 2026, a-t-il déclaré, on s'attend à ce que le traitement de l'IA dans le monde nécessite 40 gigawatts de puissance "spécifiquement pour les centres de données d'IA, soit huit New York".

Lightmatter a récemment reçu une injection de capital-risque de 400 millions de dollars et la société est évaluée à 4,4 milliards de dollars. Lightmatter a l'intention d'entrer en production "au cours des prochaines années", a déclaré Graham.

Lorsque Singh lui a demandé ce qui pourrait bouleverser les plans de l'entreprise, Graham a exprimé sa confiance dans la nécessité continue d'étendre l'infrastructure informatique de l'IA.

"Si, dans les prochaines années, les chercheurs proposent un nouvel algorithme pour faire de l'IA qui nécessite beaucoup moins de calcul, qui soit bien plus performant que ce que nous avons aujourd'hui, qui réalise l'AGI [intelligence artificielle générale] bien plus rapidement, cela jetterait un singe bouleverser les hypothèses de tout le monde sur la volonté de continuer à investir dans le calcul exponentiel", a-t-il déclaré.