AWS dévoile la nouvelle puce Trainium AI et Graviton 4 et étend le partenariat avec Nvidia
La puce Trainium de deuxième génération est destinée aux modèles de réseaux neuronaux comportant plus d’un billion de paramètres.
La puce Graviton 4, à gauche, est une puce de microprocesseur à usage général utilisée par SAP et d'autres pour les charges de travail importantes, tandis que Trainium 2 est une puce accélératrice à usage spécial pour les très grands programmes de réseaux neuronaux tels que l'IA générative.
Lors de sa conférence annuelle des développeurs AWS re:Invent à Las Vegas, Amazon a annoncé mardi une nouvelle version de Trainium 2, sa puce dédiée à la formation des réseaux de neurones. Trainium 2 est spécialement conçu pour la formation de ce que l'on appelle les grands modèles de langage (LLM) et les modèles de base - les types de programmes d'IA génératifs tels que GPT-4 d'OpenAI.
La société a également dévoilé une nouvelle version de son microprocesseur personnalisé, Graviton 4, et a annoncé qu'elle étendait son partenariat avec Nvidia pour exécuter les puces les plus avancées de Nvidia dans son service de cloud computing.
Le Trainium 2 est conçu pour gérer des réseaux neuronaux avec des milliards de paramètres, ou poids neuronaux, qui sont les fonctions de l'algorithme du programme qui lui confèrent ampleur et puissance, d'une manière générale. L’évolution vers des paramètres de plus en plus grands est une priorité pour l’ensemble du secteur de l’IA.
Le nombre de milliards de paramètres est devenu une sorte d'obsession de l'industrie en raison du fait que le cerveau humain est censé contenir 100 mille milliards de connexions neuronales - ce qui donne l'impression qu'un programme de réseau neuronal de mille milliards de paramètres est lié au cerveau humain, qu'il soit ou non dans le fait est.
Les puces sont "conçues pour offrir des performances d'entraînement jusqu'à quatre fois plus rapides et une capacité de mémoire trois fois supérieure" que leur prédécesseur, "tout en améliorant l'efficacité énergétique (performance/watt) jusqu'à deux fois", a déclaré Amazon.
Amazon met les puces à disposition dans les instances de son service de cloud computing EC2 connues sous le nom d'instances « Trn2 ». L'instance propose 16 puces Trainium 2 fonctionnant de concert, qui peuvent être étendues à 100 000 instances, a indiqué Amazon. Ces instances plus grandes sont interconnectées à l'aide du système réseau de l'entreprise, appelé Elastic Fabric Adapter, qui peut fournir un total de 65 exaFLOP de puissance de calcul. (Un exaFLOP équivaut à un milliard, milliard d'opérations en virgule flottante par seconde.)
À cette échelle de calcul, a déclaré Amazon, "les clients peuvent former un LLM de 300 milliards de paramètres en quelques semaines plutôt qu'en mois".
En plus de servir ses clients, Amazon bénéficie d’incitations supplémentaires pour continuer à repousser les limites du silicium IA. La société a investi 4 milliards de dollars dans la startup privée d'IA générative Anthropic, un groupe qui s'est séparé d'OpenAI. Cet investissement place l'entreprise en position de rivaliser avec l'accord exclusif de Microsoft avec OpenAI.
La puce Graviton 4, qui repose sur la propriété intellectuelle du microprocesseur d'ARM Holdings, est en concurrence avec les processeurs d'Intel et Advanced Micro Devices basés sur l'ancienne norme de puce x86. Le Graviton 4 offre « des performances de calcul 30 % supérieures », a déclaré Amazon.
Contrairement aux puces Trainium pour l'IA, les processeurs Graviton sont destinés à exécuter des charges de travail plus conventionnelles. Amazon AWS a déclaré que ses clients, notamment Datadog, DirecTV, Discovery, Formula 1, Nielsen, Pinterest, SAP, Snowflake, Sprinklr, Stripe et Zendesk, utilisent les puces Graviton "pour exécuter un large éventail de charges de travail, telles que des bases de données, des analyses. , serveurs Web, traitement par lots, diffusion d'annonces, serveurs d'applications et microservices."
SAP a déclaré dans des remarques préparées qu'il avait été en mesure d'obtenir « un meilleur rapport qualité-prix de 35 % pour les charges de travail analytiques » en exécutant sa base de données en mémoire HANA sur les puces Graviton, et que « nous sommes impatients d'évaluer Graviton4 et les avantages qu'il peut apporter ». à nos clients communs.
Les nouvelles puces suivent de deux ans l'introduction en 2021 de Graviton 3 et du Trainium original.
L'actualité d'Amazon fait suite à l'introduction par Microsoft la semaine dernière de ses premières puces pour l'IA. Google d'Alphabet, l'autre titan du cloud aux côtés d'Amazon et de Microsoft, a précédé les deux en 2016 avec la première puce cloud pour l'IA, le TPU, ou Tensor Processing Unit, dont il a depuis proposé plusieurs générations.
En plus des deux nouvelles puces, Amazon a annoncé avoir étendu son partenariat stratégique avec le géant des puces IA Nvidia. AWS sera le premier service cloud à exécuter le prochain produit multipuce GH200 Grace Hopper de Nvidia, qui combine le processeur basé sur Grace ARM et la puce GPU Hopper H100.
La puce GH200, qui devrait être commercialisée l'année prochaine, est la prochaine version de la puce combinée Grace Hopper, annoncée plus tôt cette année, qui est déjà disponible dans sa version initiale sur les ordinateurs Dell et autres.
Les puces GH200 seront hébergées sur AWS via les ordinateurs d'IA spécialement conçus par Nvidia, le DGX, qui, selon les deux sociétés, accéléreront la formation des réseaux neuronaux avec plus d'un billion de paramètres.
Nvidia a déclaré qu'elle ferait d'AWS son "principal fournisseur de cloud pour sa recherche et développement en ML".