Red Hat révèle des améliorations majeures de Red Hat Enterprise Linux AI
Quelques semaines seulement après le lancement de Red Hat Enterprise Linux AI par Red Hat, la société a déployé la version suivante : RHEL AI 1.2.
Eh bien, c'était rapide. Ce n'est que début septembre que Red Hat a publiéRed Hat Enterprise Linux AI (RHEL AI) 1.0. Maintenant, Red Hat a donné suite en annonçant la disponibilité générale de RHEL AI 1.2. Cette dernière version introduit plusieurs améliorations clés visant à rationaliser le développement, les tests et le déploiement de grands modèles de langage (LLM).
Avant de passer aux nouveautés et aux améliorations, voici un aperçu de ce que RHEL AI apporte. Il est conçu pour rationaliser le développement, les tests et le déploiement de modèles d’IA générative (gen AI). RHEL AI vise également à rendre la formation LLM abordable.
Cette nouvelle plate-forme combine la famille de modèles de langage étendus Granite (LLM) sous licence open source d'IBM Research, les outils d'alignement InstructLab basés sur la méthodologie LAB et une approche collaborative du développement de modèles via le projet open source InstructLab AI.
RHEL AI utilise également la génération de récupération augmentée (RAG) pour permettre aux LLM d'accéder aux connaissances externes approuvées stockées dans des bases de données, des documents et d'autres sources de données. Cette approche améliore la capacité de RHEL AI à fournir la bonne réponse plutôt qu'une réponse qui semble correcte.
Cette nouvelle génération de RHEL AI bénéficie d’une prise en charge matérielle étendue. La nouvelle version prend désormais en charge les serveurs Lenovo ThinkSystem SR675 V3, offrant des options de préchargement en usine pour un déploiement plus rapide et plus facile. Dans un aperçu technologique, RHEL AI 1.2 introduit la prise en charge des accélérateurs AMD Instinct, notamment les GPU MI300x pour la formation et l'inférence et les GPU MI210 pour les tâches d'inférence.
RHEL AI 1.2 a également étendu sa portée aux principales plates-formes cloud : les utilisateurs peuvent désormais déployer RHEL AI sur Azure et Google Cloud Platform (GCP), en plus de la prise en charge existante pour AWS et IBM Cloud.
Le logiciel a également connu des améliorations significatives. La nouvelle fonction « Periodic Checkpointing » enregistre de longues séances d'entraînement à intervalles réguliers lors du réglage fin. Les utilisateurs peuvent reprendre l'entraînement à partir du dernier point de contrôle enregistré au lieu de recommencer, économisant ainsi un temps précieux et des ressources informatiques.
RHEL AI 1.2 est livré avec le PyTorch Fully Sharded Data Parallel (FSDP). Présenté comme un aperçu technologique, FSDP réduit considérablement les temps de formation pour la formation en plusieurs phases de modèles avec des données synthétiques. La technologie répartit les paramètres, les gradients et les états d'optimisation d'un modèle entre des travailleurs parallèles (par exemple, des GPU), réduisant ainsi considérablement les temps de formation.
RHEL AI poursuit la démarche de Red Hat visant à rendre la formation LLM plus accessible aux programmeurs et aux experts en la matière, et pas seulement aux scientifiques des données.
Comme l'a déclaré Joe Fernandes, vice-président de Red Hat Foundation Model Platform : « RHEL AI offre la possibilité aux experts du domaine, et pas seulement aux scientifiques des données, de contribuer à un modèle d'IA de génération sur mesure dans le cloud hybride tout en permettant aux organisations informatiques pour faire évoluer ces modèles pour la production via Red Hat OpenShift AI."
En d’autres termes, avec RHEL AI, rendre l’IA utile à vos besoins particuliers devient encore plus simple.
Enfin, avec la sortie de RHEL AI 1.2, Red Hat abandonne également la prise en charge de la version 1.1, donnant aux utilisateurs 30 jours pour passer à la dernière version. Cette itération rapide souligne la poussée agressive de Red Hat sur le marché de l'IA d'entreprise. Pour le meilleur ou pour le pire, le développement de l’IA s’accélère à un rythme toujours plus rapide.