IBM rend open source ses modèles Granite AI - et ils sont sérieux
De nombreuses entreprises prétendent avoir rendu leurs LLM open source, mais IBM l'a effectivement fait. Voici comment.
L'open source de grands modèles linguistiques (LLM) n'est pas facile. Il suffit de demander à l' Open Source Initiative (OSI), qui travaille depuis près de deux ans sur une définition open source compatible avec l'IA. Certaines entreprises - Meta, par exemple - prétendent avoir leurs LLM en open source. (Ils ne l'ont pas fait.) Mais maintenant IBM est allé de l'avant et l'a fait.
IBM a géré l'open source du code Granite en utilisant des données de pré-entraînement provenant d'ensembles de données accessibles au public, tels que GitHub Code Clean, les données Starcoder, les référentiels de code publics et les problèmes GitHub. En bref, IBM a fait de grands efforts pour éviter les problèmes de droits d'auteur ou juridiques. Les modèles Granite Code Base sont formés sur des jetons de 3 à 4 téraoctets de données de code et des ensembles de données liés au code en langage naturel.
Tous ces modèles sont sous licence Apache 2.0 pour la recherche et l'utilisation commerciale. C'est ce dernier mot - commercial - qui a empêché les autres LLM majeurs d'être open source. Personne d'autre ne voulait partager ses cadeaux LLM.
Mais, comme l'a déclaré Ruchir Puri, scientifique en chef d'IBM Research, « nous transformons le paysage de l'IA générative pour les logiciels en publiant les LLM de code les plus performants et les plus rentables, permettant à la communauté ouverte d'innover sans restrictions. »
Sans restrictions, peut-être, mais pas sans applications spécifiques en tête.
Les modèles Granite, comme l'a déclaré Kate Woolley, directrice générale de l'écosystème IBM l'année dernière, ne visent pas « à essayer d'être tout pour tout le monde. Il ne s'agit pas d'écrire des poèmes sur votre chien. Il s'agit de modèles sélectionnés qui peuvent être réglés et sont très ciblés pour les cas d'utilisation métier que nous souhaitons que l'entreprise utilise spécifiquement, ils sont destinés à la programmation.
Ces modèles uniquement décodeurs, formés sur le code de 116 langages de programmation, vont de 3 à 34 milliards de paramètres. Ils prennent en charge de nombreuses utilisations par les développeurs, de la modernisation d'applications complexes aux tâches sur l'appareil avec une mémoire limitée.
IBM a déjà utilisé ces LLM en interne dans les produits IBM Watsonx Code Assistant (WCA), tels que WCA pour Ansible Lightspeed for IT Automation et WCA pour IBM Z pour moderniser les applications COBOL. Tout le monde ne peut pas se permettre Watsonx, mais désormais, tout le monde peut travailler avec les LLM Granite à l'aide d'IBM et d'InstructLab de Red Hat.
Comme l'a déclaré Ashesh Badani, vice-président directeur et directeur des produits de Red Hat, InstructLab « réduira de nombreux obstacles auxquels GenAI est confronté dans le cloud hybride, depuis les compétences limitées en science des données jusqu'aux ressources nécessaires ». Le but est d'abaisser le niveau d'entrée pour les développeurs qui souhaitent utiliser les LLM.
Jusqu'où ? Comme l'a déclaré Matt Hicks lors du Red Hat Summit : « Des fonctionnalités qui, il y a à peine un an, étaient couplées à du matériel haut de gamme assez exotique, peuvent désormais fonctionner sur un ordinateur portable. Les techniques de formation qui coûtaient autrefois des centaines de millions de dollars sont désormais étant reproduit pour quelques milliers.
Par exemple, outre InstructLab, vous pouvez utiliser Ollma pour exécuter des LLM localement. Comme l'explique Bala Priya C dans KDnuggets, "Avec Ollama, tout ce dont vous avez besoin pour exécuter un LLM - les poids du modèle et toute la configuration - est regroupé dans un seul fichier de modèle. Pensez à Docker pour les LLM." Les modèles sont disponibles sur des plateformes telles que Hugging Face, GitHub, Watsonx.ai et Red Hat Enterprise Linux (RHEL) AI.
IBM prévoit que les programmeurs, en plus d'écrire du code avec les LLM Granite, économiseront du temps et de l'énergie en utilisant ces LLM pour créer des tests et rechercher et corriger des bogues. « De nombreuses tâches quotidiennes mais essentielles qui font partie de la journée d'un développeur - de la génération de tests unitaires à la rédaction de documentation ou à l'exécution de tests de vulnérabilité - pourraient être automatisées avec ces modèles.
En plus d'aider les développeurs, IBM voit des avantages commerciaux dans les modèles Granite car, contrairement à beaucoup d'autres, leur licence est claire, tout comme la manière dont les modèles ont été formés. De plus, les données ont été nettoyées et filtrées pour détecter la haine, les abus et les propos grossiers.
Ainsi, si votre entreprise a hésité à utiliser l'IA pour créer des programmes pour des raisons juridiques, IBM vient de vous fournir les outils open source dont vous aurez besoin pour améliorer votre travail de développement logiciel. Essayez-les. Certains d’entre vous construiront de grandes choses à partir de ces blocs de granit.