Domino Data Lab ajoute la mise à l’échelle automatique au MLOps
Domino Data Lab 5.0 se concentre fortement sur le déploiement, la mise à l’échelle automatique et la surveillance du cycle de vie du machine learning.
Comme l’a rapporté Andrew Brust, grand spécialiste des données, l’automne dernier, Domino Data Lab a récemment adopté une vision plus large du MLOps, de la gestion des expériences à l’intégration continue/livraison continue de modèles, en passant par l’ingénierie des fonctionnalités et la gestion du cycle de vie. Dans la version 5.0 récemment publiée, Domino se concentre sur les obstacles qui ralentissent généralement le déploiement physique.
La principale des nouvelles fonctionnalités est la mise à l’échelle automatique. Auparavant, les data scientists devaient soit jouer le rôle d’ingénieurs de cluster, soit travailler avec eux pour mettre les modèles en production et gérer le calcul. La nouvelle version permet d’automatiser cette étape, en uniformisant les règles du jeu avec les services cloud tels qu’Amazon SageMaker et Google Vertex AI qui le font déjà, et les offres Azure Machine Learning en préversion. Pour faciliter encore la tâche, il est certifié pour fonctionner sur la plate-forme Nvidia AI Enterprise (Nvidia est l’un des investisseurs de Domino).
Les fonctionnalités de mise à l’échelle automatique s’appuient sur la prise en charge de Ray et Dask (en plus de Spark) qui a été ajoutée dans la version 4.6 précédente, qui fournit des API pour intégrer l’informatique distribuée dans le code.
Une autre nouveauté de la version 5.0 pour le déploiement est l'ajout d'une nouvelle bibliothèque de connecteurs de données, de sorte que les data scientists n'ont pas à réinventer la roue chaque fois qu'ils essaient de se connecter à Snowflake, AWS Redshift ou AWS S3 ; D’autres sources de données seront ajoutées à l’avenir.
La version 5.0 est complétée par une surveillance intégrée. Celle-ci intégrait en fait une capacité auparavant autonome et devait être configurée manuellement. Avec la version 5.0, Domino configure automatiquement la surveillance, capture des flux de prédiction en direct et exécute des vérifications statistiques des données de production par rapport aux données d’entraînement une fois qu’un modèle est déployé. Et pour le débogage, il capture des instantanés du modèle : la version du code, les ensembles de données et les configurations de l’environnement de calcul. D’un simple clic, les data scientists lancent un environnement de développement du modèle versionné pour effectuer le débogage. Cependant, le système n’automatise pas la détection ou ne fait pas de recommandations sur l’endroit où les modèles doivent être réparés.
L’étincelle (sans jeu de mots) pour les capacités 5.0 est de s’attaquer aux maux de tête opérationnels qui obligent les scientifiques des données à effectuer des tâches d’ingénierie de système ou de cluster ou à compter sur les administrateurs pour les effectuer à leur place.
Mais il y a aussi le goulot d’étranglement de l’ingénierie des données, comme nous l’avons constaté lors d’une recherche que nous avons réalisée pour Ovum (aujourd’hui Omdia) et Dataiku en 2018. D’après des discussions approfondies avec plus d’une douzaine de directeurs des données, nous avons constaté que les scientifiques des données consacrent généralement plus de la moitié de leur temps à l’ingénierie des données. La version 5.0 s’attaque à un obstacle majeur de l’ingénierie des données : la connexion à des sources de données externes populaires, mais actuellement, Domino ne s’occupe pas de la mise en place de pipelines de données ou, plus élémentairement, de l’automatisation des tâches de préparation des données. Bien sûr, c'est ce dernier (l'intégration de la préparation des données) qui a motivé l'acquisition de Paxata par Data Robot en 2019.
Les fonctionnalités 5.0 reflètent la façon dont Domino Data Lab et d’autres outils de gestion du cycle de vie du ML ont dû élargir l’attention du cycle de vie du modèle au déploiement. Cela reflète le fait que, à mesure que les entreprises acquièrent de l’expérience avec le ML, elles développent plus de modèles plus fréquemment et doivent industrialiser ce qui était à l’origine des processus uniques. Nous ne serions pas surpris si Domino se concentrait ensuite sur les magasins de fonctionnalités.