La définition de l'IA open source obtient enfin sa première version candidate - et un compromis
L'OSI et ses alliés font un pas de plus vers une définition de l'intelligence artificielle open source, et les puristes ne sont pas les seuls à être mécontents.
Mettre l’open source et l’intelligence artificielle (IA) sur la même longueur d’onde n’est pas facile. Il suffit de demander à l'Open Source Initiative (OSI). L'OSI, l'organisation de gestion des définitions open source, travaille depuis deux ans maintenant à la création d'une définition de l'intelligence artificielle open source. Le groupe a néanmoins progressé. Sa définition Open Source AI a maintenant publié sa première version candidate, RC1.
La dernière définition vise à clarifier les discussions souvent controversées autour de l’IA open source. Il précise quatre libertés fondamentales qu'un système d'IA doit accorder pour être considéré comme open source : la possibilité d'utiliser le système à n'importe quelle fin sans autorisation, d'étudier son fonctionnement, de le modifier à n'importe quelle fin et de le partager avec ou sans modifications. .
Jusqu'ici, tout va bien.
Stefano Maffulli, directeur exécutif de l'OSI
Cependant, l'OSI a opté pour un compromis concernant les données d'entraînement. Reconnaissant qu'il n'est pas facile de partager des ensembles de données complets, la définition actuelle nécessite « des informations suffisamment détaillées sur les données utilisées pour entraîner le système » plutôt que l'ensemble de données complet lui-même. Cette approche vise à équilibrer la transparence avec des considérations pratiques et juridiques.
Cette dernière phrase s’avère difficile à avaler pour certaines personnes. De leur point de vue, si toutes les données ne sont pas ouvertes, alors les grands modèles linguistiques (LLM) d’IA basés sur ces données ne peuvent pas être open source.
L'OSI a résumé ces arguments comme suit : « Certaines personnes pensent qu'un accès complet et sans entrave à toutes les données de formation (sans distinction de type) est primordial, arguant que rien de moins compromettrait la reproductibilité totale des systèmes d'IA, la transparence et la sécurité. Cette approche reléguerait l’IA Open Source à une niche d’IA pouvant être entraînée uniquement sur des données ouvertes. »
Ils n'ont pas tort.
Oui, idéalement, l'OSI convient que toutes les données de formation devraient être partagées et divulguées. Cependant, il existe quatre types de données différents : les données ouvertes, publiques, obtenables et non partageables. "Les exigences légales sont différentes pour chacun. Tous doivent être partagés sous la forme que la loi autorise."
En bref, « les données peuvent être difficiles à partager. Les lois autorisant la formation sur les données limitent souvent le partage de ces données pour protéger les droits d'auteur ou d'autres intérêts. Les règles de confidentialité donnent également à une personne la possibilité légitime de contrôler ses informations les plus sensibles - comme les décisions concernant leur santé."
La version candidate aborde également d’autres composants clés des systèmes d’IA. Il exige que le code source complet utilisé pour la formation et l'exécution du système soit disponible sous des licences approuvées par l'OSI. De même, les paramètres et les poids du modèle doivent être partagés dans des conditions ouvertes.
Stefano Maffulli, directeur exécutif de l'OSI, a souligné l'importance de cette définition dans la lutte contre « l'open washing » - la pratique des entreprises revendiquant l'ouverture sans répondre aux véritables normes open source. "Si une entreprise déclare qu'elle est open source, elle doit véhiculer les valeurs que véhicule la définition de l'open source. Sinon, cela prête à confusion."
Lors d'une interview accordée à l'Open Source Summit Europe à Vienne, en Autriche, Mafulli m'a dit que ce ne sont pas seulement les puristes de l'open source qui sont mécontents de la définition OSI AI proposée. Les autres "sont des entreprises, qui considèrent leurs programmes de formation et la manière dont elles organisent la formation, rassemblent, filtrent et créent des ensembles de données comme des secrets commerciaux. Ils ne veulent pas les divulguer. Ils pensent que nous en demandons trop. C'est un vieil argument que l'on entendait dans les années 90, lorsque Microsoft ne voulait pas publier son code source ni construire des instructions."
De plus, RC1 dispose de deux nouvelles fonctionnalités. La première est que le code AI open source doit être suffisant pour que les destinataires en aval comprennent comment la formation en langage machine a été effectuée. C'est dans la formation que se produit l'innovation et, selon l'OSI, c'est « la raison pour laquelle on ne voit pas les entreprises publier leur code de formation et de traitement des données ». Compte tenu de l’état actuel des connaissances et des pratiques, cela est nécessaire pour créer des systèmes d’IA de manière significative.
Enfin, le nouveau texte reconnaît que les créateurs peuvent explicitement exiger des termes copyleft pour le code, les données et les paramètres d'IA open source, soit individuellement, soit sous forme de combinaisons groupées. Un exemple de ceci serait si un "consortium détenant les droits sur le code de formation et un ensemble de données décidait de distribuer le code et les données de l'ensemble avec des termes juridiques qui lient les deux, avec des dispositions de type copyleft".
Attention, poursuit l'OSI : "Ce type de document juridique n'existe pas encore, mais le scénario est suffisamment plausible pour mériter d'être pris en considération."
Ne pensez pas que la définition soit déjà faite et dépoussiérée. Ce n'est pas le cas. Certes, l'OSI ne prévoit pas d'ajouter de nouvelles fonctionnalités. À partir de maintenant, eux et leurs partenaires travailleront sur des corrections de bugs. L'OSI admet qu'il peut encore y avoir « des défauts majeurs qui pourraient nécessiter d'importantes réécritures du texte ». Cependant, l'accent sera mis principalement sur la documentation qui l'accompagne.
En outre, l'OSI a « réalisé que dans notre zèle à résoudre le problème des données qui doivent être fournies mais ne peuvent pas être fournies par le propriétaire du modèle pour de bonnes raisons, nous n'avions pas réussi à clarifier l'exigence fondamentale selon laquelle « si vous pouvez partager les données dont vous avez besoin.'"
Si tout se passe bien, l'OSI prévoit de publier la version finale 1.0 de la définition de l'IA Open Source lors de la conférence All Things Open le 28 octobre 2024. Tenez bon, les amis. Nous y arrivons.