L'open source n'est pas prêt pour l'IA générative. Comment les acteurs changent cette ampoule ensemble
Les licences open source, déjà mises à rude épreuve par le logiciel en tant que service et le cloud, conviennent encore moins aux grands modèles linguistiques de l'IA. Que doit faire un leader de l'open source ?
Sans open source, il n’y a pas d’IA. C'est si simple. Mais ces mêmes licences montrent leur âge : la licence publique générale Gnu (GPL), la licence Apache et la licence publique Mozilla ne conviennent pas bien aux logiciels en tant que service ou aux services cloud. L’IA pose des problèmes encore plus importants. Les licences open source, avec leurs fondements en matière de droits d'auteur, ne conviennent pas aux grands modèles linguistiques (LLM) de l'IA.
Il ne s’agit pas non plus d’une question théorique, techno-juridique. Cela apparaît déjà devant les tribunaux.
Dans J. Doe 1 et al. contre GitHub, les plaignants allèguent que Microsoft, OpenAI et GitHub - via leur système commercial basé sur l'IA, le Codex d'OpenAI et le Copilot de GitHub - - ont volé leur code open source. Le recours collectif affirme que le code « suggéré » par l’IA consiste souvent en des chaînes de code presque identiques extraites des référentiels publics GitHub - mais sans les attributions de licence open source requises.
Sur une question connexe, deux groupes d'écrivains, dont George R.R. Martin, Michael Chabon et John Grisham, poursuivent Microsoft et OpenAI pour avoir pris leur travail et l'ont utilisé dans leurs LLM. Le droit d’auteur, fondement juridique de l’open source, est au cœur de cette problématique.
Mais ce n'est pas simplement un problème de Microsoft.
Comme Sean O'Brien, professeur de cybersécurité à la faculté de droit de Yale et fondateur du Yale Privacy Lab, l'a déclaré à mon collègue de ZDNET, David Gewirtz : « Je crois qu'il y aura bientôt toute une sous-industrie de la pêche à la traîne qui reflète les trolls des brevets, mais cette fois autour Œuvres générées par l'IA. Une boucle de rétroaction se crée à mesure que de plus en plus d'auteurs utilisent des outils basés sur l'IA pour expédier du code sous des licences propriétaires. Les écosystèmes logiciels seront pollués par du code propriétaire qui fera l'objet de demandes de cessation et d'abstention de la part des entreprises entreprenantes.
D’autres, comme le chercheur et homme politique allemand Felix Reda, affirment que tout le code produit par l’IA relève du domaine public.
L'avocat américain Richard Santalesa, membre fondateur du groupe SmartEdgeLaw, a déclaré à Gewirtz qu'il existait à la fois des problèmes de droit des contrats et des droits d'auteur - et que ce n'était pas la même chose. Santalesa estime que les entreprises produisant du code généré par l'IA « comme pour toutes leurs autres propriétés intellectuelles, considéreront le matériel fourni - y compris le code généré par l'IA - comme leur propriété ». De plus, le code du domaine public n’est pas la même chose que le code open source.
Alors, que faut-il faire ? Affirmer simplement que votre IA est open source est un échec. Meta, par exemple, affirme que Llama 2 est open source. Ce n'est pas.
Comme Erica Brescia, directrice générale de RedPoint, la société de capital-risque favorable à l'open source, l'a demandé sur Twitter : « Quelqu'un peut-il m'expliquer comment Meta et Microsoft peuvent justifier d'appeler Llama 2 open source s'il n'utilise pas réellement d'OSI. Licence approuvée par [Open Source Initiative] ou conforme à l'OSD [Open Source Definition] ? Remettent-ils intentionnellement en question la définition d'OSS [Open Source Software] ? »
Voici la brève explication : Meta utilise l'open source comme terme marketing et non juridique. Cet usage ne volera pas une fois que les procès s'accumuleront
Le problème avec Llama 2 en particulier est qu’il empêche les entreprises extrêmement rentables de l’utiliser. Selon Stephen O'Grady, expert en licences open source et co-fondateur de RedMonk, le problème est qu'ils ne fonctionneront pas en open source. "Imaginez si Linux était open source à moins que vous ne travailliez chez Facebook"
Dans le même temps, comme l'a observé Amanda Brock, PDG d'OpenUK : "Je ne pense pas que nous verrons à l'avenir un LLM ou une IA significative pouvoir obtenir une licence en tant qu'open source, car la clé de l'open source est l'Open Source. Définition de la source."
Et le chemin vers cette définition a été long et semé d’embûches.
Les premières licences de logiciels libres ont commencé au début des années 1980, lorsque le programmeur du MIT Lab, Richard M. Stallman, n'a pas réussi à obtenir qu'une des premières imprimantes laser, la Xerox 9700, produise des messages d'erreur. Le problème? Stallman ne pouvait ni lire ni modifier son code source. À l’époque, c’était une nouveauté. Même si nous considérons désormais les logiciels propriétaires comme la solution par défaut, ce n'était pas le cas à l'époque.
Ainsi, Stallman a créé la licence publique générale GNU (GPL). Bien qu'il ne s'agisse pas de la première licence de logiciel libre (cet honneur appartient à la licence Berkeley Software Distribution (BSD)), GNU s'avérerait très influente. Cela est dû en grande partie au fait que Linus Torvalds a choisi d'utiliser la GPLv2 comme licence Linux.
La GPL repose sur deux principes. Premièrement, le code logiciel peut être protégé par le droit d’auteur. Deuxièmement, n'importe qui est libre de lire et de modifier le code tant que ces libertés ne sont pas retirées à quelqu'un d'autre.
En 1985, le logiciel libre devenait populaire, mais il devenait également évident que le mot « libre » était trop ambigu. Après que Netscape ait publié le code source de Mozilla -- qui est devenu la base du navigateur Web Firefox -- plusieurs sommités du logiciel libre, dont Eric S. Raymond, Bruce Perens, Michael Tiemann, Jon "Maddog" Hall et Christine Peterson, ont inventé l'expression open source pour décrire ce type de licence. En 1998, Perens et Raymond ont fondé l'OSI, qui a rédigé la définition de l'Open Source (OSD) et l'a utilisée comme guide général pour définir toutes les licences open source.
Toutes les licences open source doivent être conformes à l'OSD. Pour l'IA et les LLM, c'est beaucoup plus facile à dire qu'à faire.
Certes, il existe des LLM ouverts tels que Falcon, FastChat-T5 et OpenLLaMA. Mais la plupart des LLM contiennent des informations exclusives, protégées par des droits d'auteur ou simplement inconnues dont leurs propriétaires ne vous parleront pas. L’Electronic Frontier Foundation (EFF) le dit bien : « Garbage In, Gospel Out ».
Nous voyons ce problème arriver depuis un moment. Lors de l'Open Source Europe à Bilbao, en Espagne, le mois dernier, j'ai parlé avec Stefano Maffulli, directeur exécutif de l'Open Source Initiative (OSI), l'organisation qui définit et gère les licences open source. "Le processus a commencé il y a deux ans lorsque GitHub Copilot est sorti", m'a expliqué Maffulli. "Cela a été un moment décisif. Tout d'un coup, le code que vous avez écrit en tant qu'humain pour les humains, tout ce que nous avons produit et mis sur Internet a été récolté pour l'apprentissage automatique."
Alors, que pouvons-nous faire? Maffulli et d'autres leaders de l'Open Source et de l'IA travaillent à combiner l'IA avec des licences open source de manière judicieuse.
Maffulli a observé que combiner l’IA avec des licences open source est aussi difficile, sinon plus difficile, que lorsque le droit d’auteur sur les logiciels a été appliqué pour la première fois au code source dans les années 1980 (lorsque le logiciel libre et l’open source ont été définis pour la première fois). Les véritables programmes d'IA open source, tels que TensorFlow, PyTorch et Hugging Face - fonctionnent bien avec les licences anciennes. Mais les logiciels à l’ancienne ne sont pas le problème. C'est là que les logiciels et les données se mélangent que les licences open source existantes commencent à s'effondrer. Plus précisément, c'est là que toutes ces données et ce code fusionnent dans des artefacts d'IA/ML (tels que des ensembles de données, des modèles et des pondérations) que les problèmes surgissent. "Par conséquent", a déclaré Mafulli, "nous devons créer une nouvelle définition de l'IA open source".
Il doit s’agir d’une définition sur laquelle toutes les parties prenantes peuvent s’entendre et avec laquelle travailler. Les logiciels libres et open source ne sont plus seulement l’affaire des développeurs. Les objectifs des programmeurs et des avocats avertis en matière d’open source ne sont pas les mêmes que ceux des sociétés d’IA. Pour résoudre ce problème, Maffulli, en collaboration avec Google, Microsoft, GitHub, Open Forum Europe, Creative Commons, Wikimedia Foundation, Hugging Face, GitHub, la Linux Foundation, ACLU Mozilla et Internet Archive, travaillent sur un projet visant à définir un cadre commun. compréhension de l’IA open source. Autrement dit, tous les acteurs de l’IA travaillent sur la définition.
Si tout se passe bien, nous pouvons nous attendre à voir les fruits de leur travail dès ce mois-ci. Et même s’il ne s’agit que de la première ébauche de la définition de l’IA Open Source, j’espère qu’elle sera finalisée le plus rapidement possible. Toutes les personnes impliquées savent que l’IA progresse rapidement et que plus tôt nous aurons un cadre open source autour d’elle, mieux ce sera.