La transparence fait cruellement défaut face à l’intérêt croissant pour l’IA
Amener les entreprises à s’ouvrir sur la manière dont elles forment leurs modèles d’IA de base s’avère un défi.
La transparence fait encore défaut sur la manière dont les modèles de base sont formés, et cet écart peut entraîner des tensions croissantes avec les utilisateurs à mesure que de plus en plus d'organisations cherchent à adopter l'intelligence artificielle (IA).
Dans la région Asie-Pacifique, hors Chine, IDC prévoit que les dépenses en matière d'IA augmenteront de 28,9 %, passant de 25,5 milliards de dollars en 2022 à 90,7 milliards de dollars d'ici 2027. Le cabinet d'études estime que 81 % de ces dépenses seront consacrées aux applications d'IA prédictive et interprétative.
Ainsi, bien qu'il y ait beaucoup de battage médiatique autour de l'IA générative, ce segment de l'IA ne représentera que 19 % des dépenses en IA de la région, a avancé Chris Marshall, vice-président d'IDC Asie-Pacifique. La recherche met en évidence un marché qui a besoin d’une approche plus large de l’IA qui va au-delà de l’IA générative, a déclaré Marshall lors du sommet Intel AI qui s’est tenu à Singapour cette semaine.
IDC a toutefois noté que 84 % des organisations de la région Asie-Pacifique estiment que l’exploitation des modèles d’IA générative offrira un avantage concurrentiel significatif à leur entreprise. Ces entreprises espèrent réaliser des gains en termes d'efficacité opérationnelle et de productivité des employés, améliorer la satisfaction des clients et développer de nouveaux modèles commerciaux, a ajouté le cabinet de recherche.
IDC s’attend également à ce que la majorité des organisations de la région augmentent leurs dépenses informatiques de pointe en 2024, avec 75 % des données d’entreprise qui devraient être générées et traitées en périphérie d’ici 2025, en dehors des centres de données traditionnels et du cloud.
"Pour réellement amener l'IA partout, les technologies utilisées doivent offrir accessibilité, flexibilité et transparence aux individus, aux industries et à la société dans son ensemble", a déclaré Alexis Crowell, directeur technique d'Intel pour la région Asie-Pacifique au Japon, dans un communiqué. "Alors que nous assistons à une croissance croissante des investissements en IA, les prochaines années seront cruciales pour que les marchés construisent leur base de maturité en IA de manière responsable et réfléchie."
Les acteurs de l’industrie et les gouvernements ont souvent vanté l’importance d’instaurer la confiance et la transparence dans l’IA, et de faire savoir aux consommateurs que les systèmes d’IA sont « justes, explicables et sûrs ». Lorsque ZDNET a demandé s'il y avait actuellement suffisamment de transparence sur la façon dont les grands modèles de langage ouverts (LLM) et les modèles de base étaient formés, Crowell a répondu : "Non, pas assez."
Elle a évoqué une étude menée par des chercheurs de l'Université de Stanford, du MIT et de Princeton qui ont évalué la transparence de 10 modèles de fondation majeurs, dans laquelle la plateforme la mieux notée n'a obtenu qu'un score de 54 %. "C'est un échec", a-t-elle déclaré lors d'un point de presse lors du sommet.
Le score moyen s'élève à seulement 37 %, selon l'étude, qui a évalué les modèles sur la base de 100 indicateurs, y compris les processus impliqués dans la construction du modèle, tels que les informations sur les données d'entraînement, l'architecture et les risques du modèle, ainsi que les politiques qui régissent son utilisation. utiliser. Le meilleur score avec 54 % était Llama 2 de Meta, suivi de Bloomz de BigScience à 53 % et de GPT-4 d'OpenAI à 48 %.
"Aucun développeur majeur de modèles de fondation n'est sur le point d'assurer une transparence adéquate, révélant un manque fondamental de transparence dans l'industrie de l'IA", ont noté les chercheurs.
La transparence est nécessaire
Crowell a exprimé l'espoir que cette situation pourrait changer avec la disponibilité de références et d'organisations surveillant les développements de l'IA. Elle a ajouté que des poursuites, telles que celles intentées par le New York Times contre OpenAI et Microsoft, pourraient contribuer à apporter davantage de clarté juridique.
Il devrait y avoir des cadres de gouvernance similaires aux législations sur la gestion des données, y compris le RGPD (Règlement général sur la protection des données) européen, afin que les utilisateurs sachent comment leurs données sont utilisées, a-t-elle noté. Les entreprises doivent prendre des décisions d'achat en fonction de la manière dont leurs données sont capturées et de leur destination, a-t-elle déclaré, ajoutant que la tension croissante des utilisateurs exigeant plus de transparence pourrait alimenter l'action de l'industrie.
Dans l'état actuel des choses, 54 % des utilisateurs d'IA ne font pas confiance aux données utilisées pour former les systèmes d'IA, selon une récente enquête Salesforce menée auprès de près de 6 000 travailleurs du savoir aux États-Unis, au Royaume-Uni, en Irlande, en Australie, en France, en Allemagne, en Inde et à Singapour. , et la Suisse.
Contrairement à une idée reçue, l'exactitude ne doit pas nécessairement se faire au détriment de la transparence, a déclaré Crowell, citant un rapport de recherche mené par le Boston Consulting Group. Le rapport examine les performances des modèles d'IA en boîte noire et blanche sur près de 100 ensembles de données de classification de référence, notamment les prix, les diagnostics médicaux, la prévision des faillites et le comportement d'achat. Pour près de 70 % des ensembles de données, les modèles boîte noire et boîte blanche ont produit des résultats tout aussi précis.
"En d'autres termes, le plus souvent, il n'y avait aucun compromis entre l'exactitude et l'explicabilité", indique le rapport. "Un modèle plus explicable pourrait être utilisé sans sacrifier la précision."
Cependant, obtenir une transparence totale reste un défi, a déclaré Marshall. Il a noté que les discussions sur l’explicabilité de l’IA étaient autrefois animées, mais qu’elles se sont depuis calmées car il s’agit d’une question difficile à résoudre.
Selon Laurence Liew, directrice de l'innovation en IA pour AI Singapore (AISG), les organisations à l'origine des principaux modèles de fondation pourraient ne pas être disposées à divulguer leurs données de formation. Il a ajouté qu’être sélectif sur les données d’entraînement pourrait également avoir un impact sur les taux de précision de l’IA. Liew a expliqué que l'AISG a choisi de ne pas utiliser certains ensembles de données en raison des problèmes potentiels liés à l'utilisation de tous ceux accessibles au public avec sa propre initiative LLM, SEA-LION (Southeast Asian Languages in One Network).
En conséquence, l'architecture open source n'est pas aussi précise que certains LLM majeurs du marché aujourd'hui, a-t-il déclaré. "C'est un équilibre délicat", a-t-il noté, ajoutant que parvenir à un taux de précision élevé nécessiterait d'adopter une approche ouverte dans l'utilisation de toutes les données disponibles. Choisir la voie « éthique » et ne pas toucher à certains ensembles de données entraînera un taux de précision inférieur à celui atteint par les acteurs commerciaux, a-t-il déclaré.
Bien que Singapour ait choisi un niveau éthique élevé avec SEA-LION, cela reste souvent contesté par les utilisateurs qui demandent d'exploiter davantage d'ensembles de données pour améliorer la précision du LLM, a déclaré Liew.
Un groupe d'auteurs et d'éditeurs à Singapour a exprimé le mois dernier ses inquiétudes quant à la possibilité que leurs travaux soient utilisés pour former SEA-LION. Parmi leurs griefs figure le manque apparent d'engagement à « payer une juste compensation » pour l'utilisation de leurs écrits. Ils ont également souligné la nécessité de clarté et de reconnaissance explicite du fait que les lois du pays sur la propriété intellectuelle et le droit d'auteur, ainsi que les accords contractuels existants, seront respectés lors de la création et de la formation des LLM.
Être transparent sur l'open source
Une telle reconnaissance devrait également s'étendre aux frameworks open source sur lesquels des applications d'IA peuvent être développées, selon Matt Hicks, PDG de Red Hat.
Les modèles sont formés à partir de grands volumes de données fournies par des personnes titulaires de droits d'auteur et utiliser ces systèmes d'IA de manière responsable signifie adhérer aux licences qu'ils utilisent, a déclaré Hicks lors d'une conférence de presse virtuelle cette semaine à la suite du Red Hat Summit 2024.
Ceci est pertinent pour les modèles open source qui peuvent avoir différentes variantes de licence, y compris les licences copyleft telles que GPL et les licences permissives telles qu'Apache.
Il a souligné l'importance de la transparence et de la responsabilité de comprendre les modèles de données et de gérer les résultats générés par les modèles. Pour la sûreté et la sécurité des architectures d’IA, il est nécessaire de garantir que les modèles sont protégés contre les exploits malveillants.
Red Hat cherche à aider ses clients dans ces efforts grâce à une multitude d'outils, notamment Red Hat Enterprise Linux AI (RHEL AI), dévoilé lors du sommet. Le produit comprend quatre composants, dont le langage Open Granite et les modèles de code de la communauté InstructLab, qui sont pris en charge et indemnisés par Red Hat.
Cette approche répond aux défis auxquels les organisations sont souvent confrontées lors de leur déploiement d'IA, notamment la gestion du cycle de vie des applications et des modèles, a déclaré le fournisseur open source.
« [RHEL AI] crée une plate-forme de modèles de base pour introduire des modèles GenAI sous licence open source dans l'entreprise », a déclaré Red Hat. "Avec les outils d'alignement InstructLab, les modèles Granite et RHEL AI, Red Hat vise à appliquer les avantages de véritables projets open source - librement accessibles et réutilisables, transparents et ouverts aux contributions - à GenAI dans le but de supprimer ces obstacles. ".