Une nouvelle norme mondiale vise à renforcer la sécurité autour de grands modèles de langage
Le framework WDTA couvre le cycle de vie des grands modèles de langage, offrant des lignes directrices pour gérer l'intégration avec d'autres systèmes.
Une nouvelle norme mondiale a été publiée pour aider les organisations à gérer les risques liés à l'intégration de grands modèles de langage (LLM) dans leurs systèmes et à lever les ambiguïtés autour de ces modèles.
Le cadre propose des lignes directrices pour différentes phases du cycle de vie des LLM, couvrant « le développement, le déploiement et la maintenance », selon la World Digital Technology Academy (WDTA), qui a publié le document vendredi. L'organisation non gouvernementale (ONG) basée à Genève opère sous l'égide des Nations Unies et a été créée l'année dernière pour piloter le développement de normes dans le domaine numérique.
"La norme met l'accent sur une approche multicouche de la sécurité, englobant les couches réseau, système, plate-forme et application, modèle et données", a déclaré la WDTA. « Il exploite des concepts clés tels que la nomenclature d'apprentissage automatique, l'architecture Zero Trust et la surveillance et l'audit continus. Ces concepts sont conçus pour garantir l'intégrité, la disponibilité, la confidentialité, la contrôlabilité et la fiabilité des systèmes LLM tout au long de leur chaîne d'approvisionnement. »
Baptisé norme AI-STR-03, le nouveau cadre vise à identifier et à évaluer les défis liés à l'intégration des technologies d'intelligence artificielle (IA), en particulier les LLM, au sein des écosystèmes informatiques actuels, a déclaré la WDTA. Ceci est essentiel car ces modèles d’IA peuvent être utilisés dans des produits ou services exploités entièrement ou partiellement par des tiers, mais non gérés par eux.
Les exigences de sécurité liées à la structure du système des LLM - appelées exigences de sécurité de la chaîne d'approvisionnement, englobent les exigences relatives à la couche réseau, à la couche système, à la couche plate-forme et application, à la couche modèle et à la couche données. Ceux-ci garantissent que le produit et ses systèmes, composants, modèles, données et outils sont protégés contre la falsification ou le remplacement non autorisé tout au long du cycle de vie des produits LLM.
La WDTA a déclaré que cela implique la mise en œuvre de contrôles et d’une surveillance continue à chaque étape de la chaîne d’approvisionnement. Il corrige également les vulnérabilités courantes dans la sécurité des middlewares afin d'empêcher tout accès non autorisé et protège contre le risque d'empoisonnement des données de formation utilisées par les ingénieurs. Il applique en outre une architecture zéro confiance pour atténuer les menaces internes.
"En maintenant l'intégrité de chaque étape, de l'acquisition des données au déploiement des fournisseurs, les consommateurs utilisant les LLM peuvent garantir que les produits LLM restent sécurisés et dignes de confiance", a déclaré la WDTA.
Les exigences de sécurité de la chaîne d'approvisionnement LLM répondent également aux besoins de disponibilité, de confidentialité, de contrôle, de fiabilité et de visibilité. Ceux-ci veillent collectivement à garantir que les données transmises tout au long de la chaîne d'approvisionnement ne soient pas divulguées à des personnes non autorisées, établissant ainsi la transparence, afin que les consommateurs comprennent comment leurs données sont gérées.
Il offre également une visibilité sur la chaîne d'approvisionnement. Ainsi, par exemple, si un modèle est mis à jour avec de nouvelles données de formation, l'état du modèle d'IA - avant et après l'ajout des données de formation - est correctement documenté et traçable.
Lever l’ambiguïté autour des LLM
Le nouveau cadre a été rédigé et examiné par un groupe de travail composé de plusieurs entreprises et institutions technologiques, notamment Microsoft, Google, Meta, Cloud Security Alliance Greater China Region, Nanyang Technological University à Singapour, Tencent Cloud et Baidu. Selon la WDTA, il s'agit de la première norme internationale qui s'occupe de la sécurité de la chaîne d'approvisionnement LLM.
La coopération internationale sur les normes liées à l'IA est de plus en plus cruciale à mesure que l'IA continue de progresser et d'avoir un impact sur divers secteurs à travers le monde, a ajouté la WDTA.
"Parvenir à une IA digne de confiance est un effort mondial, exigeant la création d'outils et de processus de gouvernance efficaces qui transcendent les frontières nationales", a déclaré l'ONG. "La normalisation mondiale joue un rôle crucial dans ce contexte, offrant une voie clé pour promouvoir l'alignement sur les meilleures pratiques et l'interopérabilité des régimes de gouvernance de l'IA."
Le stratège technologique de Microsoft, Lars Ruddigkeit, a déclaré que le nouveau cadre ne vise pas à être parfait mais constitue la base d'une norme internationale.
"Nous voulons établir quel est le minimum à atteindre", a déclaré Ruddigkeit. « Il existe actuellement beaucoup d'ambiguïté et d'incertitude autour des LLM et d'autres technologies émergentes, ce qui rend difficile pour les institutions, les entreprises et les gouvernements de décider ce qui serait une norme significative. La norme de chaîne d'approvisionnement WDTA tente d'ouvrir cette première voie vers une norme sûre. l'avenir est sur la bonne voie."