Les directives de sécurité fournissent le premier niveau nécessaire de protection des données dans la ruée vers l’or de l’IA
Les cadres et principes aideront à atténuer les risques potentiels à mesure que les entreprises testent l’intelligence artificielle générative.
Les cadres de sécurité fourniront une première couche nécessaire de protection des données, d’autant plus que les conversations autour de l’intelligence artificielle (IA) deviennent de plus en plus complexes.
Ces cadres et principes aideront à atténuer les risques potentiels tout en exploitant les opportunités des technologies émergentes, y compris l'IA générative (Gen AI), a déclaré Denise Wong, commissaire adjointe de la Commission de protection des données personnelles (PDPC), qui supervise la loi sur la protection des données personnelles (PDPA) de Singapour. . Elle est également directrice générale adjointe du régulateur de l'industrie, Infocomm Media Development Authority (IMDA).
Les conversations autour des déploiements technologiques sont devenues plus complexes avec l'IA générative, a déclaré Wong, lors d'une table ronde lors de la conférence Personal Data Protection Week 2024 qui s'est tenue à Singapour cette semaine. Les organisations doivent comprendre, entre autres, ce que la technologie implique, ce qu'elle signifie pour leur activité et les garde-fous nécessaires.
Fournir des cadres de base peut aider à minimiser l’impact, a-t-elle déclaré. Les kits d'outils peuvent fournir un point de départ à partir duquel les entreprises peuvent expérimenter et tester des applications d'IA générative, y compris des kits d'outils open source gratuits et disponibles sur GitHub. Elle a ajouté que le gouvernement de Singapour continuera à travailler avec des partenaires industriels pour fournir de tels outils.
Ces collaborations soutiendront également l'expérimentation de l'IA générative, afin que le pays puisse comprendre ce qu'implique la sécurité de l'IA, a déclaré Wong. Les efforts ici incluent le test et la création d’équipes rouges de grands modèles linguistiques (LLM) pour le contexte local et régional, tel que la langue et la culture.
Elle a déclaré que les informations issues de ces partenariats seront utiles aux organisations et aux régulateurs, tels que le PDPC et l'IMDA, pour comprendre le fonctionnement des différents LLM et l'efficacité des mesures de sécurité.
Singapour a signé des accords avec IBM et Google pour tester, évaluer et affiner le LLM d'AI Singapour en Asie du Sud-Est, appelé SEA-LION, au cours de l'année écoulée. Les initiatives visent à aider les développeurs à créer des applications d'IA personnalisées sur SEA-LION et à améliorer la connaissance du contexte culturel des LLM créés pour la région.
Avec l'augmentation du nombre de LLM dans le monde, y compris les principaux issus des modèles OpenAI et open source, les organisations peuvent avoir du mal à comprendre les différentes plates-formes. Chaque LLM est accompagné de paradigmes et de moyens d'accéder au modèle d'IA, a déclaré Jason Tamara Widjaja, directeur exécutif de l'IA au Singapore Tech Center de la société pharmaceutique MSD, qui s'exprimait dans le même panel.
Il a déclaré que les entreprises doivent comprendre comment fonctionnent ces modèles d’IA pré-entraînés pour identifier les risques potentiels liés aux données. Les choses se compliquent lorsque les organisations ajoutent leurs données aux LLM et travaillent à affiner les modèles de formation. L'exploitation de technologies telles que la génération augmentée de récupération (RAG) souligne encore la nécessité pour les entreprises de garantir que les bonnes données sont introduites dans le modèle et que les contrôles d'accès aux données basés sur les rôles sont maintenus, a-t-il ajouté.
Dans le même temps, il a déclaré que les entreprises doivent également évaluer les mesures de filtrage de contenu sur lesquelles les modèles d'IA peuvent fonctionner, car celles-ci peuvent avoir un impact sur les résultats générés. Par exemple, les données relatives aux soins de santé des femmes peuvent être bloquées, même si ces informations fournissent des connaissances de base essentielles à la recherche médicale.
Widjaja a déclaré que la gestion de ces problèmes implique un équilibre délicat et constitue un défi. Une étude de F5 a révélé que 72 % des organisations déployant l'IA ont cité les problèmes de qualité des données et l'incapacité à étendre les pratiques en matière de données comme des défis majeurs pour faire évoluer leurs mises en œuvre de l'IA.
Selon le rapport, qui a analysé les données de plus de 700 décideurs informatiques dans le monde, quelque 77 % des organisations ont déclaré ne disposer d'aucune source unique de vérité pour leurs ensembles de données. Seulement 24 % déclarent avoir déployé l’IA à grande échelle, et 53 % supplémentaires soulignent le manque de compétences en matière d’IA et de données comme un obstacle majeur.
Singapour cherche à contribuer à atténuer certains de ces défis grâce à de nouvelles initiatives en matière de gouvernance de l’IA et de génération de données.
"Les entreprises continueront à avoir besoin de données pour déployer des applications en plus des LLM existants", a déclaré la ministre du Développement numérique et de l'Information, Joséphine Teo, lors de son discours d'ouverture de la conférence. "Les modèles doivent être affinés pour être plus performants et produire des résultats de meilleure qualité pour des applications spécifiques. Cela nécessite des ensembles de données de qualité."
Et même si des techniques telles que RAG peuvent être utilisées, ces approches ne fonctionnent qu'avec des sources de données supplémentaires qui n'ont pas été utilisées pour entraîner le modèle de base, a déclaré Teo. De bons ensembles de données sont également nécessaires pour évaluer et comparer les performances des modèles, a-t-elle ajouté.
"Cependant, des ensembles de données de qualité peuvent ne pas être facilement disponibles ou accessibles pour tout développement d'IA. Même s'ils l'étaient, il existe des risques [dans lesquels] les ensembles de données peuvent ne pas être représentatifs, [où] les modèles construits sur eux peuvent produire des résultats biaisés", a-t-elle déclaré. dit. En outre, Teo a déclaré que les ensembles de données peuvent contenir des informations personnellement identifiables, ce qui pourrait conduire les modèles d'IA génératifs à régurgiter ces informations lorsque vous y êtes invité.
Mettre un label de sécurité sur l'IA
Teo a déclaré que Singapour publierait des directives de sécurité pour les modèles d'IA génératives et les développeurs d'applications afin de résoudre ces problèmes. Ces lignes directrices seront placées dans le cadre du pays AI Verify, qui vise à offrir des normes de base communes grâce à la transparence et aux tests.
"Nos lignes directrices recommanderont aux développeurs et aux déployeurs d'être transparents avec les utilisateurs en fournissant des informations sur le fonctionnement des modèles et des applications Gen AI, telles que les données utilisées, les résultats des tests et de l'évaluation, ainsi que les risques et limitations résiduels que le modèle ou l'application peut-être", a-t-elle expliqué
Les lignes directrices définiront davantage les attributs de sécurité et de confiance qui doivent être testés avant le déploiement de modèles ou d'applications d'IA, et aborderont des problèmes tels que les hallucinations, les déclarations toxiques et le contenu biaisé, a-t-elle déclaré. "C'est comme lorsque nous achetons des appareils électroménagers. Il y aura une étiquette indiquant qu'ils ont été testés, mais que doit-il tester pour que le développeur du produit obtienne cette étiquette ?"
PDPC a également publié une proposition de guide sur la génération de données synthétiques, incluant la prise en charge des technologies améliorant la confidentialité, ou PET, pour répondre aux préoccupations concernant l'utilisation de données sensibles et personnelles dans l'IA générative.
Notant que la génération de données synthétiques est en train de devenir un PET, Teo a déclaré que le guide proposé devrait aider les entreprises à « donner un sens aux données synthétiques », y compris la manière dont elles peuvent être utilisées.
"En supprimant ou en protégeant les informations personnelles identifiables, les PET peuvent aider les entreprises à optimiser l'utilisation des données sans compromettre les données personnelles", a-t-elle noté.
"Les PET résolvent bon nombre des limites liées au travail avec des données personnelles sensibles et ouvrent de nouvelles possibilités en rendant l'accès aux données, le partage et l'analyse collective plus sécurisés."