Les gouvernements peuvent-ils transformer les discours sur la sécurité de l’IA en actions ?
Les acteurs de l’industrie et les gouvernements discutent des garde-fous pour l’IA, mais ne les déploient pas. Voici ce qui manque.
Lors du sommet Asia Tech x Singapour 2024 , plusieurs intervenants étaient prêts à participer à des discussions de haut niveau et à sensibiliser davantage à l'importance de la sécurité de l'intelligence artificielle (IA) pour se transformer en action. Beaucoup cherchent à préparer tout le monde, des organisations aux individus, aux outils nécessaires pour déployer correctement cette technologie.
"Une action pragmatique et pratique. C'est ce qui manque", a déclaré Ieva Martinkenaite, responsable de la recherche et de l'innovation du groupe Telenor, qui s'est entretenue avec ZDNET en marge du sommet. Martinkenaite est membre du conseil d'administration du Norwegian Open AI Lab et membre du Conseil consultatif de Singapour sur l'utilisation éthique de l'IA et des données. Elle a également été membre expert du groupe d'experts de haut niveau sur l'IA de la Commission européenne de 2018 à 2020.
Martinkenaite a noté que les hauts responsables commencent également à prendre conscience de ce problème.
Les délégués à la conférence, qui comprenaient de hauts ministres de divers pays, ont plaisanté en disant qu'ils brûlaient simplement du carburéacteur en participant à des réunions de haut niveau sur la sécurité de l'IA, le plus récemment en Corée du Sud et au Royaume-Uni, étant donné qu'ils n'ont pas encore grand-chose à montrer. en termes de mesures concrètes.
Martinkenaite a déclaré qu'il était temps pour les gouvernements et les organismes internationaux de commencer à déployer des playbooks, des cadres et des outils d'analyse comparative pour aider les entreprises et les utilisateurs à garantir qu'ils déploient et consomment l'IA en toute sécurité. Elle a ajouté que des investissements continus sont également nécessaires pour faciliter ces efforts.
Les deepfakes générés par l’IA, en particulier, comportent des risques importants et peuvent avoir un impact sur les infrastructures critiques, a-t-elle averti. Elles sont déjà une réalité aujourd’hui : des images et des vidéos d’hommes politiques, de personnalités publiques et même de Taylor Swift ont fait surface.
Martinkenaite a ajouté que la technologie est désormais plus sophistiquée qu’elle ne l’était il y a un an, ce qui rend de plus en plus difficile l’identification des deepfakes. Les cybercriminels peuvent exploiter cette technologie pour voler des informations d’identification et accéder illégalement aux systèmes et aux données.
"Les pirates ne piratent pas, ils se connectent", a-t-elle déclaré. Il s’agit d’un problème crucial dans certains secteurs, comme les télécommunications, où les deepfakes peuvent être utilisés pour pénétrer des infrastructures critiques et amplifier les cyberattaques. Martinkenaite a souligné que les identifiants des employés peuvent être falsifiés et utilisés pour accéder aux centres de données et aux systèmes informatiques, ajoutant que si cette inertie n'est pas corrigée, le monde risque de subir une attaque potentiellement dévastatrice.
Les utilisateurs doivent être équipés de la formation et des outils nécessaires pour identifier et combattre ces risques, a-t-elle déclaré. La technologie permettant de détecter et d’empêcher de tels contenus générés par l’IA, y compris les textes et les images, doit également être développée, comme le filigrane numérique et l’investigation des médias. Martinkenaite pense que ces mesures devraient être mises en œuvre parallèlement à la législation et à la collaboration internationale.
Cependant, elle a souligné que les cadres législatifs ne devraient pas réglementer la technologie, sinon l’innovation en matière d’IA pourrait être étouffée et avoir un impact sur les progrès potentiels dans le domaine des soins de santé, par exemple.
Au lieu de cela, les réglementations devraient cibler les domaines où la technologie deepfake a le plus grand impact, comme les infrastructures critiques et les services gouvernementaux. Des exigences telles que le filigrane, l'authentification des sources et la mise en place de garde-fous autour de l'accès et du traçage des données peuvent ensuite être mises en œuvre pour les secteurs à haut risque et les fournisseurs de technologies concernés, a déclaré Martinekaite.
Selon Natasha Crampton, responsable de l'IA chez Microsoft, la société a constaté une augmentation des deepfakes, des images non consensuelles et de la cyberintimidation. Lors d'une table ronde lors du sommet, elle a déclaré que Microsoft se concentrait sur le suivi des contenus trompeurs en ligne autour des élections, en particulier avec plusieurs élections qui auront lieu cette année.
Stefan Schnorr, secrétaire d'État au ministère fédéral allemand du Numérique et des Transports, a déclaré que les deepfakes peuvent potentiellement diffuser de fausses informations et induire les électeurs en erreur, entraînant une perte de confiance dans les institutions démocratiques.
Se protéger contre cela implique également un engagement à protéger les données personnelles et la vie privée, a ajouté Schnorr. Il a souligné la nécessité pour la coopération internationale et les entreprises technologiques d'adhérer aux cyber-lois mises en place pour garantir la sécurité de l'IA, telles que la loi de l'UE sur l'IA.
S'ils sont autorisés à se perpétuer sans entraves, les deepfakes pourraient affecter la prise de décision, a déclaré Zeng Yi, directeur du Brain-inspired Cognitive Intelligence Lab et du Centre international de recherche sur l'éthique et la gouvernance de l'IA, Institut d'automatisation de l'Académie chinoise des sciences.
Soulignant également la nécessité d'une coopération internationale, Zeng a suggéré qu'un « observatoire » des deepfakes soit créé à l'échelle mondiale pour favoriser une meilleure compréhension et échanger des informations sur la désinformation dans le but d'empêcher que de tels contenus ne se propagent à travers les pays.
Une infrastructure mondiale qui vérifie les faits et la désinformation peut également aider à informer le grand public sur les deepfakes, a-t-il déclaré.
Singapour met à jour son cadre de gouvernance de la génération IA
Pendant ce temps, Singapour a publié la version finale de son cadre de gouvernance pour l'IA générative, qui développe son cadre de gouvernance de l'IA existant, introduit pour la première fois en 2019 et mis à jour pour la dernière fois en 2020.
Le modèle de gouvernance de l'IA pour GenAI définit une approche « systématique et équilibrée » qui, selon Singapour, équilibre la nécessité de répondre aux préoccupations de GenAI et de stimuler l'innovation. Il englobe neuf dimensions, notamment le signalement des incidents, la provenance du contenu, la sécurité, ainsi que les tests et l'assurance, et fournit des suggestions sur les premières étapes à suivre.
À un stade ultérieur, AI Verify, le groupe à l'origine du cadre, ajoutera des directives et des ressources plus détaillées pour les neuf dimensions. Pour soutenir l’interopérabilité, ils adapteront également le cadre de gouvernance aux directives internationales en matière d’IA, telles que les principes du G7 d’Hiroshima.
La bonne gouvernance est aussi importante que l'innovation pour concrétiser la vision de Singapour de l'IA pour le bien, et peut contribuer à permettre une innovation durable, a déclaré Josephine Teo, ministre des communications et de l'information de Singapour et ministre en charge de la nation intelligente et de la cybersécurité, lors de son discours à la sommet.
"Nous devons reconnaître que c'est une chose de lutter contre les effets néfastes de l'IA, mais une autre de les empêcher de se produire en premier lieu... grâce à une conception appropriée et à des mesures en amont", a déclaré Teo. Elle a ajouté que les mesures d'atténuation des risques sont essentielles et que de nouvelles réglementations « fondées sur des preuves » peuvent aboutir à une gouvernance de l'IA plus significative et plus efficace.
Parallèlement à la mise en place d'une gouvernance de l'IA, Singapour cherche également à développer ses capacités de gouvernance, par exemple en créant un centre de technologie avancée en matière de sécurité en ligne, axé sur le contenu en ligne malveillant généré par l'IA.
Les utilisateurs doivent également comprendre les risques. Teo a souligné qu'il est dans l'intérêt public que les organisations qui utilisent l'IA comprennent ses avantages ainsi que ses limites.
Teo estime que les entreprises devraient alors se doter de l’état d’esprit, des capacités et des outils appropriés pour y parvenir. Elle a ajouté que le modèle de cadre de gouvernance de l'IA de Singapour propose des lignes directrices pratiques sur ce qui doit être mis en œuvre comme garanties. Il définit également les exigences de base en matière de déploiements d'IA, quelles que soient la taille ou les ressources de l'entreprise.
Selon Martinkenaite, pour Telenor, la gouvernance de l’IA signifie également surveiller son utilisation des nouveaux outils d’IA et réévaluer les risques potentiels. L'entreprise de télécommunications norvégienne teste actuellement Microsoft Copilot, basé sur la technologie OpenAI, par rapport aux principes éthiques de Telenor en matière d'IA.
Lorsqu'on lui a demandé si la récente bataille d'OpenAI concernant son mode vocal avait eu un impact sur sa confiance dans l'utilisation de la technologie, Martinkenaite a déclaré que les grandes entreprises qui gèrent des infrastructures critiques telles que Telenor ont la capacité et les contrôles en place pour garantir qu'elles déploient des outils d'IA fiables, y compris des plateformes tierces telles que comme OpenAI. Cela implique également de travailler avec des partenaires tels que des fournisseurs de cloud et des fournisseurs de solutions plus petits pour comprendre et en apprendre davantage sur les outils qu'ils utilisent.
Telenor a créé l’année dernière un groupe de travail pour superviser son adoption d’une IA responsable. Martinkenaite a expliqué que cela implique d'établir des principes que ses employés doivent respecter, de créer des règles et des outils pour guider son utilisation de l'IA, et de définir des normes que ses partenaires, y compris Microsoft, devraient respecter.
Celles-ci visent à garantir que la technologie utilisée par l’entreprise est légale et sécurisée, a-t-elle ajouté. Telenor dispose également d'une équipe interne qui examine ses structures de gestion des risques et de gouvernance pour prendre en compte son utilisation de GenAI. Il évaluera les outils et les remèdes nécessaires pour garantir qu'il dispose de la bonne structure de gouvernance pour gérer son utilisation de l'IA dans les zones à haut risque, a noté Martinkenaite.
Alors que les organisations utilisent leurs propres données pour former et affiner de grands modèles de langage et des modèles d'IA plus petits, Martinkenaite pense que les entreprises et les développeurs d'IA discuteront de plus en plus de la manière dont ces données sont utilisées et gérées.
Elle pense également que la nécessité de se conformer aux nouvelles lois, telles que la loi européenne sur l’IA, alimentera davantage ces discussions, alors que les entreprises s’efforcent de garantir qu’elles répondent aux exigences supplémentaires liées aux déploiements d’IA à haut risque. Par exemple, ils auront besoin de savoir comment leurs données de formation en IA sont conservées et tracées.
Les organisations suscitent beaucoup plus d’attention et d’inquiétudes, qui voudront examiner de près leurs accords contractuels avec les développeurs d’IA.