Singapour identifie six risques liés à l'IA générative et établit une base pour guider son adoption
AI Verify Foundation développera des boîtes à outils de test qui atténuent les risques de l’IA.
Singapour a identifié six principaux risques associés à l'intelligence artificielle (IA) générative et a proposé un cadre sur la manière de résoudre ces problèmes. Il a également établi une fondation qui cherche à exploiter la communauté open source pour développer des boîtes à outils de test atténuant les risques liés à l’adoption de l’IA.
Les hallucinations, la désinformation accélérée, les défis en matière de droits d'auteur et les préjugés intégrés font partie des principaux risques de l'IA générative décrits dans un rapport publié par l'Infocomm Media Development Authority (IMDA) de Singapour. Le document de discussion détaille le cadre du pays pour une adoption « fiable et responsable » de la technologie émergente, y compris les normes de divulgation et l'interopérabilité mondiale. Le rapport a été élaboré conjointement avec Aicadium, une société de technologie d'IA fondée par la société d'investissement publique Temasek Holdings.
Le cadre offre un aperçu de la manière dont les décideurs politiques peuvent renforcer la gouvernance existante de l'IA pour répondre aux « caractéristiques uniques » et aux préoccupations immédiates de l'IA générative. Il discute également des investissements nécessaires pour garantir des résultats en matière de gouvernance à long terme, a déclaré l'IMDA.
En identifiant les hallucinations comme un risque clé, le rapport a noté que - comme tous les modèles d’IA - les modèles d’IA génératifs commettent des erreurs et celles-ci sont souvent vives et prennent une forme anthropomorphique.
"Les versions actuelles et passées de ChatGPT sont connues pour commettre des erreurs factuelles. De tels modèles ont également plus de mal à effectuer des tâches telles que la logique, les mathématiques et le bon sens", note le document de discussion.
"C'est parce que ChatGPT est un modèle de la façon dont les gens utilisent le langage. Même si le langage reflète souvent le monde, ces systèmes n'ont cependant pas encore une compréhension approfondie du fonctionnement du monde."
Ces fausses réponses peuvent également être trompeusement convaincantes ou authentiques, ajoute le rapport, soulignant comment les modèles de langage ont créé des réponses apparemment légitimes mais erronées à des questions médicales, tout en générant des codes logiciels sensibles aux vulnérabilités.
En outre, la diffusion de faux contenus est de plus en plus difficile à identifier en raison de textes, d’images et de vidéos convaincants mais trompeurs, qui peuvent potentiellement être générés à grande échelle grâce à l’IA générative.
Les attaques d'usurpation d'identité et de réputation sont devenues plus faciles, y compris les attaques d'ingénierie sociale qui utilisent des deepfakes pour accéder à des individus privilégiés.
L’IA générative permet également de causer d’autres types de dommages, dans lesquels des acteurs malveillants ayant peu ou pas de compétences techniques peuvent potentiellement générer du code malveillant.
Ces risques émergents pourraient nécessiter de nouvelles approches en matière de gouvernance de l’IA générative, selon le document de discussion.
La ministre des Communications et de l'Information de Singapour, Josephine Teo, a noté que les dirigeants mondiaux explorent encore des architectures et des approches alternatives en matière d'IA, et que de nombreuses personnes mettent en garde contre les dangers de l'IA.
L'IA fournit une « intelligence de type humain » à un niveau potentiellement élevé et à un coût considérablement réduit, ce qui est particulièrement précieux pour des pays comme Singapour où le capital humain est un différenciateur clé, a déclaré Teo, qui s'exprimait cette semaine lors du sommet Asia Tech x Singapour. .
Toutefois, une utilisation inappropriée de l’IA peut causer de graves dommages, a-t-elle souligné. « Des garde-fous sont donc nécessaires pour guider les gens dans une utilisation responsable et pour que les produits d'IA soient « sûrs pour nous tous » dès leur conception », a-t-elle déclaré.
"Nous espérons que [le document de discussion] suscitera de nombreuses conversations et sensibilisera aux garde-fous nécessaires", a-t-elle ajouté.
Lors d'un dialogue à huis clos lors du sommet, elle a révélé que de hauts responsables gouvernementaux avaient également débattu des récents progrès de l'IA, notamment des modèles d'IA générative, et réfléchissaient à la manière dont ceux-ci pourraient alimenter la croissance économique et avoir un impact sur les sociétés.
Les responsables sont parvenus à un consensus sur le fait que l'IA devait être « correctement » gouvernée et utilisée pour le bien de l'humanité, a déclaré Teo, qui a fourni un résumé en tant que président de la discussion. Les participants à la réunion, parmi lesquels des ministres, représentaient des pays tels que l'Allemagne, le Japon, la Thaïlande et les Pays-Bas.
Les délégués ont également convenu qu’une collaboration et un échange d’informations accrus sur les politiques de gouvernance de l’IA aideraient à identifier des terrains d’entente et conduiraient à un meilleur alignement entre les approches. Cette unité mènerait à des cadres de gouvernance et à des normes techniques durables et adaptés aux objectifs, a déclaré Teo.
Les responsables ont préconisé une plus grande interopérabilité entre les cadres de gouvernance, qu'ils estiment nécessaires pour faciliter le développement et l'adoption responsables des technologies d'IA à l'échelle mondiale.
Il a également été reconnu que l’éthique de l’IA devait être inculquée dès les premiers stades de l’éducation, tandis que les investissements dans la reconversion professionnelle devaient être prioritaires.
Galvaniser la communauté
Singapour a lancé une fondation à but non lucratif pour « exploiter le pouvoir collectif » et les contributions de la communauté open source mondiale pour développer des outils de test de l'IA. L’objectif ici est de faciliter l’adoption d’une IA responsable et de promouvoir les meilleures pratiques et normes en matière d’IA.
Appelée AI Verify Foundation, elle définira l'orientation stratégique et la feuille de route de développement d'AI Verify, qui a été introduite l'année dernière en tant que cadre et boîte à outils de test de gouvernance. La boîte à outils de test est devenue open source.
Le groupe actuel de 60 membres de l'AI Verify Foundation comprend IBM, Salesforce, DBS, Singapore Airlines, Zoom, Hitachi et Standard Chartered.
La fondation fonctionne comme une filiale en propriété exclusive de l'IMDA. Alors que les technologies de test de l'IA sont encore naissantes, l'agence gouvernementale de Singapour a déclaré que l'exploitation des communautés open source et de recherche contribuerait à développer davantage le segment de marché.
Teo a déclaré : « Nous pensons que l'IA est le prochain grand changement depuis l'Internet et le mobile. Au milieu de craintes et d'inquiétudes très réelles concernant son développement, nous devrons orienter activement l'IA vers des utilisations bénéfiques et loin des mauvaises. pense à l'IA.
Dans son discours lors du sommet, le vice-Premier ministre et ministre des Finances de Singapour, Lawrence Wong, a réitéré l'importance d'établir la confiance dans l'IA, afin que la technologie puisse être largement acceptée.
"Nous utilisons déjà l'apprentissage automatique pour optimiser la prise de décision et l'IA générative ira au-delà pour créer potentiellement de nouveaux contenus et générer de nouvelles idées", a déclaré Wong. "Pourtant, de sérieuses inquiétudes subsistent. Utilisée de manière inappropriée, [l'IA] peut perpétuer des préjugés dangereux dans la prise de décision. Et avec la dernière vague d'IA, les risques sont encore plus élevés à mesure que l'IA devient plus intime et plus humaine."
Ces défis posent des questions difficiles aux régulateurs, aux entreprises et à la société dans son ensemble, a-t-il déclaré. "À quel type de travail l'IA devrait-elle être autorisée à contribuer ? Quel degré de contrôle sur la prise de décision une IA devrait-elle avoir et quelles garanties éthiques devrions-nous mettre en place pour aider à guider son développement ?"
Wong a ajouté : "Aucune personne, aucune organisation, ni même aucun pays, n'aura toutes les réponses. Nous devrons tous nous réunir pour engager des discussions critiques afin de déterminer les garde-fous appropriés qui seront nécessaires pour construire des systèmes d'IA plus fiables."
Lors d'une table ronde, Alexandra van Huffelen, du ministère néerlandais de l'Intérieur et des Relations au sein du Royaume, a reconnu les avantages potentiels de l'IA, mais a exprimé ses inquiétudes quant à son impact potentiel, en particulier au milieu de signaux mitigés de l'industrie.
Le ministre de la Numérisation a noté que les acteurs du marché, tels qu'OpenAI, vantent les avantages de leurs produits, mais mettent en même temps en garde contre le potentiel de destruction de l'humanité par l'IA.
"C'est une histoire folle à raconter", a plaisanté van Huffelen, avant de demander à un autre panéliste de Microsoft ce qu'il ressentait étant donné que son entreprise est un investisseur dans OpenAI, l'idée originale derrière ChatGPT.
Les cofondateurs et le PDG d'OpenAI ont publié le mois dernier une note conjointe sur le site Web de l'entreprise, appelant à la réglementation des systèmes d'IA de « superintelligence ». Ils ont évoqué la nécessité d’une autorité mondiale, telle que l’Agence internationale de l’énergie atomique, pour superviser le développement de l’IA. Cette agence devrait "inspecter les systèmes, exiger des audits, tester le respect des normes de sécurité, imposer des restrictions sur les degrés de déploiement et les niveaux de sécurité", entre autres responsabilités, ont-ils proposé.
"Il serait important qu'une telle agence se concentre sur la réduction des risques existentiels et non sur des questions qui devraient être laissées aux pays individuels, comme la définition de ce qu'une IA devrait être autorisée à dire", ont-ils noté. "En termes d'avantages et d'inconvénients potentiels, la superintelligence sera plus puissante que les autres technologies auxquelles l'humanité a dû faire face dans le passé... Compte tenu de la possibilité d'un risque existentiel, nous ne pouvons pas nous contenter d'être réactifs. L'énergie nucléaire est une énergie couramment utilisée. exemple historique utilisé d'une technologie avec cette propriété.
En réponse, le président de Microsoft pour l'Asie, Ahmed Mazhari, a reconnu que la réticence de van Huffelen n'était pas injustifiée, notant que les mêmes partisans qui ont signé une pétition en mars pour suspendre les développements de l'IA avaient investi le mois suivant dans leur propre chatbot IA.
Soulignant les dommages sociaux résultant d’un manque de surveillance des plateformes de médias sociaux, Mazhari a déclaré que l’industrie technologique a la responsabilité d’empêcher une répétition de cet échec avec l’IA.
Il a noté que les discussions en cours et la prise de conscience accrue de la nécessité d'une réglementation de l'IA, en particulier dans les domaines de l'IA générative, constituaient un signe positif pour une technologie arrivée sur le marché il y a à peine six mois.
En outre, van Huffelen a souligné la nécessité pour les entreprises technologiques d'agir de manière responsable, ainsi que la nécessité d'établir des règles et de les faire appliquer pour garantir que les organisations respectent ces réglementations. Elle a ajouté qu'il restait "à tester" si cette double approche pouvait être réalisée en tandem.
Elle a également souligné l’importance d’établir la confiance afin que les gens veuillent utiliser la technologie et de garantir que les utilisateurs contrôlent ce qu’ils font en ligne, comme ils le feraient dans le monde physique.
Keith Strier, vice-président des initiatives mondiales d'IA chez Nvidia, a souligné la complexité de la gouvernance en raison de la grande accessibilité des outils d'IA. Cette disponibilité générale signifie qu'il existe davantage de possibilités de créer des produits dangereux.
Strier a suggéré que la réglementation devrait faire partie de la solution, mais pas la seule réponse, car les normes industrielles, les normes sociales et l’éducation sont tout aussi cruciales pour garantir l’adoption en toute sécurité de l’IA.