La Chine et les États-Unis participent à un accord multilatéral pour collaborer sur les risques liés à l'IA
Publiée par le Royaume-Uni, la Déclaration de Bletchley rassemble 28 pays dans un accord visant à identifier et gérer collectivement les risques potentiels liés à l'intelligence artificielle « frontière ».
Un groupe de 28 pays, dont la Chine et les États-Unis, ont convenu de travailler ensemble pour identifier et gérer les risques potentiels liés à l'intelligence artificielle (IA) « frontière », marquant le premier accord multilatéral de ce type.
Publiée par le Royaume-Uni, la Déclaration de Bletchley sur la sécurité de l'IA souligne la reconnaissance par les pays du « besoin urgent » de garantir que l'IA soit développée et déployée de « manière sûre et responsable » pour le bénéfice de la communauté mondiale. Cet effort nécessite une coopération internationale plus large, selon la Déclaration, qui a été approuvée par des pays d'Asie, de l'UE et du Moyen-Orient, notamment Singapour, le Japon, l'Inde, la France, l'Australie, l'Allemagne, la Corée du Sud, les Émirats arabes unis et le Nigeria. .
Les pays reconnaissent que des risques importants peuvent résulter d’une utilisation abusive intentionnelle ou de problèmes involontaires de contrôle de l’IA à la frontière, en particulier les risques liés à la cybersécurité, à la biotechnologie et à la désinformation. La Déclaration souligne les dommages potentiellement graves et catastrophiques causés par les modèles d’IA, ainsi que les risques associés aux préjugés et à la vie privée.
Parallèlement à leur reconnaissance du fait que les risques et les capacités ne sont pas encore pleinement compris, les pays ont convenu de collaborer et de construire une « compréhension scientifique et fondée sur des preuves » commune des risques liés à l'IA aux frontières.
La Déclaration décrit l'IA de pointe comme des systèmes qui englobent des « modèles d'IA à usage général très performants », y compris des modèles de base, qui peuvent effectuer un large éventail de tâches, ainsi qu'une IA spécifique et étroite.
"Nous sommes résolus à travailler ensemble de manière inclusive pour garantir une IA centrée sur l'humain, fiable et responsable, sûre et qui soutient le bien de tous par le biais des forums internationaux existants et d'autres initiatives pertinentes", indique la Déclaration.
"Ce faisant, nous reconnaissons que les pays devraient considérer l'importance d'une approche de gouvernance et de réglementation favorable à l'innovation et proportionnée qui maximise les avantages et prend en compte les risques associés à l'IA."
Cette approche pourrait inclure l'établissement de classifications et de catégorisations des risques en fonction des circonstances locales d'un pays et des cadres juridiques applicables. Il pourrait également être nécessaire de coopérer sur de nouvelles approches, telles que des principes communs et des codes de conduite.
Les efforts du groupe se concentreront sur l'élaboration de politiques fondées sur les risques dans tous les pays, sur la collaboration le cas échéant et sur la reconnaissance des approches susceptibles de différer au niveau national. Outre la nécessité d’une transparence accrue de la part des acteurs privés qui développent des capacités d’IA de pointe, ces nouveaux efforts comprennent le développement de mesures et d’outils d’évaluation pertinents pour les tests de sécurité, ainsi que les capacités du secteur public et la recherche scientifique.
Le Premier ministre britannique Rishi Sunak a déclaré : « Il s'agit d'une réalisation historique qui voit les plus grandes puissances mondiales en matière d'IA s'accorder sur l'urgence de comprendre les risques de l'IA. »
La secrétaire britannique à la Technologie, Michelle Donelan, a ajouté : « Nous avons toujours dit qu'aucun pays ne pouvait à lui seul faire face aux défis et aux risques posés par l'IA, et la déclaration historique d'aujourd'hui marque le début d'un nouvel effort mondial visant à renforcer la confiance du public en garantissant le développement sûr de la technologie. ".
Un projet dirigé par Singapour, connu sous le nom de Sandbox, a également été annoncé cette semaine, dans le but de fournir un ensemble standard de références pour évaluer les produits d'IA générative. L'initiative regroupe les ressources d'acteurs mondiaux majeurs, notamment Anthropic et Google, et est guidée par un projet de catalogue qui catégorise les références actuelles et les méthodes utilisées pour évaluer les grands modèles linguistiques.
Le catalogue compile les outils de tests techniques couramment utilisés, les organisant en fonction de ce qu'ils testent et de leurs méthodes, et recommande un ensemble de tests de base pour évaluer les produits d'IA générative. L’objectif est d’établir un langage commun et de soutenir « une adoption plus large, sûre et digne de confiance de l’IA générative ».
Les Nations Unies (ONU) ont mis en place le mois dernier une équipe consultative chargée d'examiner la manière dont l'IA devrait être gouvernée afin d'atténuer les risques potentiels, avec l'engagement d'adopter une approche « globalement inclusive ». L'organisme comprend actuellement 39 membres et comprend des représentants d'agences gouvernementales, d'organisations privées et du monde universitaire, tels que le directeur de l'IA du gouvernement de Singapour, le secrétaire d'État espagnol à la numérisation et à l'IA et le directeur technique d'OpenAI.