Comment le plan de transformation de l'industrie d'IBM tire parti de l'IA, de la 5G et de la collaboration

La législation européenne sur l’IA pourrait s’avérer être l’un des cadres juridiques les plus influents au monde. Voici comment et pourquoi la Fondation Mozilla s’y engage, et comment vous pouvez également vous impliquer

Un an après l’introduction du premier projet, les détails de la législation européenne sur l’IA restaient rares. Malgré le fait que ce cadre réglementaire n’est pas encore finalisé -- ou plutôt, précisément pour cette raison -- le moment est venu d’en apprendre davantage à ce sujet.

Précédemment, nous avons couvert certains faits clés sur la loi européenne sur l'IA : à qui elle s'applique, quand elle sera promulguée et de quoi il s'agit. Nous nous sommes lancés dans cette exploration aux côtés du directeur exécutif de la Fondation Mozilla, Mark Surman, et de Maximilian Gahntz, chercheur senior en politiques.

Comme l'a partagé Surman, l'intérêt de Mozilla pour l'IA est apparu à peu près au même moment où la loi sur l'IA de l'UE a commencé son cycle de vie, vers 2019. Mozilla a travaillé avec des personnes du monde entier pour élaborer une théorie sur la façon de rendre l’IA plus fiable, en se concentrant sur deux résultats à long terme : l’action et la responsabilité.

Aujourd’hui, nous reprenons la conversation avec Surman et Gahntz. Nous discutons des recommandations de Mozilla pour améliorer la législation européenne sur l'IA et de la manière dont les gens peuvent s'impliquer, ainsi que de la théorie du changement de l'IA de Mozilla.

La loi européenne sur l’IA est en cours d’élaboration

La loi européenne sur l'IA arrive, car elle devrait entrer en vigueur vers 2025, et son impact sur l'IA pourrait être similaire à l'impact du RGPD sur la confidentialité des données.

La législation de l’UE sur l’IA s’applique aux utilisateurs et aux fournisseurs de systèmes d’IA situés dans l’UE, aux fournisseurs établis en dehors de l’UE qui sont à l’origine de la mise sur le marché ou de la mise en service d’un système d’IA dans l’UE, et aux fournisseurs et utilisateurs de systèmes d’IA établis en dehors de l’UE lorsque les résultats générés par le système sont utilisés dans l’UE.

Son approche repose sur une catégorisation à 4 niveaux des systèmes d’IA en fonction du risque perçu qu’ils représentent : les systèmes à risque inacceptable sont totalement interdits (bien que quelques exceptions s’appliquent), les systèmes à haut risque sont soumis à des règles de traçabilité, de transparence et de robustesse, les systèmes à faible risque nécessitent de la transparence de la part du fournisseur et les systèmes à risque minimal pour lesquels aucune exigence n’est fixée.

À ce stade, le Parlement européen est en train d’élaborer sa position, en tenant compte des contributions qu’il reçoit des comités désignés ainsi que de tiers. Une fois que le Parlement européen aura consolidé ce qu’ils entendent par le terme d’IA digne de confiance, il soumettra ses idées sur la manière de modifier le projet initial. Une dernière série de négociations entre le Parlement, la Commission et les États membres suivra, et c'est à ce moment-là que la loi européenne sur l'IA sera adoptée.

Pour influencer l’orientation de la législation européenne sur l’IA, il est temps d’agir. Comme indiqué dans le document de 2020 de Mozilla Creating Trustworthy AI, l'IA a un immense potentiel pour améliorer notre qualité de vie. Mais l’intégration de l’IA dans les plateformes et les produits que nous utilisons tous les jours peut également compromettre notre sécurité et notre vie privée. [...] À moins que des mesures critiques ne soient prises pour rendre ces systèmes plus fiables, l’IA risque d’aggraver les inégalités existantes.

Mozilla estime qu’une réglementation efficace et tournée vers l’avenir est nécessaire si nous voulons que l’IA soit plus digne de confiance. C'est pourquoi elle a salué les ambitions de la Commission européenne dans son Livre blanc sur l'intelligence artificielle il y a deux ans. La position de Mozilla est que la loi européenne sur l'IA est un pas dans la bonne direction, mais qu'elle laisse également place à des améliorations.

Les améliorations suggérées par Mozilla ont été présentées dans un article de blog. Ils s’articulent autour de trois points : 

1. Assurer la reddition de comptes
2. Créer une transparence systémique
3. Donner aux individus et aux communautés une voix plus forte.

Les 3 points focaux

La responsabilisation consiste vraiment à déterminer qui devrait être responsable de quoi le long de la chaîne d’approvisionnement de l’IA, comme l’a expliqué M. Gahntz. Les risques doivent être abordés là où ils se présentent ; Que ce soit à l'étape de la conception technique ou au stade du déploiement, a-t-il ajouté.

La législation européenne sur l’IA imposerait la plupart des obligations à ceux qui développent et commercialisent des systèmes d’IA à haut risque dans leur forme actuelle. Bien qu’il y ait de bonnes raisons à cela, Gahntz estime que les risques associés à un système d’IA dépendent également de son objectif exact et du contexte dans lequel il est utilisé. Qui déploie le système et quel est le cadre organisationnel du déploiement qui pourrait être affecté par l’utilisation du système sont toutes des questions pertinentes.

Pour contextualiser cela, considérons le cas d'un grand modèle de langage comme GPT-3. Il pourrait être utilisé pour résumer une nouvelle (risque faible) ou pour évaluer les dissertations des étudiants (risque élevé). Les conséquences potentielles varient considérablement et les déployeurs devraient être tenus responsables de la manière dont ils utilisent les systèmes d’IA, mais sans introduire d’obligations qu’ils ne peuvent pas respecter efficacement, affirme Mozilla.

La transparence systémique va au-delà de la transparence orientée utilisateur. Bien qu'il soit bon pour les utilisateurs de savoir quand ils interagissent avec un système d'IA, ce dont nous avons également besoin à un niveau supérieur, c'est que les journalistes, les chercheurs et les régulateurs soient en mesure d'examiner les systèmes et la façon dont ceux-ci affectent les personnes et les communautés sur le terrain, a déclaré Gahntz.

Le projet de législation européenne sur l’IA comprend un mécanisme potentiellement puissant pour garantir la transparence systémique : une base de données publique pour les systèmes d’IA à haut risque, créée et gérée par la Commission, dans laquelle les développeurs enregistrent et fournissent des informations sur ces systèmes avant qu’ils ne puissent être déployés.

La recommandation de Mozilla ici est triple. Tout d’abord, ce mécanisme est étendu pour s’appliquer à tous les déployeurs de systèmes d’IA à haut risque. Deuxièmement, il fournit également des informations supplémentaires, telles que des descriptions de la conception, de la logique générale et des performances d'un système d'IA. Troisièmement, il comprend des informations sur les incidents graves et les dysfonctionnements, que les développeurs devraient déjà signaler aux régulateurs nationaux en vertu de la loi sur l’IA.

L'engagement de Mozilla avec la loi européenne sur l'IA est conforme à sa théorie du changement de l'IA, qui comprend l'évolution des normes de l'industrie, la création de nouvelles technologies et de nouveaux produits, la génération de demande et la création de réglementations et d'incitations

Donner aux individus et aux communautés une voix plus forte est quelque chose qui manque dans le projet original de la loi européenne sur l'IA, a déclaré Gahntz. Dans l’état actuel des choses, seuls les régulateurs de l’UE seraient autorisés à tenir les entreprises responsables des impacts des produits et services basés sur l’IA.

Cependant, Mozilla estime qu’il est également essentiel que les individus soient en mesure de demander des comptes aux entreprises. De plus, d’autres organisations, comme les organisations de protection des consommateurs ou les syndicats, doivent avoir la capacité de déposer des plaintes au nom des particuliers ou de l’intérêt public.

Par conséquent, Mozilla soutient une proposition visant à ajouter un mécanisme de plainte ascendant permettant aux individus et aux groupes d’individus concernés de déposer des plaintes formelles auprès des autorités de surveillance nationales en tant que point de contact unique dans chaque État membre de l’UE.

Mozilla note également qu’il existe plusieurs autres façons de renforcer la loi sur l’IA avant d’être adoptée. Par exemple, assurer la pérennité du mécanisme de désignation de ce qui constitue une IA à haut risque et veiller à ce qu’un large éventail de perspectives soit pris en compte dans la mise en œuvre des exigences auxquelles les systèmes d’IA à haut risque devront répondre.

S’impliquer dans la théorie du changement de l’IA

Vous êtes peut-être d'accord avec les recommandations de Mozilla et souhaitez apporter votre soutien. Vous voudrez peut-être les compléter, ou vous voudrez peut-être proposer votre propre ensemble de recommandations. Cependant, comme l'ont noté les gens de Mozilla, le processus d'implication est un peu comme mener votre propre campagne - il n'y a rien de tel que « c'est le formulaire que vous devez remplir ».

« La façon de s’impliquer est vraiment le processus démocratique normal. Il y a des élus qui se penchent sur ces questions, il y a aussi des gens à l’intérieur de la fonction publique qui posent ces questions, et puis il y a une industrie dans le public qui débat de ces questions.

Je pense qu'il y a un mécanisme particulier ; Il est certain que des gens comme nous vont donner des recommandations spécifiques. Et en pesant avec nous, vous contribuez à les amplifier. 

Mais je pense que la conversation démocratique ouverte -- être en public, se faire des alliés et se connecter avec des gens dont les idées sont d’accord, lutter et faire surface sur des sujets difficiles. C'est ce qui va faire la différence, et c'est certainement là où nous nous concentrons », a déclaré Surman.

À ce stade, il s'agit vraiment d'influencer l'opinion publique et l'opinion des personnes en position de prendre des décisions, selon Gahntz. Cela signifie des parlementaires, des responsables des États membres de l’UE et des fonctionnaires de la Commission européenne, a-t-il ajouté.

À un niveau plus populaire, ce que les gens peuvent faire est le même que d’habitude, a estimé Gahntz. Vous pouvez écrire à votre député local ; vous pouvez être actif sur les réseaux sociaux et essayer d’amplifier les voix avec lesquelles vous êtes d’accord ; Vous pouvez signer des pétitions, et ainsi de suite. Mozilla est impliqué depuis longtemps dans l’élaboration des politiques publiques.

« Les questions de l’agence et de la responsabilité sont au cœur de nos préoccupations, et nous pensons que la loi européenne sur l’IA est une très bonne toile de fond où elle peut avoir des effets d’entraînement mondiaux pour faire avancer les choses dans la bonne direction sur ces sujets », a déclaré M. Surman.

La théorie du changement de l'IA de Mozilla, développée en 2019 en passant 12 mois à discuter avec des experts, à lire et à piloter des campagnes et des projets sur le thème de l'IA, sont des résultats souhaités à long terme. Cette exploration a affiné la réflexion de Mozilla sur l'IA digne de confiance en renforçant plusieurs domaines de défis, notamment les monopoles et la centralisation, la gouvernance des données et la confidentialité, les préjugés et la discrimination, ainsi que la transparence et la responsabilité.

La théorie du changement de l'IA de Mozilla identifie un certain nombre de résultats à court terme (1 à 3 ans), regroupés en 4 résultats à moyen terme (3 à 5 ans) : l'évolution des normes de l'industrie, la création de nouvelles technologies et de nouveaux produits, la génération de demande et la création de réglementations et d'incitations. L’impact à long terme envisagé serait « un monde d’IA [où] la technologie grand public enrichit la vie des êtres humains ».

« La réglementation est un catalyseur, mais sans que des gens construisent des technologies différentes d’une manière différente et que des gens veuillent utiliser cette technologie, la loi est un morceau de papier », comme l’a dit Surman.

Si nous regardons le précédent du RGPD, nous avons parfois eu de nouvelles entreprises vraiment intéressantes et de nouveaux produits logiciels qui gardent la vie privée à l'esprit, et parfois nous avons simplement reçu des rappels contextuels ennuyeux sur vos données collectées et les cookies, etc., a-t-il ajouté.

« Il est difficile de s’assurer qu’une loi comme celle-ci entraîne de réels changements et une réelle valeur pour les gens. C’est pourquoi, à l’heure actuelle, l’accent devrait être mis sur les choses pratiques que l’industrie, les développeurs et les déploiements peuvent faire pour rendre l’IA plus fiable. Nous devons nous assurer que les réglementations reflètent et encouragent réellement ce type d’action et ne se contentent pas de rester dans le nuage », a conclu M. Surman.