L’IA générative apporte de nouveaux risques à tout le monde. Voici comment vous pouvez rester en sécurité
Les organisations doivent comprendre les implications potentielles de l’utilisation d’outils d’intelligence artificielle générative, tels que ChatGPT, tandis que les consommateurs doivent réfléchir à la manière dont ils établissent leur engagement numérique.
Des questions cruciales doivent encore être abordées concernant l'utilisation de l'intelligence artificielle (IA) générative, de sorte que les entreprises et les consommateurs désireux d'explorer cette technologie doivent être conscients des risques potentiels.
Comme elle en est encore au stade de l'expérimentation, les entreprises devront comprendre les implications potentielles de l'exploitation de l'IA générative, explique Alex Toh, directeur local du département PI et technologie de Baker McKenzie Wong & Leow.
Des questions clés devraient être posées pour savoir si de telles explorations continuent d'être sûres, tant sur le plan juridique qu'en termes de sécurité, explique Toh, qui est un professionnel certifié en matière de confidentialité des informations par l'Association internationale des professionnels de la confidentialité. Il est également un professionnel certifié en éthique et gouvernance de l’IA par la Singapore Computer Society.
Au milieu de l’intérêt croissant pour l’IA générative, l’avocat spécialisé en technologie répond fréquemment aux questions de ses clients sur les implications en matière de droits d’auteur et les politiques qu’ils pourraient devoir mettre en œuvre s’ils utilisaient de tels outils.
Un sujet de préoccupation clé, qui fait également l’objet de nombreux débats dans d’autres pays, notamment aux États-Unis, dans l’Union européenne et au Royaume-Uni, concerne la légitimité de la collecte et de l’utilisation de données disponibles en ligne pour former des modèles d’IA. Un autre sujet de débat est de savoir si les œuvres créatives générées par des modèles d'IA, comme la poésie et la peinture, sont protégées par le droit d'auteur, a-t-il déclaré à ZDNET.
Il existe des risques de violation de marque et de droit d'auteur si les modèles d'IA générative créent des images similaires à des œuvres existantes, en particulier lorsqu'il leur est demandé de reproduire l'œuvre d'art de quelqu'un d'autre.
Toh affirme que les organisations souhaitent connaître les considérations dont elles doivent tenir compte si elles explorent l’utilisation de l’IA générative, ou même de l’IA en général, afin que le déploiement et l’utilisation de tels outils n’entraînent pas de responsabilités juridiques ni de risques commerciaux associés.
Il affirme que les organisations mettent en place des politiques, des processus et des mesures de gouvernance pour réduire les risques auxquels elles peuvent être confrontées. Un client, par exemple, a posé des questions sur les responsabilités auxquelles son entreprise pourrait être confrontée en cas de dysfonctionnement d'un produit génératif basé sur l'IA qu'elle propose.
Toh affirme que les entreprises qui décident d'utiliser des outils tels que ChatGPT pour prendre en charge le service client via un chatbot automatisé, par exemple, devront évaluer sa capacité à fournir les réponses souhaitées par le public.
L'avocat suggère aux entreprises de procéder à une analyse des risques pour identifier les risques potentiels et évaluer s'ils peuvent être gérés. Les humains devraient être chargés de prendre des décisions avant qu’une action ne soit entreprise et ne devraient être tenus à l’écart que si l’organisation détermine que la technologie est suffisamment mature et que les risques associés à son utilisation sont faibles.
De telles évaluations devraient inclure l’utilisation d’invites, qui constituent un facteur clé de l’IA générative. Toh note que des questions similaires peuvent être formulées différemment par différents utilisateurs. Il affirme que les entreprises risquent de ternir leur marque si un système de chatbot décide de répondre de manière correspondante à un client agressif.
Des pays, comme Singapour, ont mis en place des cadres pour guider les entreprises de tous les secteurs dans leur adoption de l'IA, avec l'objectif principal de créer un écosystème digne de confiance, explique Toh. Il ajoute que ces cadres devraient inclure des principes que les organisations peuvent facilement adopter.
Dans une récente réponse parlementaire écrite sur les cadres réglementaires de l'IA, le ministère des Communications et de l'Information de Singapour a souligné la nécessité d'un développement et d'un déploiement « responsables ». Il a déclaré que cette approche garantirait un environnement fiable et sûr dans lequel les avantages de l'IA pourraient être récoltés.
Le ministère a déclaré avoir déployé plusieurs outils pour piloter cette approche, notamment une boîte à outils de test connue sous le nom d'AI Verify pour évaluer le déploiement responsable de l'IA et le Model AI Governance Framework, qui couvre les principales questions d'éthique et de gouvernance dans le déploiement d'applications d'IA. Le ministère a déclaré que des organisations telles que DBS Bank, Microsoft, HSBC et Visa ont adopté le cadre de gouvernance.
La Commission de protection des données personnelles, qui supervise la loi sur la protection des données personnelles de Singapour, travaille également sur des lignes directrices consultatives pour l'utilisation des données personnelles dans les systèmes d'IA. Ces lignes directrices seront publiées en vertu de la loi dans le courant de l'année, selon le ministère.
Il continuera également à surveiller les développements de l'IA et à examiner l'approche réglementaire du pays, ainsi que son efficacité à « maintenir la confiance et la sécurité ».
Faites attention à votre propre utilisation de l'IA
Pour l’instant, alors que le paysage continue d’évoluer, les particuliers et les entreprises doivent être attentifs à l’utilisation des outils d’IA.
Les organisations devront mettre en place des processus adéquats pour atténuer les risques, tandis que le grand public devra mieux comprendre la technologie et se familiariser avec elle. Chaque nouvelle technologie a ses propres nuances, explique Toh.
Baker & McKenzie n'autorise pas l'utilisation de ChatGPT sur son réseau en raison de préoccupations concernant la confidentialité des clients. Bien que les informations personnelles identifiables (PII) puissent être supprimées avant que les données ne soient transmises à un modèle de formation d'IA, des questions subsistent quant à savoir si les détails sous-jacents du cas utilisés dans une plate-forme d'apprentissage automatique ou d'IA générative peuvent être interrogés et extraits. Ces incertitudes signifiaient qu’en interdire l’utilisation était nécessaire pour protéger les données sensibles.
Le cabinet d’avocats souhaite toutefois explorer l’utilisation générale de l’IA pour mieux soutenir le travail de ses avocats. Une unité d'apprentissage de l'IA au sein de l'entreprise travaille sur des recherches sur des initiatives potentielles et sur la manière dont l'IA peut être appliquée au sein de la main-d'œuvre, explique Toh.
Lorsqu'on lui demande comment les consommateurs devraient garantir la sécurité de leurs données auprès des entreprises à mesure que l'adoption de l'IA se développe, il répond qu'il existe généralement des recours juridiques en cas de violation, mais note qu'il est plus important que les individus se concentrent sur la manière dont ils organisent leur engagement numérique.
Les consommateurs doivent choisir des marques de confiance qui investissent pour être responsables de leurs données clients et de leur utilisation dans les déploiements d'IA. Faisant référence au cadre d'IA de Singapour, Toh affirme que ses principes fondamentaux tournent autour de la transparence et de l'explicabilité, qui sont essentielles pour établir la confiance des consommateurs dans les produits qu'ils utilisent.
La capacité du public à gérer ses propres risques sera probablement essentielle, d'autant plus que les lois peinent à suivre le rythme de la technologie.
L'IA, par exemple, s'accélère à une « vitesse fulgurante » sans réglementation appropriée, note Cyrus Vance Jr., associé au sein du département de contentieux et d'application des lois gouvernementales de Baker McKenzie en Amérique du Nord, ainsi que des départements d'enquêtes, de conformité et d'éthique à l'échelle mondiale. Il souligne la nécessité pour la sécurité publique d’évoluer avec le développement de la technologie.
"Nous n'avons pas réglementé la technologie dans les années 1990 et [nous] ne le faisons toujours pas aujourd'hui", déclare Vance, citant ChatGPT et l'IA comme derniers exemples.
L'intérêt accru pour ChatGPT a déclenché des tensions dans l'UE et au Royaume-Uni, notamment du point de vue de la confidentialité, déclare Paul Glass, responsable de la cybersécurité chez Baker & McKenzie au Royaume-Uni et membre de l'équipe de protection des données du cabinet d'avocats.
L'UE et le Royaume-Uni débattent actuellement de la manière dont la technologie devrait être réglementée, de la nécessité de nouvelles lois ou de l'extension de celles qui existent déjà, explique Glass.
Il souligne également d'autres risques associés, notamment les violations du droit d'auteur et les cyber-risques, pour lesquels ChatGPT a déjà été utilisé pour créer des logiciels malveillants.
Des pays, comme la Chine et les États-Unis, évaluent également et sollicitent les commentaires du public sur les législations régissant l'utilisation de l'IA. Le gouvernement chinois a publié le mois dernier un nouveau projet de règlement qu'il juge nécessaire pour garantir le développement sûr des technologies d'IA générative, y compris ChatGPT.
Cette semaine encore, Geoffrey Hinton - souvent appelé le « parrain de l'IA » - a déclaré qu'il avait quitté son poste chez Google pour pouvoir discuter plus librement des risques de la technologie qu'il a lui-même contribué à développer. Hinton avait conçu des algorithmes d'apprentissage automatique et contribué à la recherche sur les réseaux neuronaux.
Élaborant sur ses inquiétudes concernant l'IA, Hinton a déclaré à la BBC : « À l'heure actuelle, ce que nous constatons, c'est que des choses comme GPT-4 éclipsent une personne dans la quantité de connaissances générales dont elle dispose et cela les éclipse de loin. , ce n'est pas aussi bon, mais cela permet déjà un raisonnement simple. Et étant donné le rythme des progrès, nous nous attendons à ce que les choses s'améliorent assez rapidement. Nous devons donc nous en préoccuper.