Sécurité et biais de l'IA : démêler la chaîne complexe de la formation en IA
L’IA progresse à un rythme rapide. Si nous ne construisons pas de systèmes sûrs maintenant, nous ne le ferons jamais, déclare Lama Nachman, chercheuse chez Intel.
La sécurité et les biais de l’IA sont des problèmes urgents mais complexes pour les chercheurs en sécurité. L’IA étant intégrée dans toutes les facettes de la société, il est primordial de comprendre son processus de développement, ses fonctionnalités et ses inconvénients potentiels.
Lama Nachman, directeur du laboratoire de recherche sur les systèmes intelligents chez Intel Labs, a déclaré qu'il était essentiel d'inclure la contribution d'un large éventail d'experts du domaine dans le processus de formation et d'apprentissage de l'IA. Elle déclare : « Nous supposons que le système d'IA apprend de l'expert du domaine, et non du développeur d'IA... La personne qui enseigne le système d'IA ne comprend pas comment programmer un système d'IA... et le système peut automatiquement construire ces modèles de reconnaissance d'action et de dialogue.
Cela présente une perspective passionnante mais potentiellement coûteuse, avec la possibilité d'améliorations continues du système au fur et à mesure de son interaction avec les utilisateurs. Nachman explique : « Il y a des parties que vous pouvez absolument exploiter à partir de l'aspect générique du dialogue, mais il y a beaucoup de choses en termes de... la spécificité de la façon dont les gens accomplissent les choses dans le monde physique qui ne sont pas similaires à celles du monde physique. ce que vous feriez dans un ChatGPT. Cela indique que même si les technologies d'IA actuelles offrent d'excellents systèmes de dialogue, le passage à la compréhension et à l'exécution de tâches physiques est un défi tout à fait différent", a-t-elle déclaré.
La sécurité de l'IA peut être compromise, a-t-elle expliqué, par plusieurs facteurs, tels que des objectifs mal définis, le manque de robustesse et l'imprévisibilité de la réponse de l'IA à des entrées spécifiques. Lorsqu’un système d’IA est formé sur un vaste ensemble de données, il peut apprendre et reproduire les comportements nuisibles trouvés dans les données.
Les biais dans les systèmes d’IA pourraient également conduire à des résultats injustes, comme la discrimination ou une prise de décision injuste. Les préjugés peuvent pénétrer les systèmes d’IA de nombreuses manières ; par exemple, à travers les données utilisées pour la formation, qui pourraient refléter les préjugés présents dans la société. À mesure que l’IA continue de pénétrer divers aspects de la vie humaine, le risque de préjudice dû à des décisions biaisées augmente considérablement, renforçant ainsi la nécessité de méthodologies efficaces pour détecter et atténuer ces biais.
Une autre préoccupation concerne le rôle de l’IA dans la propagation de la désinformation. À mesure que les outils d’IA sophistiqués deviennent plus accessibles, il existe un risque accru qu’ils soient utilisés pour générer du contenu trompeur susceptible d’induire l’opinion publique en erreur ou de promouvoir de faux récits. Les conséquences peuvent être considérables, allant jusqu’à menacer la démocratie, la santé publique et la cohésion sociale. Cela souligne la nécessité d’élaborer des contre-mesures robustes pour atténuer la propagation de la désinformation par l’IA et de poursuivre les recherches pour garder une longueur d’avance sur l’évolution des menaces.
Chaque innovation comporte inévitablement une série de défis. Nachman a proposé que les systèmes d'IA soient conçus pour « s'aligner sur les valeurs humaines » à un niveau élevé et suggère une approche du développement de l'IA basée sur les risques qui prend en compte la confiance, la responsabilité, la transparence et l'explicabilité. Aborder l’IA dès maintenant contribuera à garantir la sécurité des futurs systèmes.