L'équipe rouge de Microsoft surveille l'IA depuis 2018. Voici cinq grandes informations
Microsoft prend des mesures pour garantir la sécurité de l'IA dans ses modèles et souhaite donner l'exemple aux autres.
Au cours des six derniers mois, les impacts positifs de l’intelligence artificielle ont été plus que jamais mis en avant, tout comme les risques.
À son meilleur, l’IA a permis aux gens d’accomplir leurs tâches quotidiennes plus facilement et même de créer des avancées dans différents secteurs qui peuvent révolutionner la façon dont le travail est effectué.
Toutefois, dans le pire des cas, l’IA peut produire de la désinformation, générer des contenus préjudiciables ou discriminatoires et présenter des risques en matière de sécurité et de confidentialité. Pour cette raison, il est extrêmement important d'effectuer des tests précis avant que les modèles ne soient rendus publics, et c'est exactement ce que Microsoft fait depuis cinq ans maintenant.
Aussi : Microsoft étend Bing AI à davantage de navigateurs, mais il y a un problème
Avant le début du boom de ChatGPT, l’IA était déjà une technologie émergente et percutante et, par conséquent, Microsoft a constitué une équipe rouge sur l’IA en 2018.
L'équipe rouge de l'IA est composée d'experts interdisciplinaires dédiés à l'enquête sur les risques des modèles d'IA en « pensant comme des attaquants » et en « sondant les défaillances des systèmes d'IA », selon Microsoft.
Près de cinq ans après son lancement, Microsoft partage ses pratiques et ses enseignements en matière d'équipe rouge pour donner l'exemple pour la mise en œuvre d'une IA responsable. Selon l’entreprise, il est essentiel de tester les modèles d’IA à la fois au niveau du modèle de base et au niveau de l’application. Par exemple, pour Bing Chat, Microsoft a surveillé l’IA à la fois au niveau GPT-4 et à l’expérience de recherche réelle optimisée par GPT-4.
« Les deux niveaux apportent leurs propres avantages : par exemple, l'équipe rouge du modèle permet d'identifier dès le début du processus comment les modèles peuvent être mal utilisés, d'évaluer les capacités du modèle et de comprendre les limites du modèle », explique Microsoft.
L'entreprise partage cinq informations clés sur l'équipe rouge de l'IA qu'elle a tirées de ses cinq années d'expérience.
Le premier est l’étendue de l’équipe rouge de l’IA. Au lieu de simplement tester la sécurité, l’équipe rouge de l’IA est un ensemble de techniques qui testent des facteurs tels que l’équité et la génération de contenu nuisible.
La seconde est la nécessité de se concentrer sur les échecs des personnes malveillantes et inoffensives. Bien que l’équipe rouge se concentre généralement sur la manière dont un acteur malveillant utiliserait la technologie, il est également essentiel de tester comment elle pourrait générer du contenu préjudiciable pour l’utilisateur moyen.
"Dans le nouveau Bing, l'équipe rouge de l'IA s'est non seulement concentrée sur la manière dont un adversaire malveillant peut subvertir le système d'IA via des techniques et des exploits axés sur la sécurité, mais également sur la manière dont le système peut générer du contenu problématique et nuisible lorsque des utilisateurs réguliers interagissent avec le système." dit Microsoft.
La troisième idée est que les systèmes d’IA évoluent constamment et, par conséquent, il est nécessaire de regrouper ces systèmes d’IA en équipe rouge à plusieurs niveaux différents, ce qui conduit à la quatrième idée : l’équipe rouge des systèmes d’IA génératifs nécessite plusieurs tentatives.
Aussi : ChatGPT reçoit de nombreuses mises à jour cette semaine. Voici ce que vous devez savoir
Chaque fois que vous interagissez avec un système d’IA générative, vous obtiendrez probablement un résultat différent ; par conséquent, estime Microsoft, plusieurs tentatives d'équipe rouge doivent être faites pour garantir qu'une panne du système ne soit pas négligée.
Enfin, Microsoft affirme que l'atténuation des défaillances de l'IA nécessite une défense en profondeur, ce qui signifie qu'une fois qu'une équipe rouge aura identifié un problème, il faudra diverses mesures techniques d'atténuation pour résoudre le problème.
Des mesures telles que celles mises en place par Microsoft devraient contribuer à apaiser les inquiétudes concernant les systèmes d'IA émergents tout en contribuant également à atténuer les risques liés à ces systèmes.