Éliminer les biais de l'intelligence artificielle est l'affaire de tous
Un appel à plus de sensibilisation et de formation derrière les déploiements d’IA. Pas seulement pour les développeurs et les scientifiques des données, mais aussi pour les chefs de produit, les cadres, les responsables marketing et les marchandiseurs.
Alors que la dépendance à l'égard de la prise de décision et des opérations basées sur l'IA augmente de jour en jour, il est important de prendre du recul et de se demander si tout ce qui peut être fait pour assurer l'équité et atténuer les biais est fait. Il faut une plus grande sensibilisation et une meilleure formation derrière les déploiements d’IA. Pas seulement pour les développeurs et les scientifiques des données, mais aussi pour les chefs de produit, les cadres, les responsables marketing et les merchandisers. C'est le mot de John Boezeman, directeur de la technologie chez Acoustic, qui a partagé ses idées sur l'urgence de bien choisir l'IA.
Q : Où en sont les efforts des entreprises pour atteindre l’équité et éliminer les biais dans les résultats de l’IA ?
Boezeman : Essayer de déterminer les biais ou les biais dans l’IA est un problème très difficile et nécessite beaucoup de soins, de services et d’investissements financiers supplémentaires pour être en mesure non seulement de détecter, mais aussi de résoudre et de compenser ces problèmes. De nombreuses entreprises ont utilisé involontairement des données biaisées ou incomplètes dans différents modèles. Comprendre cela et changer ce comportement nécessite des changements culturels et une planification minutieuse au sein d’une entreprise.
Celles qui fonctionnent selon des principes d'éthique des données définis seront bien placées pour éviter les biais dans l'IA, ou du moins être en mesure de les détecter et d'y remédier si et quand ils sont identifiés.
Q : Les entreprises en font-elles assez pour examiner régulièrement leurs résultats en IA ? Quelle est la meilleure façon de procéder ?
Boezeman : À mesure que de nouveaux outils sont fournis autour de l'auditabilité de l'IA, nous verrons beaucoup plus d'entreprises examiner régulièrement leurs résultats d'IA. Aujourd'hui, de nombreuses entreprises achètent un produit qui intègre une fonctionnalité ou une capacité d'IA ou qui fait partie de la fonctionnalité propriétaire de ce produit, ce qui n'expose pas l'auditabilité.
Les entreprises peuvent également mettre en place les capacités d’IA de base pour un cas d’utilisation spécifique, généralement dans ce niveau d’utilisation de la découverte de l’IA. Cependant, dans chacun de ces cas, l’audit est généralement limité. Là où l’audit devient vraiment important, c’est au niveau de la « recommandation » et de l'« action » de l’IA. Dans ces deux phases, il est important d'utiliser un outil d'audit pour ne pas introduire de biais et fausser les résultats.
L'une des meilleures façons d'aider à l'audit de l'IA est d'utiliser les services d'IA et de ML de l'un des plus grands fournisseurs de services cloud. Beaucoup de ces fournisseurs disposent d’outils et de piles technologiques qui vous permettent de suivre ces informations. Il est également essentiel que l’identification des biais ou des comportements similaires à des biais fasse partie de la formation des scientifiques des données et des développeurs d’IA et de ML. Plus les gens sont éduqués sur ce qu’il faut surveiller, plus les entreprises seront préparées à identifier et à atténuer les biais de l’IA.
Q : Les responsables et le personnel informatique devraient-ils recevoir davantage de formation et de sensibilisation pour atténuer les biais de l’IA ?
Boezeman : Absolument. Les scientifiques des données et les développeurs d'IA/ML ont tous deux besoin d'une formation sur les biais et les asymétries, mais il est également important d'étendre cette formation aux chefs de produit, aux cadres, aux responsables marketing et aux merchandisers.
Il est facile de tomber dans le piège de faire ce que vous avez toujours fait, ou de ne poursuivre qu'une approche centrée sur les préjugés, comme l'ont fait de nombreux secteurs dans le passé. Mais grâce à une formation sur la réduction des préjugés liés à l'IA, le personnel de votre organisation sera en mesure d'identifier les préjugés plutôt que de croire que tout ce que l'IA produit est un fait. À partir de là, votre entreprise peut aider à atténuer son impact.
Q : Des initiatives d’IA et d’apprentissage automatique sont en cours depuis plusieurs années maintenant. Quelles leçons les entreprises ont-elles tirées en termes d’adoption et de déploiement les plus productifs ?
Boezeman : L’IA n’est pas une panacée pour tout résoudre. J’ai vu de nombreuses tentatives d’utiliser l’IA dans n’importe quel cas d’utilisation, indépendamment de la question de savoir si l’IA est le bon cas d’utilisation, tout cela pour permettre une histoire marketing sans apporter de valeur réelle. L'astuce pour réussir le déploiement d'une solution d'IA est une combinaison de la qualité des données et de la qualité des modèles et des algorithmes qui guident la prise de décision. En termes simples, si vous mettez des fichiers inutiles, vous en retirerez. Les déploiements les plus réussis ont un cas d'utilisation précis et des données bien définies avec lesquelles fonctionner.
Q : Quels sont les secteurs de l’organisation qui connaissent le plus de succès avec l’IA ?
Boezeman : Il y a beaucoup d’étapes différentes dans l’IA, mais la plupart du temps, elles peuvent se résumer à trois états de base : découvrir, recommander et action automatique. À l’heure actuelle, les endroits où je le vois le plus utilisé sont dans l’espace de découverte -- informations, alertes, notifications -- c’est là que le système vous dit que quelque chose se passe anormalement ou en dehors des modèles connus. ou quelque chose tend dans une direction dont vous devriez vous soucier. Les gens font confiance à ce type d’interaction et de modèle, et peuvent facilement collaborer s’ils veulent des preuves.
Les spécialistes du marketing exploitent l’IA dans l’espace de découverte pour déterminer le succès de leurs campagnes, par exemple. Un autre exemple est celui d’un marchandiseur qui peut déployer une solution alimentée par l’IA pour détecter les fraudes ou les problèmes liés au parcours client.
Là où je vois encore beaucoup d’hésitation, c’est dans les états de recommandation et d’action. J’avais l’habitude de posséder un produit qui calculait le meilleur prix pour un produit et de commander pour les afficher dans une vitrine en ligne, sur la base de nombreux points de données, de la quantité à la rentabilité, en passant par le temps et la démarque, jusqu’à l’espace de stockage utilisé dans l’entrepôt. Et même ce produit pourrait, si vous l’allumez, agir automatiquement. Ce que nous avons constaté, c'est que de nombreux marchandiseurs aiment voir la recommandation, mais ils voulaient personnellement passer à l'action, et voulaient également voir plusieurs options, et enfin, ils voulaient voir l'arbre de décision sur les raisons pour lesquelles le système recommandait une option. Lorsque nous l'avons lancé pour la première fois, nous n'avions pas la fonctionnalité « Pourquoi le système a-t-il recommandé XYZ ? ». Jusqu'à ce que nous fournissions un moyen de permettre au marchandiseur de voir sur quoi la recommandation était basée, il ne lui faisait pas confiance.
Q : Quelles technologies ou approches technologiques font la plus grande différence ?
Boezeman : De nombreuses entreprises opérant dans ce domaine inventent chaque jour de nouvelles technologies percutantes. Spark et Amazon Sagemaker en sont deux exemples. Les technologies qui font le plus la différence sont celles qui vous permettent d’identifier les biais dans vos modèles d’IA. Lorsque les algorithmes d’IA sont biaisés, ils peuvent conduire à des résultats injustes et incorrects. En étant capable de voir le biais dans le système, vous pouvez ensuite diagnostiquer et atténuer la situation. Au fur et à mesure que l’industrie continue de croître, il s’agira d’une capacité de base clé que chaque pile technologique devra prendre en charge.