Les erreurs de classification d’images IA pourraient vous gâcher la vie. Voici une façon de les réduire
Les algorithmes de classification d’images sont notoirement sujets aux erreurs, mais une nouvelle méthode permettant de repérer les erreurs dans un code d’IA incompréhensible pourrait aider à résoudre le problème.
Pensez à la rapidité avec laquelle Internet est devenu le canal clé d'une énorme quantité d'activité humaine, du commerce à la communication en passant par la collaboration, et vous commencez à avoir une idée du rôle transformateur que l'intelligence artificielle (IA) jouera dans nos vies au cours des prochaines années. décennie.
Tout comme Internet, l'IA et ses principaux sous-types (apprentissage automatique, traitement du langage naturel, reconnaissance faciale et apprentissage profond) devraient transformer la société humaine en s'intégrant dans pratiquement toutes les facettes de la vie quotidienne.
Aujourd’hui encore, de nombreux systèmes et services informatiques proposent déjà des solutions basées sur l’IA aux problèmes des entreprises. Cette omniprésence soulève alors la question logique : que se passe-t-il si l’IA échoue ?
Il est préoccupant de constater que les « hallucinations » de l’IA - dans lesquelles la technologie invente des réponses à des questions qu’elle ne connaît pas - sont déjà monnaie courante.
Nous avons également vu des algorithmes exposer et amplifier des préjugés sexistes, raciaux, ethniques et de classe qui sont déjà ancrés dans la société.
Ce type de problèmes survient parce qu’une grande partie des données qui alimentent les modèles d’IA sont extraites du contenu Internet, dont la majorité a été produite par les structures de pouvoir dominantes.
Ainsi, pour garantir qu'un algorithme d'IA fonctionne correctement et ne commet pas de gaffes embarrassantes, les modèles qui alimentent les technologies émergentes doivent être « entraînés » avec un ensemble de données - et dans le cas ci-dessous, des images - qui servent de références impartiales.
Développer l’IA de la bonne manière
Par exemple, le système d'alerte précoce de Californie dispose d'un algorithme de reconnaissance d'images connecté à plus d'un millier de caméras dans tout l'État. Le modèle est entraîné à identifier une bouffée de fumée provenant d'un nuage.
Le graphique Reeb de Gleich traduit les vecteurs intégrés méconnaissables de l'ensemble de données d'un algorithme en points colorés, permettant d'observer les erreurs de classification.
Des tumeurs dans vos poumons aux embardées des voitures sur l'autoroute, un logiciel de reconnaissance d'images conçu pour trouver des indicateurs clés du bruit est déployé dans des scénarios critiques pour sauver des vies.
Si l’impact positif potentiel de ce type de systèmes est important, le risque lié à des IA errantes l’est tout autant. Alors, comment garantir que les systèmes de reconnaissance d’images par l’IA ne contribuent pas à détruire la société telle que nous la connaissons ?
Il est important de disposer d'un « ensemble d'images de formation » solide qui fournit de bons points de référence. Cette formation consiste à garantir que les informations sur chaque pixel, ainsi que la façon dont ils sont étiquetés et classés dans une catégorie, sont entreprises avec une précision impeccable.
De cette façon, lorsque l'algorithme essaie de déterminer à quelle catégorie appartient une image particulière, il peut le faire en se référant aux informations sur les images dans l'ensemble d'apprentissage.
Cependant, quelle que soit la qualité de l'architecture de l'ensemble de formation, un algorithme sera parfois confronté à un contenu inconnu et s'arrêtera brusquement.
De plus, essayer de découvrir où se trouve l'impasse dans l'ensemble de données revient à essayer de localiser une aiguille, non pas seulement dans une botte de foin, mais dans une grange entière, étant donné le potentiel de milliards d'unités d'information qui constituent les ensembles de données.
La bonne nouvelle est que David Gleich, scientifique et professeur d'informatique à l'Université Purdue, et ses collègues scientifiques Tamal Dey et Meng Liu, ont imaginé une nouvelle solution à ce problème insoluble.
"L'outil que nous avons développé vous aide à trouver les endroits où le réseau dit : 'Hé, j'ai besoin de plus d'informations pour faire ce que vous avez demandé'", explique Gleich. "Je conseillerais aux gens d'utiliser cet outil pour tout scénario de décision de réseau neuronal à enjeux élevés ou tâche de prédiction d'image."
Qu'y a-t-il sous le capot ?
Lorsque Gleich a mené ses recherches, il a rencontré des problèmes avec ses bases de données. La base de données confondait les rayons X, les séquences génétiques et les vêtements avec d’autres choses.
Il dit qu'un réseau neuronal avait l'habitude chronique d'étiqueter une voiture comme un lecteur de cassettes simplement parce que les photos étaient extraites de listes de vente en ligne contenant un équipement stéréo pour voiture.
Le problème vient de la façon dont l'algorithme classe une image dans la bonne catégorie, ce qui repose sur la génération d'un ensemble de nombres appelés « vecteurs intégrés » qui sont générés en fonction des informations contenues dans l'image.
L'IA compare les vecteurs intégrés dans « l'ensemble d'entraînement » avec ceux d'autres images d'ensembles de données. L'image est classée dans une catégorie avec une probabilité de correspondance élevée.
Malheureusement, les vecteurs intégrés n’ont souvent aucun sens. Ainsi, lorsqu’il y a une inadéquation ou une erreur, il n’y a aucun moyen de plonger dans les couches méconnaissables de l’algorithme et de repérer l’erreur incriminée.
Pour surmonter cet obstacle, Gleich et son équipe ont eu recours à un plan ingénieux. Ils ont fait un rapide détour par le domaine de la topographie, qui est essentiellement le domaine où des technologies comme Google Maps trouvent leur genèse.
Ils ont décidé de cartographier la relation entre les vecteurs sur un graphe de Reeb, un « descripteur de forme compact » et une solution utilisée dans l'analyse de forme depuis 75 ans.
L'ensemble de données a ensuite été transformé en points de couleur représentant des vecteurs appartenant à une catégorie ou à une autre. Des points étroitement regroupés de la même couleur dénotaient la même catégorie.
Des points de couleurs différentes qui se chevauchaient indiquaient instantanément que quelque chose n'allait pas et, plus important encore, où les problèmes pouvaient être détectés.
Et juste comme ça, les entrailles normalement incompréhensibles d’un algorithme ainsi que ses points problématiques sont soudainement devenus aussi clairs que le jour.
"Ce que nous faisons, c'est prendre ces ensembles complexes d'informations provenant du réseau et donner aux gens un aperçu de la manière dont le réseau perçoit les données à un niveau macroscopique", a déclaré Gleich.
"La carte Reeb représente les choses importantes -- les grands groupes et leurs relations les uns avec les autres -- et cela permet de voir les erreurs."
Gleich et ses collègues sont allés encore plus loin en mettant leur outil de classification d'images IA à la disposition du public. Le code de l'outil est disponible sur GitHub, tout comme les démonstrations de cas d'utilisation.
Désormais, n'importe qui a la possibilité de voir les relations entre les images dans un ensemble de données d'IA, que les chercheurs appellent une « vue à vol d'oiseau ».
Les gens peuvent utiliser l'outil pour plonger et localiser la source du problème, ce dont les réseaux de neurones ont désespérément besoin pour fonctionner correctement, éviter les préjugés et assurer notre sécurité.