SAS vante l’intégration avec la boîte à outils de Singapour pour aider à opérationnaliser l’adoption responsable de l’IA
L’Institut SAS affirme que l’intégration de sa plateforme Viya avec la boîte à outils logicielle publiée par l’Autorité monétaire de Singapour vise à aider les institutions financières qui luttent pour mettre en pratique les principes fondamentaux régissant l’utilisation éthique et responsable de l’intelligence artificielle.
SAS Institute a intégré sa plateforme de gestion de l'analyse des données à une boîte à outils logicielle publiée par l'Autorité monétaire de Singapour (MAS) pour aider les institutions financières à s'assurer qu'elles utilisent l'intelligence artificielle (IA) de manière responsable. Cette décision vise à relever un défi commun auquel ces entreprises sont confrontées en intégrant des principes fondamentaux régissant l’utilisation éthique de l’IA.
En février, MAS a lancé la boîte à outils open source pour automatiser les processus nécessaires à l'évaluation de l'adoption de l'IA par une entreprise sur la base de quatre principes : l'équité, l'éthique, la responsabilité et la transparence, ou FEAT. Développée par le consortium Veritas, la boîte à outils permet d'utiliser des plug-ins pour permettre l'intégration avec les systèmes informatiques de l'institution financière.
SAS a annoncé mercredi que l’intégration de sa plate-forme de gestion analytique, Viya, avec la boîte à outils Veritas permettrait d’évaluer les principes FEAT dans les modèles analytiques, en exploitant les capacités de génération de langage naturel et de flux de travail de Viya. La plate-forme SAS fonctionne également avec la boîte à outils pour améliorer l’automatisation.
Les entreprises singapouriennes ont souvent eu du mal à concrétiser leur adoption de l'IA basée sur les principes de Veritas, a déclaré Manisha Khanna, responsable de l'IA et de l'analyse chez SAS pour l'Asie-Pacifique. L’intégration avec la boîte à outils a permis de réduire la complexité, par exemple en identifiant automatiquement les attributs sensibles pour garantir la conformité.
Cela a également facilité le flux de décision de l’IA explicable, a déclaré Khanna, ajoutant que les résultats générés par les modèles d’IA étaient automatiquement étiquetés avec une explication textuelle de la façon dont ils étaient déterminés.
En outre, les rapports réglementaires et d’audit pourraient être remplis automatiquement, ce qui améliorerait encore la productivité du personnel, a-t-elle déclaré.
Lim Hsin Yin, directeur général de SAS à Singapour, a noté que l'adoption de l'IA responsable était faible en raison de la confiance et de l'équilibre, dans lesquels les entreprises devaient avoir confiance dans la technologie et équilibrer la rentabilité de l'entreprise avec la responsabilité sociale afin d'adopter l'IA de manière éthique.
La collaboration avec le MAS visait à résoudre ce problème, a déclaré Lim.
Reggie Townsend, directeur de la pratique de l'éthique des données chez SAS, a déclaré : « La nécessité de disposer de cadres réglementaires pour tirer parti des promesses de l'IA tout en atténuant ses risques est non seulement importante, mais urgente à l'heure actuelle. Les fournisseurs de technologies et les régulateurs ont un rôle essentiel à jouer pour s’assurer que le développement de l’IA est centré sur les personnes afin d’avoir un impact positif sur notre société.
Townsend a déclaré que les applications d’IA et d’apprentissage automatique apprennent au fil du temps et pourraient placer les sociétés dans des scénarios qu’elles ne pouvaient pas anticiper. Une législation est donc nécessaire pour gérer cela alors que la définition de « l’innovation responsable » avec l’IA continue d’évoluer, a-t-il déclaré.
Ce n’était pas sans rappeler les transitions précédentes, par exemple, lorsque les automobiles ont été introduites pour la première fois et ont sillonné les rues aux côtés des calèches et de l’absence de feux de circulation.
Il a déclaré que SAS avait mis en place un comité de surveillance qui fonctionnait en interne pour s’assurer que les contrôles nécessaires étaient en place pour aider l’éditeur de logiciels à atténuer ses propres risques et à appliquer l’IA de manière responsable. Parfois, cela signifiait qu’il fallait s’éloigner de certains déploiements de clients, de sorte que sa plateforme ne faisait pas partie d’un écosystème dans lequel elle ne voulait pas être, a-t-il ajouté.
Interrogé sur les fournisseurs tels que Microsoft et IBM qui ont interdit la vente de reconnaissance faciale aux forces de l’ordre, Townsend a déclaré que SAS n’avait pas tracé de telles « lignes dures » car le contexte derrière l’utilisation de l’IA était important. Par exemple, l’adoption de la technologie de reconnaissance faciale pour faciliter l’authentification des passeports a donné un résultat positif.
Il a ajouté que les processus internes établis par SAS permettaient de s’assurer que les mises en œuvre qui enfreignaient ses principes d’utilisation responsable de l’IA seraient signalées.
Selon Damien Pang, directeur adjoint de la fintech et directeur exécutif de l'architecture des données et de la technologie de MAS, le consortium Veritas s'est développé depuis son lancement pour comprendre plus de 30 entités. Ceci, a-t-il dit, reflète le fort intérêt de l’industrie à renforcer la confiance dans l’utilisation de l’IA par le biais des principes FEAT.
Interrogé sur le taux d’utilisation de la boîte à outils, M. Pang a déclaré que MAS n’avait pas suivi le nombre de téléchargements, car il ne s’agissait pas nécessairement d’une indication précise de l’utilisation réelle.
Il a exhorté les organisations à comprendre ce qui est nécessaire pour utiliser l’IA de manière responsable. Ajoutant que les principes FEAT contribueraient à renforcer la confiance des consommateurs, il a déclaré que cela était essentiel pour favoriser l’adoption des services numériques et permettre aux entreprises d’exploiter les données pour mieux servir les clients.