Singapour lance une boîte à outils logicielle pour guider le secteur financier sur l’éthique de l’IA
Selon l'Autorité monétaire de Singapour, la boîte à outils open source automatise l'évaluation des mesures d'« équité » et comprend des plug-ins d'interface qui peuvent être intégrés aux systèmes informatiques de l'institution financière.
Singapour a publié une boîte à outils logicielle visant à aider les institutions financières à s’assurer qu’elles utilisent l’intelligence artificielle (IA) de manière responsable. Cinq livres blancs ont également été publiés pour les guider dans l’évaluation de leur déploiement sur la base de principes prédéfinis.
L’Autorité monétaire de Singapour (MAS) a déclaré que les documents détaillaient les méthodologies permettant d’intégrer les principes FEAT - équité, éthique, responsabilité et transparence - dans l’utilisation de l’IA dans le secteur des services financiers.
Les livres blancs ont été développés par le consortium Veritas, qui fait partie de la stratégie nationale d'IA de Singapour et comprend 27 acteurs du secteur, dont Amazon Web Services, Bank of China, Bank of Singapore, Google Cloud, Goldman Sachs, OCBC Bank et Unionbank of the Philippines.
Selon MAS, les livres blancs fournissent une liste de contrôle FEAT pour guider les institutions financières dans leurs cycles de développement de logiciels d’IA et d’analyse de données, ainsi qu’une méthodologie d’évaluation de l’équité améliorée pour définir les objectifs de leurs systèmes d’IA et d’analyse de données et identifier les biais potentiels.
Il existe également une méthodologie d’évaluation de l’éthique et de la responsabilité, qui offre un cadre pour aider les institutions financières à effectuer une mesure quantifiable des pratiques éthiques, et une autre pour évaluer la transparence afin que ces organisations puissent déterminer le degré de transparence interne et externe nécessaire pour expliquer et interpréter les prédictions générées par les modèles d’apprentissage automatique.
Le consortium Veritas a également développé la boîte à outils logicielle pour automatiser l’évaluation des mesures d’équité et faciliter la visualisation de l’interface d’évaluation. Disponible sur GitHub, la boîte à outils open source permet d'utiliser des plug-ins pour permettre l'intégration avec les systèmes informatiques de l'institution financière.
Le directeur de la fintech de la MAS, Sopnendu Mohanty, a déclaré dans le communiqué publié vendredi : « Le nouveau logiciel open source, les méthodologies d'évaluation et les directives améliorées amélioreront encore les capacités techniques des institutions financières dans le développement d'une IA responsable pour le secteur financier. »
Certains membres du consortium Veritas ont également appliqué les méthodologies à diverses fonctions au sein de leur organisation, notamment le marketing client, la détection des fraudes à l’assurance et la notation du risque de crédit.
Le groupe élaborera ensuite d’autres cas d’utilisation et mènera des projets pilotes avec des institutions financières sélectionnées au sein du consortium afin d’intégrer davantage les méthodologies à leur cadre de gouvernance existant.
La MAS a ajouté qu'elle travaillait avec l'Autorité de développement des médias Infocomm et la Commission de protection des données personnelles (PDPC) pour inclure le tolkit dans le cadre de test de l'IA digne de confiance de la PDPC.