L'étude AI Economist de Salesforce veut explorer l'équilibre entre l'égalité et la productivité

La théorie économique est connue pour être limitée par un certain nombre d’inefficacités dans sa modélisation. Les chercheurs de Salesforce affirment que l’IA peut aider à résoudre ce problème, conduisant à des politiques économiques plus robustes.

2016 a été une année charnière pour Salesforce. C’est à ce moment-là que la société a acquis MetaMind, « une plate-forme d’IA d’entreprise qui fonctionnait dans l’imagerie médicale, les images de commerce électronique, le NLP et un tas d’autres choses, une plate-forme horizontale comme outil d’apprentissage automatique pour les développeurs », comme l’a décrit le fondateur Richard Socher.

Si cela semble intéressant aujourd’hui, c’était probablement en avance sur son temps à l’époque. L’acquisition a propulsé Socher au poste de scientifique en chef des données chez Salesforce, dirigeant plus de 100 chercheurs et plusieurs centaines d’ingénieurs travaillant sur des applications déployées à l’échelle et à l’impact de Salesforce. L'IA est devenue une partie intégrante des efforts de Salesforce, principalement via Salesforce Einstein, une initiative de grande envergure visant à injecter des capacités d'IA dans la plate-forme de Salesforce.

Outre les efforts axés sur le marché, Salesforce parraine également des initiatives « AI for good ». Cela inclut ce que Salesforce présente comme un moonshot : la création d’un planificateur social basé sur l’IA qui apprend les politiques économiques optimales pour le monde réel. Le projet connu sous le nom d'« AI Economist » a récemment publié de nouveaux résultats. Stephan Zheng, chercheur principal chez Salesforce, directeur principal de l’équipe d’économistes de l’IA, a partagé plus d’informations sur le contexte, les résultats et la feuille de route du projet.

L’apprentissage par renforcement comme outil de politique économique

Zheng préparait son doctorat en physique à peu près au moment où l’apprentissage profond a explosé, en 2013. La motivation qu’il cite pour son travail chez Salesforce est double : « repousser les limites de l’apprentissage automatique pour découvrir les principes de l’intelligence générale, mais aussi faire du bien social ».

Zheng estime que les questions socio-économiques sont parmi les plus critiques de notre époque. Ce qui l’a attiré dans ce domaine de recherche particulier, c’est le fait que les inégalités économiques se sont accélérées au cours des dernières décennies, ce qui a eu un impact négatif sur les opportunités économiques, la santé et le bien-être social. 

Les impôts sont un outil gouvernemental important pour améliorer l’égalité, note M. Zheng. Cependant, il croit qu'il est difficile pour les gouvernements de concevoir des structures fiscales qui aident à créer l'égalité tout en stimulant la productivité économique. Une partie du problème, ajoute-t-il, est liée à la modélisation économique elle-même.

« Dans l’économie traditionnelle, si les gens veulent optimiser leur politique, ils doivent faire beaucoup d’hypothèses. Par exemple, ils pourraient dire que le monde est plus ou moins le même chaque année. Rien ne change vraiment tant que ça.

C'est vraiment contraignant. Cela signifie que beaucoup de ces méthodes ne trouvent pas vraiment la meilleure politique si vous considérez le monde dans toute sa richesse, si vous regardez toutes les façons dont le monde peut changer autour de vous", a déclaré Zheng.

L’équipe Salesforce AI Economist tente de résoudre ce problème en appliquant un type particulier d’apprentissage automatique appelé apprentissage par renforcement (RL). L’apprentissage par renforcement a été utilisé pour construire des systèmes tels qu’AlphaGo et diffère de l’approche d’apprentissage supervisé qui prévaut dans l’apprentissage automatique.

« Dans l’apprentissage supervisé, quelqu’un vous donne un ensemble de données statiques, puis vous essayez d’apprendre des modèles dans les données. Dans l’apprentissage par renforcement, au lieu de cela, vous avez cette simulation, cet environnement interactif, et l’algorithme apprend à regarder le monde et à interagir avec la simulation. Et à partir de là, il peut réellement jouer avec l’environnement, il peut changer la façon dont l’environnement fonctionne », a expliqué Zheng.

Cette flexibilité a été la principale raison pour laquelle RL a été choisi pour l’économiste de l’IA. Comme l’a expliqué Zheng, cette approche comporte trois parties. Il y a la simulation elle-même, l'optimisation de la politique, et puis il y a aussi les données, car les données peuvent être utilisées pour informer sur le fonctionnement de la simulation. L’économiste de l’IA s’est concentré sur la modélisation et la simulation d’un sous-ensemble simplifié de l’économie : l’impôt sur le revenu.

Un monde bidimensionnel a été créé, modélisant les relations spatiales et temporelles. Dans ce monde, les agents peuvent travailler, extraire des ressources, construire des maisons et gagner de l’argent de cette façon. Les revenus que les agents gagnent en construisant des maisons sont ensuite imposés par le gouvernement. La tâche de l'économiste IA est de concevoir un système fiscal capable d'optimiser l'égalité (la similitude des revenus des personnes) et la productivité (somme de tous les revenus).

Modélisation de l’IA par rapport au monde réel

Les recherches de Salesforce montrent que l'IA peut améliorer le compromis entre l'égalité des revenus et la productivité par rapport à trois scénarios alternatifs : une formule fiscale de premier plan développée par Emmanuel Saez, des impôts progressifs ressemblant à la formule fiscale américaine et le marché libre (pas d'impôts). Comme l’a expliqué Zheng, ces 3 alternatives ont été codées dans le système, et leurs résultats ont été mesurés par rapport à ceux dérivés de l’IA via la simulation RL.

Bien que cela semble prometteur, nous devons également noter les limites de cette recherche. Tout d’abord, la recherche ne porte que sur l’impôt sur le revenu dans une économie considérablement simplifiée : il n’y a pas d’actifs, de commerce international et autres, et il n’y a qu’un seul type d’activité. En outre, le nombre total d’agents dans le système est de 10 maximum à ce stade.

L’économiste de l’IA est une simulation économique dans laquelle des agents de l’IA collectent et échangent des ressources, construisent des maisons, gagnent des revenus et paient des impôts à un gouvernement.

Zheng a noté que la recherche a pris en compte de nombreuses dispositions spatiales et distributions différentes des ressources, ainsi que des agents ayant des ensembles de compétences ou des niveaux de compétence différents. Il a également mentionné que le travail actuel est une preuve de concept, en se concentrant sur la partie IA du problème.

« La principale question conceptuelle à laquelle nous nous attaquons est que le gouvernement essaie d'optimiser cette politique, mais nous pouvons également utiliser l'IA pour modéliser la façon dont l'économie va réagir à son tour. C’est ce que nous appelons un problème d’apprentissage par renforcement à deux niveaux.

De ce point de vue, avoir dix agents dans l’économie et le gouvernement est déjà assez difficile à résoudre. Nous devons vraiment mettre beaucoup de travail pour trouver l’algorithme, pour trouver la bonne combinaison de stratégies d’apprentissage pour que le système trouve ces très bonnes solutions de politique fiscale », a déclaré Zheng.

Si l’on regarde comment les gens utilisent RL pour entraîner des systèmes à jouer à certains types de jeux vidéo ou d’échecs, ce sont déjà des problèmes de recherche et d’optimisation très difficiles, même s’ils n’utilisent que deux ou dix agents, a ajouté Zheng. Il a affirmé que l’économiste de l’IA est plus efficace que ces systèmes.

L’équipe d’AI Economist est convaincue que maintenant qu’elle a une bonne compréhension de la partie apprentissage, elle est dans une excellente position pour penser à l’avenir et étendre ce travail à d’autres dimensions, selon Zheng.

Dans une version antérieure de l’AI Economist, l’équipe a également expérimenté la participation de joueurs humains à la simulation. Cela a entraîné plus de bruit, car les gens se comportaient de manière incohérente ; selon Zheng, cependant, l’économiste de l’IA a tout de même atteint des niveaux de qualité et de productivité plus élevés.

Économie et économistes

Certaines questions évidentes en ce qui concerne cette recherche sont de savoir ce que les économistes en pensent et si leurs idées ont également été modélisées dans le système. Aucun membre de l’équipe d’AI Economist n’est réellement économiste. Cependant, certains économistes ont été consultés, selon Zheng.

« À nos débuts, nous n'avions pas d'économiste à bord, alors nous nous sommes associés à David Parkes, qui travaille à la fois en informatique et en économie. Au cours de notre travail, nous avons discuté avec des économistes et recueilli leurs opinions, leurs retours. Nous avons également eu un échange avec Thomas Piketty [économiste et auteur à succès]. C'est un homme très occupé, donc je pense qu'il a trouvé le travail intéressant.

Il a également soulevé des questions sur, dans une certaine mesure, la façon dont les politiques pourraient être mises en œuvre. Et vous pouvez penser à cela sous de nombreux angles, mais dans l’ensemble, il était intéressé par le travail. Je pense que cela reflète la réponse plus large de la communauté économique. Il y a à la fois de l'intérêt et des questions sur la mise en œuvre de cette mesure. De quoi avons-nous besoin pour cela ? C'est matière à réflexion pour la communauté économique", a déclaré M. Zheng.

Quant à la voie à suivre, Zheng pense qu'il s'agit de « rendre cela largement utile et d'avoir un impact social positif ». Zheng a ajouté que l’une des directions vers lesquelles l’équipe se dirige est de se rapprocher du monde réel.

D'une part, cela signifie construire des simulations plus grandes et de meilleure qualité, afin qu'elles soient plus précises et plus réalistes. Zheng pense que ce sera un élément clé des cadres de modélisation économique et de conception des politiques. Une grande partie de cela pour les chercheurs en IA consiste à prouver que vous pouvez faire confiance à ces méthodes.

« Vous voulez montrer des choses comme la robustesse et l’explicabilité. Nous voulons dire à tout le monde ici les raisons pour lesquelles l’IA a recommandé telle ou telle politique. De plus, je crois fermement qu’il s’agit d’un problème interdisciplinaire. Je pense que l’opportunité est vraiment pour les chercheurs en IA de travailler avec des économistes, de travailler avec des experts politiques pour comprendre non seulement les dimensions techniques de leur problème, mais aussi pour comprendre comment cette technologie peut être utile pour la société », a déclaré M. Zheng.

Deux aspects que Zheng a soulignés à propos de cette recherche étaient l’établissement d’objectifs et la transparence. La définition des objectifs, c’est-à-dire les résultats à optimiser, se fait à l’extérieur. Cela signifie que le choix de conception de l’utilisateur dépend de l’utilisateur qu’il s’agisse d’optimiser l’égalité maximale, la productivité maximale, l’équilibre ou, éventuellement, d’intégrer à l’avenir d’autres paramètres tels que la durabilité.

M. Zheng a décrit la « transparence totale » comme la pierre angulaire du projet. Si, à l’avenir, les itérations de ces types de systèmes doivent être utilisées pour le bien social, alors tout le monde devrait être en mesure de les inspecter, de les remettre en question et de les critiquer, selon Zheng. Pour atteindre cet objectif, l’équipe d’AI Economist a mis en open source tout le code et les données expérimentales basés sur la recherche.

Une autre partie de la voie à suivre pour l’équipe d’AI Economist est une plus grande sensibilisation de la communauté des économistes. « Je pense qu'il y a pas mal d'éducation ici, où aujourd'hui les économistes ne sont pas formés en tant qu'informaticiens. Ils n’apprennent généralement pas la programmation en Python, par exemple. Et des choses comme l’apprentissage par renforcement peuvent également ne pas faire partie de leur programme standard ou de leur façon de penser. Je pense qu'il y a une très grande opportunité ici pour la recherche interdisciplinaire », a déclaré Zheng.

L’équipe d’AI Economist s’entretient constamment avec des économistes et présente ces travaux à la communauté scientifique. Zheng a déclaré que l’équipe travaillait sur un certain nombre de projets, dont ils pourront parler davantage dans un avenir proche. Il a conclu qu’un peu d’éducation pour familiariser les gens avec cette approche et une interface utilisateur/UX plus conviviale pourraient grandement aider.