L'adoption massive d'outils d'IA générative fait dérailler un facteur très important, selon le MIT

Le rythme rapide des progrès de l’IA crée une « IA fantôme », ce qui rend plus difficile l’utilisation responsable de l’IA, prévient une étude du MIT Sloan Management Review et du BCG.

De nouvelles plateformes et outils d’intelligence artificielle (IA) apparaissent chaque jour pour aider les développeurs, les data scientists et les analystes commerciaux. Cependant, cette croissance rapide des technologies émergentes augmente également la complexité des constellations d’IA bien au-delà de la capacité de responsabilité et de redevabilité des systèmes d’IA.

C'est la conclusion d'une récente enquête menée auprès de 1 240 dirigeants publiée par le MIT Sloan Management Review et le Boston Consulting Group (MIT SMR et BCG), qui a examiné les progrès des initiatives d'IA responsable et l'adoption d'outils d'IA construits en interne et d'origine externe. ce que les chercheurs appellent « l’IA fantôme ».

La promesse de l'IA a des conséquences, suggèrent les auteurs de l'étude, Elizabeth Renieris (Oxford's Institute for Ethics in AI), David Kiron (MIT SMR) et Steven Mills (BCG) : « Par exemple, l'IA générative s'est révélée lourde à manier, posant des problèmes imprévisibles. risques pour les organisations non préparées à son large éventail de cas d’utilisation.

De nombreuses entreprises « ont été prises au dépourvu par la propagation de l’utilisation de l’IA fantôme dans l’ensemble de l’entreprise », observent Renieris et ses co-auteurs. De plus, le rythme rapide des progrès de l’IA « rend plus difficile l’utilisation responsable de l’IA et exerce une pression sur les programmes d’IA responsables pour qu’ils suivent le rythme ».

Ils préviennent que les risques liés à l’IA fantôme, toujours croissante, augmentent également. Par exemple, la dépendance croissante des entreprises à l'égard d'une offre croissante d'outils d'IA tiers, ainsi que l'adoption rapide d'algorithmes d'IA générative (tels que ChatGPT, Dall-E 2 et Midjourney) qui utilisent des données de formation pour générer des données réalistes ou apparemment réalistes. des textes, images ou audio factuels - les expose à de nouveaux risques commerciaux, juridiques et de réputation difficiles à suivre.

Les chercheurs font référence à l'importance d'une IA responsable, qu'ils définissent comme « un cadre avec des principes, des politiques, des outils et des processus pour garantir que les systèmes d'IA sont développés et exploités au service du bien des individus et de la société tout en ayant un impact transformateur sur les entreprises. » ".

Une autre difficulté vient du fait qu'un certain nombre d'entreprises « semblent réduire les ressources internes consacrées à l'IA responsable dans le cadre d'une tendance plus large aux licenciements dans l'industrie », préviennent les chercheurs. "Ces réductions des investissements dans l'IA responsable se produisent sans doute au moment où elles sont le plus nécessaires."

Par exemple, l’utilisation généralisée du chatbot ChatGPT par les employés a surpris de nombreuses organisations et pourrait avoir des implications en matière de sécurité. Les chercheurs affirment que les cadres d’IA responsables n’ont pas été écrits pour « faire face au nombre soudain et inimaginable de risques introduits par les outils d’IA générative ».

L'étude suggère que 78 % des organisations déclarent avoir accédé, acheté, concédé sous licence ou utilisé de toute autre manière des outils d'IA tiers, notamment des API commerciales, des modèles pré-entraînés et des données. Plus de la moitié (53 %) s’appuient exclusivement sur des outils d’IA tiers et ne disposent d’aucune technologie d’IA conçue ou développée en interne.

Les programmes d'IA responsables « devraient couvrir à la fois les outils d'IA construits en interne et par des tiers », insistent Renieris et ses co-auteurs. "Les mêmes principes éthiques doivent s'appliquer, quelle que soit l'origine du système d'IA. En fin de compte, si quelque chose devait mal se passer, cela n'aurait pas d'importance pour la personne qui serait affectée négativement si l'outil était construit ou acheté."

Les co-auteurs avertissent que même s'il n'existe pas de solution miracle pour atténuer les risques liés à l'IA de tiers, ou tout autre type de risque lié à l'IA, ils préconisent une approche à plusieurs volets pour garantir une IA responsable dans l'environnement largement ouvert d'aujourd'hui.

De telles approches pourraient inclure les éléments suivants :

• Évaluation des pratiques d'IA responsable d'un fournisseur
• Langage contractuel exigeant le respect des principes d’IA responsable
• Pré-certification et audits des fournisseurs (le cas échéant)
• Examens internes au niveau du produit (lorsqu'un outil tiers est intégré à un produit ou un service)
• Respect des exigences réglementaires pertinentes ou des normes de l'industrie
• Inclusion d'un ensemble complet de politiques et de procédures, telles que des lignes directrices pour le développement éthique de l'IA, des cadres d'évaluation des risques et des protocoles de surveillance et d'audit.

Le spectre de la législation et des mandats gouvernementaux pourrait rendre de telles actions nécessaires à mesure que les systèmes d’IA seront introduits, préviennent les co-auteurs.