Les données synthétiques peuvent-elles résoudre les problèmes de confidentialité de l’IA ? Cette entreprise parie là-dessus
Surtout, AI a lancé un fabricant de texte synthétique pour protéger les informations des clients. Comment cela fonctionne et s'il faut s'inquiéter de l'effondrement du modèle.
Alors que de plus en plus d'entreprises investissent dans l'IA générative (gen AI) pour des cas d'utilisation et des produits sur mesure, les données propriétaires deviennent de plus en plus importantes pour la formation de grands modèles linguistiques (LLM). Contrairement à ChatGPT, qui a été formé sur des milliards de points de données publics (e-mails, scripts, réseaux sociaux, documents) récupérés sur Internet, l'IA de génération d'entreprise doit souvent être spécifiée dans les données clients de cette entreprise.
Cependant, les données de clients réels peuvent contenir des informations personnelles identifiables (PII), ce qui rend leur utilisation un risque pour la vie privée. C'est là qu'intervient la société de données synthétiques structurées Mostly AI.
Mardi, la société a lancé une fonctionnalité de texte synthétique qui automatise le processus de génération de données synthétiques et préserve les modèles de l'ensemble de données d'origine de l'utilisateur.
En utilisant des données synthétiques pour former des modèles, Mostly AI vise à aider les entreprises à éviter de risquer la confidentialité sans sacrifier les informations que les données clients telles que les e-mails, les transcriptions d'assistance et les échanges de chatbots peuvent révéler. Selon l’entreprise, les données synthétiques peuvent également représenter plus de diversité que les données originales.
Au-delà de la confidentialité, d’autres cas d’utilisation incluent le rééquilibrage d’un ensemble de données pour l’adapter à un modèle ou supprimer les biais et la génération de données fictives pour les tests logiciels.
Comment ça marche
Les entreprises téléchargent leur ensemble de données propriétaires sur des générateurs Mostly AI, qui sont des ensembles réutilisables protégés par la confidentialité qui incluent les métadonnées des données d'origine. Les utilisateurs peuvent télécharger des données depuis leur appareil local ou une autre source externe et affiner leur générateur sur la plate-forme Mostly AI.
Plateforme principalement basée sur l'IA, présentée dans une démo envoyée à ZDNET
Une fois qu'ils ont confirmé la configuration et les types d'encodage corrects, les utilisateurs sélectionnent parmi les modèles principalement IA qu'ils souhaitent utiliser, puis choisissent parmi plusieurs modèles de langage, y compris les options pré-entraînées de HuggingFace.
Ce qui émerge est une version synthétisée et protégée de la vie privée des données qui préserve ses modèles statistiques d’origine.
Sélection du modèle
Cette configuration permet de former le générateur d'une entreprise. Les utilisateurs peuvent ensuite comparer les données synthétiques et réelles à l'aide des rapports du modèle pour garantir leur exactitude.
Surtout, AI affirme que ses ensembles de données semblent « aussi réels que les données client d'origine d'une entreprise avec autant de détails, mais sans les données personnelles d'origine - aidant ainsi les entreprises à se conformer aux réglementations de protection de la vie privée telles que le RGPD et le CCPA ». La société a ajouté que son texte synthétique « offre une amélioration des performances allant jusqu'à 35 % par rapport au texte généré en invitant GPT-4o-mini en fournissant soit aucun, soit juste quelques exemples concrets ».
Alors, les données synthétiques sont-elles vraiment l’avenir de l’IA ?
Un rapport d'AGartner d'avril révèle que les données synthétiques ont un potentiel non exploité en matière d'ingénierie logicielle, mais recommande qu'elles soient déployées avec précaution. La création de données synthétiques peut nécessiter beaucoup de ressources, car leur utilisation efficace nécessite des étapes de test spécifiques pour chaque cas d'utilisation.
"Aujourd'hui, la formation à l'IA atteint un plateau alors que les modèles épuisent les sources de données publiques et produisent des rendements décroissants", a déclaré Tobias Hann, PDG de Mostly AI, dans le communiqué. « Pour exploiter des données propriétaires de haute qualité, qui offrent une valeur et un potentiel bien supérieurs aux données publiques résiduelles actuellement utilisées, les entreprises mondiales doivent franchir le pas et exploiter les données synthétiques structurées et non structurées pour former et déployer en toute sécurité les prochaines solutions d'IA générative. "
Une préoccupation commune est que la bulle de l’IA est sur le point d’éclater, en partie parce que les modèles manquent de données accessibles au public à ingérer. Bien que ce soit techniquement faux - toute activité humaine peut être constituée de données, mais elle peut tout simplement ne pas être codifiée, collectée, structurée et gratuite - le besoin de données plus utilisables pour former des modèles est réel. Après tout, il est beaucoup plus facile (et moins coûteux) de devenir vraiment bon dans la génération de données synthétiques que de numériser des pages désordonnées de notes manuscrites. EvenMeta a utilisé des données humaines et synthétiques pour entraîner Llama 3.1 405B.
Mais qu’en est-il de l’effondrement des modèles - l’idée selon laquelle les modèles se détériorent une fois qu’ils ont ingéré trop de données synthétiques ?
Surtout, AI a déclaré dans un e-mail adressé à ZDNET qu'elle évitait cette possibilité car « les données synthétiques sont générées une seule fois et directement appliquées aux tâches en aval », plutôt que utilisées pour entraîner les modèles de manière répétée.
Il reste à voir si l’utilisation accrue de données synthétiques dans tous les secteurs crée une menace plus large d’effondrement du modèle. D'ici là, les entreprises intéressées par l'outil Mostly AI peuvent visiter son site Web.