La plateforme de génération de voix IA qui a choqué le monde fait l'objet d'une mise à jour pour lutter contre les abus
La fonctionnalité de clonage vocal d'ElevenLab a été mise à profit pour de bons et de mauvais cas d'utilisation. La dernière mise à jour peut-elle mettre fin à cette utilisation abusive ?
L'IA générative a la capacité de générer tous les types de contenu, notamment du texte, des œuvres d'art, des images et même de la parole.
La startup d'IA, ElevenLabs, prend en charge la génération de synthèse vocale et le clonage vocal depuis son lancement bêta en janvier et compte plus d'un million d'utilisateurs enregistrés.
Aussi : Meta dévoile Voicebox AI pour reproduire les voix de vos amis et de vos proches
Mardi, ElevenLabs a annoncé la clôture d'un tour de table de série A de 19 millions de dollars, ainsi que quelques mises à jour majeures de la plateforme, notamment celles destinées à répondre à sa plus grande controverse.
Depuis son lancement, la technologie de génération vocale d'Elevenlabs a eu des implications à la fois positives et négatives.
Certaines des utilisations positives, telles que décrites par ElevenLabs, incluent « des auteurs indépendants créant des livres audio, des développeurs exprimant des personnages dans des jeux vidéo, aidant les malvoyants à accéder au contenu écrit en ligne et alimentant la première chaîne de radio IA au monde ».
Bien que ces cas d’utilisation soient positifs et fassent progresser les processus métier de nombreux secteurs différents, il existe des applications tout aussi préjudiciables.
L'outil de clonage vocal, qui prend des extraits de la voix d'une personne pour générer un nouvel audio, a été utilisé à des fins néfastes, donnant l'impression que des personnalités publiques tiennent des déclarations horribles et discriminatoires.
Quelques semaines après la sortie de la version bêta, ElevenLabs s'est immédiatement adressé à Twitter pour résoudre les « cas d'utilisation abusive du clonage vocal ». La société a suggéré des moyens potentiels de lutter contre le problème, tels qu'une vérification supplémentaire du compte, la vérification des droits d'auteur sur la voix, le déplacement du clonage vocal vers un niveau payant et même la vérification manuelle de chaque demande.
Aussi : Vimeo ajoute une suite d'outils d'IA pour rendre la création vidéo beaucoup plus facile
Aujourd'hui, l'entreprise a rendu public ce qui semble être la solution proposée par l'entreprise au problème, un classificateur vocal AI. Cet outil sera capable de déchiffrer si l'audio téléchargé contient ou non de l'audio généré par l'IA à partir d'ElevenLabs.
"La sortie du AI Speech Classifier est la dernière étape dans la démarche de transparence de l'entreprise, et c'est la pierre angulaire de son engagement à créer un paysage médiatique génératif sûr", a déclaré ElevenLabs dans le communiqué.
Selon un article précédent annonçant l'outil, l'outil maintient une précision >99 % pour identifier lorsque l'audio n'est pas modifié.
Cependant, si l'audio a subi des transformations de codec ou de réverbération, la précision chute à plus de 90 %, et plus le contenu a été traité, plus la précision diminue, selon le communiqué.
Cet outil n’empêchera pas les abus et peut simplement aider à dissiper la confusion une fois le préjudice initial causé. Son efficacité pour résoudre le problème est discutable, mais ce n’est qu’un petit pas.
Ce n’est pas la première fois que la technologie de génération d’IA est utilisée à mauvais escient pour cibler des personnalités publiques. Par exemple, un générateur de musique IA a pu générer une collaboration entre Drake et The Weekend qui semblait réelle même si aucun des deux artistes n'était réellement sur la piste.
Aussi : La musique générée par l'IA peut-elle remporter un prix musical ? Les Grammys révèlent de nouvelles règles
Des générateurs d’art et d’images d’IA ont également été utilisés pour générer des images fausses et réalistes de personnalités publiques effectuant certaines activités. Certaines de ces images ont été utilisées de manière négative à des fins de propagande politique, tandis que d'autres ont simplement été utilisées à des fins de divertissement, comme le mème du pape François dans une doudoune.
En plus de l'AI Speech Classifier, ElevenLabs a également annoncé l'arrivée de « Projets » à sa suite de produits.
« Projets » est un flux de travail permettant d'éditer et de créer du contenu oral de longue durée, disponible dès maintenant en accès anticipé. Il est destiné à servir de guichet unique pour les besoins d'édition audio et à fournir un "niveau de simplicité Google Docs" à la création audio, selon le communiqué.
L'ajout de la fonctionnalité « Projets » est similaire à ceux que nous avons vus sur d'autres plateformes de créativité, telles que Vimeo, TikTok et Adobe Express. L’objectif de toutes ces plateformes est de mettre en œuvre l’IA de manière à optimiser le flux de travail des utilisateurs et à permettre une création de contenu plus facile et optimisée.