Meta promet de mieux étiqueter les vidéos, images et audio générés par l'IA
L'entreprise s'engage à changer la façon dont elle gère le contenu généré par l'IA sur Facebook, Instagram et Threads, sur la base des commentaires de son conseil de surveillance indépendant.
En février, Meta a annoncé son intention d'ajouter de nouvelles étiquettes sur Instagram, Facebook et Threads pour indiquer quand une image a été générée par l'IA. Désormais, en utilisant des normes techniques créées par l'entreprise et des partenaires industriels, Meta prévoit d'appliquer ses labels « Made with AI » aux vidéos, images et clips audio générés par l'IA, sur la base de certains signaux partagés par l'industrie. (La société ajoute déjà une balise « Imaginé avec l'IA » aux images photoréalistes créées à l'aide de ses propres outils d'IA.)
Dans un article de blog publié vendredi, Meta a annoncé son intention de commencer à étiqueter le contenu généré par l'IA en mai 2024 et de cesser de supprimer automatiquement ce contenu en juillet 2024. Dans le passé, l'entreprise s'appuyait sur sa politique médiatique manipulée pour déterminer si l'IA ou non. -les images et vidéos créées doivent être supprimées. Meta a expliqué que le changement découle des commentaires de son Conseil de surveillance, ainsi que des sondages d'opinion publique et des consultations avec des universitaires et d'autres experts.
"Si nous déterminons que des images, des vidéos ou des fichiers audio créés ou modifiés numériquement créent un risque particulièrement élevé de tromper matériellement le public sur une question importante, nous pouvons ajouter une étiquette plus visible afin que les gens aient plus d'informations et de contexte", a déclaré Meta. dans son article de blog. "Cette approche globale donne aux gens plus d'informations sur le contenu afin qu'ils puissent mieux l'évaluer et ainsi avoir un contexte s'ils voient le même contenu ailleurs."
Le comité de surveillance de Meta, qui a été créé en 2020 pour examiner les politiques de modération de contenu de l'entreprise, a constaté que l'approche existante de Meta en matière de modération de l'IA est trop étroite. Rédigée en 2020, lorsque le contenu généré par l'IA était relativement rare, la politique couvrait uniquement les vidéos créées ou modifiées par l'IA pour donner l'impression qu'une personne disait quelque chose qu'elle n'avait pas dit. Compte tenu des progrès récents en matière d'IA générative, le conseil d'administration a déclaré que la politique doit désormais également couvrir tout type de manipulation montrant quelqu'un faire quelque chose qu'il n'a pas fait.
En outre, le conseil affirme que la suppression des médias manipulés par l'IA qui ne violent pas les normes communautaires de Meta pourrait restreindre la liberté d'expression. En tant que tel, le conseil d’administration a recommandé une approche moins restrictive dans laquelle Meta qualifierait le média de généré par l’IA tout en permettant aux utilisateurs de le visualiser.
Meta et d’autres sociétés ont été confrontées à des plaintes selon lesquelles l’industrie n’en faisait pas assez pour réprimer la propagation des fausses nouvelles. Le recours à des médias manipulés est particulièrement inquiétant alors que les États-Unis et de nombreux autres pays organisent des élections de 2024 pour lesquelles les vidéos et les images des candidats peuvent facilement être truquées.
"Nous voulons aider les gens à savoir quand des images photoréalistes ont été créées ou éditées à l'aide de l'IA, c'est pourquoi nous continuerons à collaborer avec nos pairs de l'industrie à travers des forums comme le Partenariat sur l'IA et resterons en dialogue avec les gouvernements et la société civile - et nous continuer à revoir notre approche à mesure que la technologie progresse", a ajouté Meta dans son message.