Que sont les informations d'identification de contenu ? Voici pourquoi la nouvelle IA d'Adobe garde ces métadonnées au premier plan
À une époque où il est plus facile que jamais de créer de faux contenus convaincants et réalistes, ces « étiquettes nutritionnelles » pour le contenu numérique sont là pour vous aider.
Adobe a été à l'avant-garde du domaine de l'IA générative, en dévoilant de nombreuses solutions d'IA, depuis votre générateur de texte en image classique jusqu'aux outils spécialement conçus pour les entreprises. Quelle que soit l’application, une chose reste la même : la présence de Content Credentials.
Lors du Adobe Summit cette semaine, la société a étendu Content Credentials à ses applications Creative et Enterprise, y compris sa nouvelle référence de structure dans Firefly et Adobe Experience Manager.
Cet ajout souligne l'engagement continu d'Adobe à aider le public à faire la différence entre le contenu authentique et faux - un problème exacerbé par la présence croissante d'outils d'IA générative - en incluant des métadonnées inviolables qui incluent des informations sur la façon dont le contenu a été créé.
"Le problème technologique ici est le plus simple à résoudre - nous l'avons résolu ; l'adoption est la deuxième chose la plus difficile à résoudre, mais nous montrons des progrès", a déclaré Andy Parsons, directeur principal de la Content Authenticity Initiative chez Adobe, à ZDNET. .
Lors du sommet, Adobe a annoncé que PricewaterhouseCoopers (PwC), NBCUniversal News Group, WPP et Autodesk avaient rejoint la Content Authenticity Initiative, une organisation qui promeut « l'adoption d'une norme industrielle ouverte pour l'authenticité et la provenance du contenu ». Au cours de l’année écoulée, des géants de la technologie tels qu’OpenAI, Meta et Google ont soutenu l’utilisation des informations d’identification de contenu.
"Vous voyez ces grandes marques nous rejoindre non seulement pour nous donner leur logo et dire que c'est une bonne idée, mais aussi pour mettre en œuvre des informations d'identification de contenu", a ajouté Parsons.
Que sont les informations d'identification de contenu ?
Alors, pourquoi ces entreprises s’intéressent-elles aux informations d’identification de contenu ? Examinons les informations d'identification de contenu et comment vous pouvez les utiliser.
Les informations d'identification de contenu servent d'« étiquette nutritionnelle » pour le contenu numérique, permettant aux utilisateurs de voir les ingrédients essentiels du contenu, notamment le nom du créateur, l'heure et la date de création, les outils utilisés pour créer le contenu (tels qu'un appareil photo ou un logiciel) et les modifications apportées. .
Les informations sont ajoutées de manière permanente au contenu via des métadonnées cryptographiques et un filigrane, garantissant que les informations d'identification restent attachées, même si quelqu'un modifie les données ou le contenu.
Étant donné que les informations d'identification de contenu sont basées sur une technologie gratuite et open source, les créateurs peuvent choisir d'attacher des informations d'identification de contenu à n'importe quel contenu pour garantir que le crédit approprié soit attribué. De plus, de nombreuses applications d'IA, telles qu'Adobe Firefly, implémentent automatiquement les informations d'identification de contenu pour générer du contenu.
Par conséquent, il est significatif que les principaux acteurs de l’espace de l’IA générative, tels qu’OpenAI et Meta, aient montré leur engagement à utiliser les informations d’identification de contenu pour étiqueter les images générées dans leurs modèles d’IA, œuvrant ainsi vers un monde dans lequel toutes les images générées par l’IA sont étiquetées. correctement.
Pourquoi l'étiquetage des images générées par l'IA est si important
À mesure que les outils d’IA générative deviennent plus populaires et que la création de fausses images réalistes devient plus facile que jamais, la nécessité d’identifier correctement le contenu généré par l’IA devient plus critique.
"À mesure que les outils [d'IA générative] se démocratisent, deviennent peu coûteux ou gratuits, et que la qualité de ces outils peu coûteux ou gratuits produits devient impossible à distinguer de la réalité, bien sûr, [les informations d'identification de contenu sont] de plus en plus importantes", a déclaré Parsons.
Les acteurs malveillants peuvent utiliser l’IA générative pour créer de faux contenus afin de diffuser des informations erronées et d’induire le public en erreur. Cette tendance constitue une menace particulièrement imminente en année électorale.
"Une véritable préoccupation [est] que ces élections de cette année, en 2024, seront peut-être la saison des élections pour l'IA, où les gens comprendront ce qui est réel, ce que font les candidats, ce qu'ils ne font pas... [il] y aura suffisamment de choses. contenu trompeur [qui] ajoutera beaucoup de bruit au système", a ajouté Parsons.
Pour lutter contre cette menace, et en plus des informations d'identification de contenu, Adobe Firefly prend d'autres mesures pour garantir que les générations d'IA de personnalités politiques ou de célébrités ne soient pas possibles.
Adobe AI a été formé uniquement sur les images Adobe Stock et le contenu du domaine public dont les droits d'auteur ont expiré. La technologie ne peut pas générer l’image d’une célébrité ou d’un candidat politique car elle n’a pas été formée sur ces données.
"Donc, entre ces vérifications, la possibilité d'ajouter ces métadonnées et la façon dont le modèle d'image est formé sur du contenu sous licence ouverte - nous ne grattons pas l'Internet ouvert - le modèle d'image Firefly n'a pas pu créer un Mickey Mouse. ou un Donald Trump parce qu'il ne s'agit jamais essentiellement de voir un Mickey Mouse ou un Donald Trump", a déclaré Deepa Subramaniam, vice-président du marketing produit d'Adobe chez ZDNET.
Même pour les applications qui n'interdisent pas la génération de personnalités publiques et qui sont formées en grattant Internet, la présence d'informations d'identification de contenu peut aider à résoudre le problème de la provenance et de l'authenticité du contenu en permettant aux utilisateurs de vérifier facilement la source d'une image. , sans rien connaître aux métadonnées.
Comment utiliser les informations d'identification de contenu
Pour le consommateur, il est facile de commencer à utiliser Content Credentials. Si vous voyez l'épingle Informations d'identification du contenu à côté d'un élément de contenu, vous pouvez cliquer dessus pour afficher toutes les informations les plus vitales de l'image, comme le montre l'image en haut de l'article. Lorsqu'une épingle n'est pas disponible, vous pouvez télécharger l'image sur le site Web Content Credentials.
Une fois la photo téléchargée, s'il y a des informations d'identification de contenu dans les métadonnées, elles vous seront présentées. Sinon, il fera correspondre votre image à des images similaires sur Internet et vous indiquera si ces images ont été générées par l'IA ou non.
J'ai essayé la technologie en capturant l'image virale du pape François portant une doudoune et en la téléchargeant sur le site Content Credentials. Comme il s'agissait d'une capture d'écran, l'image ne contenait pas de métadonnées. Cependant, le site a comparé la photo à d'autres images trouvées sur Internet et a identifié qu'elle avait été générée par l'IA, comme le montre l'image ci-dessous :
L'utilisation des informations d'identification de contenu était intuitive, simple et utile pour découvrir ce que je voulais savoir, et cela deviendra plus facile avec le temps à mesure que l'épingle des informations d'identification de contenu deviendra présente sur Internet.
"Je pense que la meilleure façon, en tant que consommateur, d'en apprendre davantage sur les choses est de les voir en action : touchez-les, cliquez dessus, voyez comment cela fonctionne", a déclaré Parsons. "Donc, toutes ces ressources sont disponibles sur contentcredentials.org."
Divulgation : le coût du voyage de Sabrina Ortiz à Las Vegas pour l'Adobe Summit a été couvert par Adobe, une pratique courante dans l'industrie pour les voyages longue distance. Les jugements et opinions des rédacteurs et éditeurs de ZDNET sont toujours indépendants des sociétés que nous couvrons.