Le nouvel outil de Google peut détecter les images générées par l'IA, mais ce n'est pas si simple

L'outil a été créé par l'équipe DeepMind comme une étape vers une IA responsable.

L'outil peut détecter les images générées par l'IA même après l'édition, la modification des couleurs ou l'ajout de filtres.

Les images générées par les outils d’intelligence artificielle sont de plus en plus difficiles à distinguer de celles créées par les humains. Les images générées par l’IA peuvent propager des informations erronées dans des proportions massives, conduisant à une utilisation irresponsable de l’IA. À cette fin, Google a dévoilé un nouvel outil SynthID capable de différencier les images générées par l’IA de celles créées par l’homme.

L'outil, créé par l'équipe DeepMind, ajoute un filigrane numérique imperceptible aux images générées par l'IA, comme une signature. Le même outil peut détecter ultérieurement ce filigrane pour indiquer quelles images ont été créées par l'IA, même après des modifications, comme l'ajout de filtres, la compression, la modification des couleurs, etc.

SynthID combine deux modèles d'apprentissage profond en un seul outil. L’un ajoute visuellement le filigrane au contenu original de manière imperceptible à l’œil nu et un autre identifie les images filigranées.

Actuellement, SynthID ne peut pas détecter toutes les images générées par l'IA, car elle est limitée à celles créées avec l'outil de conversion texte-image de Google, Imagen. Mais c’est le signe d’un avenir prometteur pour l’IA responsable, surtout si d’autres entreprises adoptent SynthID dans leurs outils d’IA générative.

L'outil sera progressivement déployé auprès des clients Vertex AI utilisant Imagen et n'est disponible que sur cette plate-forme. Cependant, Google DeepMind espère le rendre bientôt disponible dans d'autres produits Google et à des tiers.