L'IA générative renforce les escroqueries (voici comment et à quoi il faut prêter attention)
Points clés à retenir
- Les fraudeurs font preuve de plus de créativité en proposant des produits contrefaits et des voix off générées par l'IA pour attirer les acheteurs sans méfiance.
- Les fraudeurs des applications de rencontres utilisent des chatbots IA pour cibler leurs victimes ; les faux avis deviennent plus faciles avec les grands modèles linguistiques.
- À mesure que la technologie de l’IA s’améliore, il deviendra plus difficile de distinguer le contenu réel des faux ; recherchez toujours avant d’acheter en ligne.
Le terme « arnaque » s’applique à tout, depuis une attaque ciblée sophistiquée jusqu’à une publicité pré-roll douteuse sur votre site de streaming vidéo préféré. La mauvaise nouvelle est que la conception de ces escroqueries devient de plus en plus facile.
La démocratisation des fausses images
Il existe une frontière fine mais distincte entre l’arnaque et le spam, mais les deux domaines se chevauchent régulièrement. Cela est particulièrement vrai lorsqu’il s’agit de publicité en ligne, que vous naviguiez sur le Web ou que vous parcouriez les réseaux sociaux. Les annonceurs n’approuvent pas toutes les publicités qu’ils diffusent, mais s’appuient plutôt sur les rapports des utilisateurs pour éliminer les mauvais acteurs.
Si vous passez beaucoup de temps en ligne, vous passez probablement chaque jour devant d’innombrables publicités douteuses. Les plus intéressants d’entre eux sont peut-être les produits qui n’existent pas et qui sont plutôt des fabrications fabriquées à la main ou utilisant l’IA générative comme DALL-E ou Midjourney.
Attirer des acheteurs potentiels avec des produits contrefaits n’a rien de nouveau, mais il était une fois, vous auriez besoin de vision, de compétences Photoshop et d’un peu de temps libre. Avec l'arrivée des générateurs de texte en image, vous pouvez passer aussi peu ou autant de temps que vous le souhaitez à insérer des invites dans un générateur d'images jusqu'à ce que vous obteniez les résultats que vous recherchez. Il n’y a aucune limite en ce qui concerne les types de produits que vous pouvez créer.
En avril 2024, Snopes a signalé qu’un grand nombre d’escroqueries « Cat’s Eye Dazzle » frappaient les réseaux sociaux comme une tempête. L'arnaque consistait à générer de fausses fleurs ressemblant à des chats, pour attirer les utilisateurs sur les réseaux sociaux comme Facebook. Des annonces eBay sont apparues pour les graines, tandis que d'autres « vendeurs » ont utilisé des portails d'achat auto-hébergés pour encaisser.
Pour certains, le fait que ces fleurs soient des contrefaçons générées par l’IA est immédiatement évident. D’autres escroqueries similaires ne sont pas aussi farfelues. La chaîne YouTube Atomic Shrimp a créé une vidéo documentant le phénomène, explorant des listes plus raisonnables de « vrais » roses bleues et tournesols, dont aucun n’existe.
Les fleurs qui ressemblent à des chats et les plantes aux couleurs impossibles ne sont que deux exemples d’escroqueries qui semblent avoir attiré des centaines, voire des milliers de personnes. Ces images ont pris quelques secondes à générer et quelques secondes de plus à publier sur Facebook.
Les voix de l'IA donnent de la crédibilité à la vidéo
Vous êtes probablement bien conscient de l’essor des fonctionnalités de synthèse vocale, avec des plateformes sociales comme TikTok qui facilitent la génération d’une voix off qui semble naturelle mais également facile à comprendre. À l’heure actuelle, la voix « TikTok lady » concerne autant l’image de marque de TikTok qu’un outil utile pour les créateurs de contenu.
Mais les voix de l’IA sont bien plus que cela. ChatGPT peut générer des voix off si vous payez pour le niveau premium, et des services comme ElevenLabs proposent des niveaux gratuits. J'ai vu des chaînes YouTube plus petites gérées par des créateurs qui ne sont pas à l'aise pour parler devant la caméra se tourner vers des voix générées par l'IA. Cela peut être choquant, mais cela repose au moins sur de bonnes intentions.
Le principal attrait est qu’une voix off donne de la crédibilité à votre vidéo. Il y a quelques années, vous auriez besoin de consacrer du temps, des efforts ou des fonds pour ajouter une voix off à votre vidéo. Vous auriez besoin d’équipement et de pratique ou d’un doubleur embauché. Désormais, c'est aussi simple que d'écrire un script qui vous convient et de choisir la voix que vous souhaitez utiliser.
Cela rend les publicités frauduleuses pour les programmes d’enrichissement rapide et les produits en dropshipping d’autant plus crédibles. Si la publicité ressemble à une vraie affaire, vous êtes probablement enclin à faire davantage confiance au produit. Les gens qui diffusent ces publicités le savent, c’est pourquoi il y a eu une explosion de cette pratique au cours de la dernière année.
Pour l’instant, il n’est pas trop difficile d’identifier les voix off générées par l’IA. Les inflexions et la prononciation peuvent sembler un peu robotiques, et le rythme naturel de la parole humaine n’est pas tout à fait là. Attachez votre ceinture, car ces outils ne feront que s’améliorer et éventuellement vous ne pourrez plus faire la différence.
Les fraudeurs des applications de rencontres jettent des filets plus larges
C'est une chose d'être appâté avec de faux produits et une voix off robotisée, mais qu'en est-il d'une arnaque qui vous cible personnellement ? C’est exactement ce qui se passe à grande échelle dans l’espace des rencontres en ligne, grâce à la puissance de grands modèles de langage qui peuvent converser comme de vraies personnes (enfin, assez près).
Grâce à des chatbots basés sur l’IA, les fraudeurs peuvent ratisser large pour piéger leurs victimes à l’aide d’un logiciel capable de maintenir une conversation suffisamment longtemps pour attirer l’attention de quelqu’un. Il existe plusieurs façons d’utiliser cette méthode, et toutes semblent invasives.
Certains utilisent des chatbots pour envoyer des messages à un grand nombre de personnes, puis effectuent un suivi dans l'espoir de rencontrer quelqu'un qu'ils aiment vraiment. Début 2024, d’innombrables rapports faisaient état d’un homme ayant rencontré sa femme en utilisant cette technique. Que vous le croyiez ou non, il existe un grand nombre d'applications et de services mobiles qui promettent de discuter avec des partenaires potentiels pour vous (moyennant des frais, bien sûr).
Les choses prennent une tournure nettement plus sinistre lorsque ces outils sont utilisés pour trouver des cibles d’escroqueries financières. Les escrocs en ligne exploitent depuis longtemps le désir humain fondamental de camaraderie dans le but de soutirer de l’argent à leurs cibles. Ils peuvent désormais mettre les chatbots à leur service, prenant le relais lorsqu’ils le jugent nécessaire.
Ajoutez à cela un générateur d’images IA qui vous donne accès à autant de jolis visages originaux que vous le souhaitez, et les escrocs n’auront même plus besoin de voler les photos de profil de quelqu’un d’autre.
La vidéo IA est à l’horizon
La conversion texte-vidéo convaincante n’est pas largement disponible au moment de la rédaction, mais avec des outils comme OpenAI SORA à l’horizon, elle est en passe de devenir une force avec laquelle il faut compter. Avec seulement une invite, l’outil d’OpenAI peut générer des images animées réalistes (même si vous regardez attentivement, vous pouvez repérer les défauts).
Au moins, la vidéo générée par l’IA ne fera qu’exacerber les problèmes posés par d’autres contenus générés par l’IA. Grâce à l'utilisation d'une intelligence artificielle en constante amélioration, il n'est pas difficile d'imaginer un avenir dans lequel vous pourrez générer de fausses images de produits, une vidéo de ce produit utilisé dans des endroits pertinents par de « vraies » personnes et une voix off pour la vidéo que vous pouvez utiliser. pour en faire la publicité.
Si vous vous sentez particulièrement entreprenant, vous pouvez alors utiliser un grand modèle linguistique pour améliorer la réputation de votre produit…
L'IA peut même falsifier les avis
Les fausses critiques ne sont pas nouvelles. Nous les avons tous vus et beaucoup d’entre nous sont tombés amoureux d’eux (que nous le sachions ou non). Mais jusqu’à il y a quelques années, les faux avis nécessitaient un certain effort. Avec l’avènement des grands modèles linguistiques, les fausses critiques peuvent littéralement s’écrire à grande échelle.
L’utilisation abusive de grands modèles linguistiques pour générer des avis et promouvoir des produits ou des entreprises est une chose, mais la technologie fonctionne dans les deux sens. Qu’en est-il de l’utilisation de cette technologie pour rédiger des critiques critiquant injustement un produit concurrent ? Il n’a jamais été aussi simple de générer une chape négative, même si vous devez la copier-coller vous-même.
Associez les avis générés par l’IA à des escroqueries de brossage plus traditionnelles et vous obtenez en plus la crédibilité d’une étiquette « achat vérifié ». En fin de compte, c’est aux détenteurs de plateformes de lutter contre cette nouvelle vague de contenus en ligne trompeurs.
Les choses ne peuvent que s'améliorer (pire)
Ces outils s’amélioreront avec le temps, rendant plus difficile la distinction entre le réel et le fantastique. Vous devrez être attentif à la technologie si vous voulez garder une longueur d’avance sur les escrocs. Si vous comprenez ce qui est possible, vous êtes mieux armé pour comprendre ce qui est réel et ce qui ne l’est pas.
Facebook regorge particulièrement d’images générées par l’IA, donc comprendre comment repérer les contrefaçons générées par l’IA est une compétence précieuse. Vous devez toujours vous méfier des publicités en ligne, que vous les repérez sur vos sites Web préférés ou sur un réseau social.
Faites toujours vos recherches avant d’acheter quelque chose, qu’il s’agisse d’un élément technologique ou d’un paquet de graines que vous avez vu sur Facebook. Ironiquement, vous pouvez également demander à votre chatbot préféré d’où proviennent ses affirmations.