Nous ne sommes pas prêts à affronter l'impact de l'IA générative sur les élections

L'universitaire présidentiel résident de ZDNET se penche en profondeur sur les deepfakes des campagnes politiques à l'ère de l'IA générative. Cela touche bien plus que les concours nationaux. L’IA transformera également la politique locale.

Est-ce que tout cela vous donne envie de pleurer ? Eh bien, George Washington a pleuré ici aussi.

Avez-vous entendu celui selon lequel George Washington ne soutenait pas la guerre révolutionnaire ?

Alors qu’il était général à la tête des forces rebelles, George Washington était convaincu que la guerre d’indépendance américaine était une erreur. Il était "loin d'être sûr que nous méritons de réussir".

En 1777, un soldat servant sous les ordres du général britannique Oliver De Lancey trouva une malle appartenant au général Washington. La malle contenait une série de lettres de la main de Washington qui racontaient son désir de réconciliation avec l'Angleterre et même : « J'aime mon roi ».

La malle a été retrouvée entre les mains du valet de Washington (et esclave) William Lee, lorsque Lee a été capturé par les Britanniques.

C’était là une preuve tangible que même Washington lui-même ne soutenait pas la guerre.

Des années plus tard, en 1795, alors que Washington demandait au Sénat de ratifier le traité Jay avec la France, les lettres furent citées comme preuve qu'on ne pouvait pas faire confiance à la loyauté de Washington et qu'il ne se souciait pas vraiment de la démocratie. Cela a rendu l'adoption du Traité Jay très difficile.

Sauf que… William Lee n’a jamais été capturé par les Britanniques. En fait, William Lee n’a jamais quitté le côté de Washington pendant la guerre d’indépendance. Les lettres étaient des contrefaçons soigneusement conçues, l’équivalent des deepfakes du XVIIIe siècle.

Ils ont tellement hanté Washington qu'il a écrit -- comme l'un de ses derniers actes en fonction -- une réfutation des faux dans une lettre au secrétaire d'État américain Timothy Pickering.

De George Washington à Washington, DC

Avance rapide jusqu’en 2018. Je suis sur le point d’aborder des sujets politiquement chargés. Pendant un instant, s’il vous plaît, ignorez la politique et concentrez-vous sur celles-ci comme exemples de l’existence de la désinformation. C'est le sujet de cet article. La désinformation nuit à toutes les parties. Mais pour vous montrer ce qui se passe, je dois citer des exemples réels. Et cela signifie que je dois mentionner les politiciens.

Alors c'est parti…

Exemple 1 : campagne de désinformation soutenue par le Kremlin

Le House Intelligence Committee, chargé d’enquêter sur l’élection présidentielle de 2016, a publié une bibliothèque de plus de 3 500 publicités contenant de fausses affirmations destinées à perturber le système politique américain.

Les publicités ont été produites et achetées par une ferme de trolls soutenue par le Kremlin entre 2015 et 2017. En plus des publicités achetées, la commission du renseignement de la Chambre des représentants a déclaré qu'il y avait au moins « 80 000 éléments de contenu organique » sur les réseaux sociaux produits par des intérêts russes.

Exemple 2 : Vidéo modifiée simulant un comportement ivre

Ensuite, nous allons nous arrêter en 2019 pour regarder une vidéo qui montrait Nancy Pelosi, alors présidente de la Chambre, en train de bredouiller ses mots et de paraître ivre. Il s’agit d’une vidéo de Pelosi prononçant un discours lors d’un événement du Center for American Progress (un « groupe de réflexion » de tendance libérale).

La vidéo, partagée plus de 45 000 fois sur Facebook et hébergeant plus de 23 000 commentaires, était un faux. La vidéo originale avait été montée pour « rendre sa voix brouillée et déformée » et pour la faire paraître en état d'ébriété.

La militarisation de l’IA générative dans les campagnes politiques

Des photos, des vidéos, des fichiers audio et même des lettres manuscrites ont tous été falsifiés au fil des années au service de sales tours politiques. Même si leur qualité variait en fonction des compétences des faussaires, cette pratique n’a rien de nouveau.

Gardez cela à l’esprit alors que nous avançons vers une discussion sur les deepfakes à l’ère de l’IA générative. Peggy Noonan, qui dans une vie antérieure a été la principale rédactrice des discours du président Ronald Reagan, a écrit ceci dans sa chronique du Wall Street Journal :

À presque chaque rassemblement, l’intelligence artificielle est apparue. Je dirais que les gens abordent l’IA avec une crainte flottante, renforcée par un engagement pragmatique à en tirer le meilleur parti, à voir ce qu’elle peut faire pour rendre la vie meilleure. On ne peut pas l’arrêter, pas plus qu’on ne peut arrêter la marée. On a le sentiment que « cela pourrait briser les codes les plus profonds du cancer », combiné à « cela pourrait se retourner contre nous et nous faire bombarder ».

ça résume à peu près. Alors que Noonan voyage dans des cercles politiques raréfiés, cette déclaration prouve que même la haute sphère politique considère l’IA générative avec un sentiment d’inquiétude.

Bien entendu, cela ne les empêche pas d’utiliser la technologie à leur avantage.

Le mois dernier, les partisans de Ron DeSantis, gouverneur de Floride et candidat républicain à la présidentielle actuellement classé en deuxième position selon les données d'un sondage, ont utilisé une voix générée par l'IA pour imiter le président Trump dans une publicité faisant apparaître l'ancien président républicain. attaquait les Républicains.

Pour être clair, les propos prononcés par l’IA étaient basés sur un message réel de Trump sur le réseau social Truth Social. La publicité a été financée par le Never Back Down PAC, qui n’est techniquement pas affilié au gouverneur DeSantis. Cependant, le PAC soutient fortement DeSantis. Vraisemblablement, le PAC a estimé qu'utiliser la voix de l'ancien président avec ses propres mots serait plus efficace ou plus réaliste qu'un annonceur les prononçant en voix off.

Dans une autre publicité attribuée à DeSantis, le président Trump est montré en train de serrer dans ses bras le Dr Anthony Fauci. Il s'agissait d'une image générée par l'IA. Fauci est un ancien membre du groupe de travail de Trump sur le coronavirus, ancien conseiller médical en chef du président et, pendant près de 40 ans, directeur de l'Institut national des allergies et des maladies infectieuses. Fauci, comme chacun le sait, est devenu une figure de division au début de la pandémie. La campagne DeSantis essayait apparemment de lier Trump à Fauci à des fins politiques.

Le but de cet article n'est pas de débattre du contenu des publicités politiques. Il s’agit plutôt de se concentrer sur l’utilisation de l’IA et sur ce que cela signifie pour l’avenir. Les images de M. Trump serrant le Dr Fauci dans ses bras étaient remarquables car elles étaient générées par l’IA.

En mars, le New York Times décrivait comment le Parti démocrate testait l'utilisation de l'IA pour rédiger des messages de collecte de fonds, avec « des appels qui fonctionnent souvent mieux que ceux entièrement rédigés par des êtres humains ».

Le Times a également fait état de fausses images diffusées sur les réseaux sociaux montrant l’arrestation du président Trump à New York.

Même si l’IA pourrait certainement s’avérer être un multiplicateur de force pour les élections nationales, je m’attends à ce qu’elle soit largement utilisée dans les campagnes où des budgets plus modestes nécessitent une utilisation plus créative des ressources. L'une de ces campagnes, comme le rapporte Insider, concernait le maire de Toronto. The Insider a partagé une image tirée d'un dépliant de campagne produit au nom du candidat Anthony Furey qui montrait une femme à trois bras.

Lorsque j’ai consulté en ligne la circulaire citée par The Insider, elle ne contenait pas la photo présentée dans l’article. Je suppose que cette erreur a été corrigée par Furey ou son équipe de campagne. Quoi qu'il en soit, Furey a perdu, se classant quatrième, avec à peine plus de 10 % des voix reçues par le vainqueur.

Ainsi, même si l’IA peut contribuer à créer de fausses images ou à réduire les coûts, elle ne garantit pas la victoire. Rien n'y fait.

Qu'est-ce que tout cela veut dire?

Ce n’est pas parce qu’une campagne utilise l’IA générative qu’elle la transforme en arme. Il existe quatre grandes catégories d’utilisation des outils d’IA générative dans les campagnes, et une seule est de nature uniquement négative.

Deepfakes et contrefaçons : c'est celui qui est le plus potentiellement destructeur. Chaque fois qu’une campagne falsifie des informations, elle est destructrice et entre dans la catégorie des sales tours. Ce qui rend cela plus troublant maintenant, c'est que les IA permettent à beaucoup plus de personnes de générer de fausses images. Nous sommes donc susceptibles de voir cela plus souvent - et pas seulement dans le cadre de campagnes.

Aider à rédiger des annonces et des lettres : attendez-vous à voir l'IA aider le personnel de campagne à rédiger des annonces et des lettres. Même si le contenu peut contenir des mensonges ou des fausses déclarations, cela n’a rien de nouveau. Les militants de la campagne déformaient la vérité dans des documents écrits bien avant l’avènement de l’IA générative.

Augmenter la rapidité et la personnalisation du contenu pour une diffusion massive : les campagnes les plus efficaces disposent souvent de bases de données approfondies sur les électeurs potentiels, en particulier les donateurs potentiels. Ils achètent des listes, regroupent les données des campagnes précédentes et d'autres candidats, et tentent de créer des profils qui permettent de cibler avec précision les prospects. Attendez-vous à ce que l’IA générative soit utilisée pour calibrer individuellement les efforts de sensibilisation en fonction de chaque prospect, et ce en masse.

Analyser les tendances et les sentiments à la recherche d'informations : dans un article précédent, j'ai montré à quel point l'IA peut être puissante lors de l'exploration de données pour obtenir des informations. Les campagnes ont souvent utilisé des logiciels d'exploration de données au niveau de l'entreprise, mais s'attendent à la puissance, à la facilité d'utilisation et au prix relativement bas d'outils tels que ChatGPT Plus avec Code Interpreter pour rendre ces fonctionnalités disponibles à tous les niveaux des campagnes.

Lawrence Pingree, vice-président des technologies et tendances émergentes - sécurité chez Gartner, a ajouté quelques idées sur ce sujet. Il a déclaré à ZDNET :

Je pense que le plus grand nouveau danger est que les grands modèles de langage de l’IA générative peuvent désormais être instrumentés avec l’automatisation. Cette automatisation (exemples - AutoGPT, BabyAGI) peut être utilisée pour mener des campagnes de désinformation ciblées.

Il est ainsi beaucoup plus facile pour les partis politiques ou les États-nations de mener des opérations d’influence.

Les LLM peuvent également être associés à des technologies deepfake pour lancer des campagnes pouvant même potentiellement diffuser de l'audio et de la vidéo. Appliqués aux médias sociaux, ces types d’outils peuvent créer un environnement numérique très difficile pour les électeurs qui souhaitent connaître la vérité.

Lorsque l’on examine l’IA générative dans les campagnes, le véritable impact se fera en dehors des campagnes présidentielles. Après tout, les campagnes présidentielles rapportent beaucoup d’argent.

Selon la Commission électorale fédérale, « les candidats à la présidentielle ont collecté et dépensé 4,1 milliards de dollars au cours des 24 mois du cycle électoral 2019-2020 ». Selon Open Secrets, qui suit les dépenses électorales, le candidat gagnant moyen au Sénat américain a dépensé 15,7 millions de dollars, tandis que le candidat moyen à la Chambre a dépensé 2 millions de dollars lors des élections de 2018.

Certaines campagnes locales disposent de budgets de campagne relativement importants. Par exemple, dans la perspective des élections de 2024 pour le conseil municipal de Los Angeles et le district scolaire unifié de Los Angeles, le candidat au conseil municipal du district 2, Adrin Nazarian, a déjà collecté 432 000 $, tandis que la candidate du district 3 de LAUSD, Janie Dam, a déjà collecté 38 000 $.

Maintenant, gardez à l’esprit que le district 2 de Los Angeles comptait en 2020 une population de 793 342 personnes. Dans l'ensemble, le comté de Los Angeles compte lui-même une population de 9,7 millions d'habitants. En revanche, la petite ville rurale historique dans laquelle je vis ici, dans l’Oregon, compte moins de 10 000 habitants.

Les campagnes plus petites, en particulier celles menées dans des villes de la taille de la mienne, disposent de trésors de guerre bien plus modestes que les campagnes nationales. Les outils d'IA générative peuvent fournir même aux plus petites campagnes des outils d'analyse auparavant uniquement disponibles pour les campagnes avec des budgets à six et sept chiffres.

Ainsi, même si l’on peut certainement s’attendre à ce que les campagnes présidentielles utilisent l’IA pour placer les candidats adverses dans des positions compromettantes (ou, du moins, les présenter d’une manière que les partisans de la viande rouge choisiraient de partager sur les réseaux sociaux), il faut s’attendre à voir le plus grand impact de l’intelligence artificielle. L'IA est loin derrière le ticket.

En guise de défense contre l'assaut des publicités générées par l'IA, Google exige désormais que les publicités générées par l'IA incluent une clause de non-responsabilité indiquant que les publicités ont été produites par des moyens synthétiques. Bien entendu, cela ne signifie pas que les promoteurs malhonnêtes suivront ces instructions. Nous verrons très probablement encore des stratégies de type dump-and-run de la part d'agents politiques et d'agents ennemis publier des milliers d'annonces générées par l'IA sans clause de non-responsabilité, puis passer à de nouveaux comptes, contournant efficacement les exigences de Google grâce à l'utilisation de la vitesse et de l'agilité. Bienvenue dans une nouvelle course aux armements.

Restez à l'écoute, car même si les sales tours de campagne existent depuis toujours, nous allons sûrement en voir davantage maintenant que tout le monde a accès aux outils qui rendent absurdement facile leur perpétration.

Est-ce que tout cela vous donne envie de pleurer ? Eh bien, rappelez-vous : George Washington a pleuré ici.