Comment les nouvelles politiques de Facebook incitent à la diffusion de fausses informations

Les mesures de Meta menacent d'aggraver encore plus le fossé de l'information sur Internet.

Les conséquences du récent changement de modération de contenu de Meta commencent à se faire sentir.

Le mois dernier, Meta a annoncé qu’elle réduirait son programme de vérification des faits sur Facebook, Instagram et Threads à partir de ce printemps en faveur d’une approche de notes communautaires, où les utilisateurs individuels se portent volontaires pour commenter les publications avec un contexte supplémentaire ou des informations différentes. Comme pour le programme de notes communautaires de X, les exigences relatives à ce que les bénévoles doivent inclure dans une note sont minces par rapport à la vérification des faits réelle. ils doivent simplement suivre les normes de la communauté Meta, rester en dessous de 500 caractères et inclure un lien.

Meta restera l’autorité en matière de contenu qui tombe en territoire illégal, y compris la fraude, l’exploitation sexuelle des enfants et les escroqueries. Cela laisse le contenu litigieux, trompeur et généré par l’IA qui ne relève pas de ces catégories dans une zone grise, avec peu de surveillance quantifiable.

Lundi, ProPublica a publié une analyse qui a souligné un autre changement : en octobre, Meta a lancé un nouveau programme de monétisation qui refait surface le Performance Bonus, un programme offrant de l’argent pour les publications qui atteignent certaines mesures d’engagement. Bien qu'il n'ait été que sur invitation pour les créateurs jusqu'à présent, il s'étendra pour accepter les candidatures plus tard cette année, a déclaré Tracy Clayton, une représentante de Meta, à ZDNET par e-mail. Pour recevoir des bonus, les créateurs doivent respecter les normes communautaires et les « politiques d'intégrité » de Meta, a-t-il ajouté, qui couvrent « les règles contre les discours de haine, les appels à la violence, le contenu sexualisé et les comportements inauthentiques ».

Cependant, ces garde-fous ne couvrent pas explicitement les déclarations fausses ou trompeuses. Par le passé, Meta n’a pas récompensé le contenu signalé par des vérificateurs de faits ; comme le note ProPublica, cette politique n'aura plus d'importance une fois que ces drapeaux cesseront d'exister. Cela incite effectivement les utilisateurs à créer du contenu viral « canular » pour de l’argent - bien que Meta ait dis-le que cela « peut toujours réduire la distribution de certains contenus canulars dont la diffusion crée une expérience utilisateur ou produit particulièrement mauvaise (par exemple, certains canulars commerciaux) ».

À titre d’exemple de ce que cela pourrait amplifier, ProPublica a trouvé 95 pages Facebook « qui publient régulièrement des titres inventés conçus pour susciter l’engagement - et, souvent, attiser les divisions politiques », qui, selon elle, étaient principalement gérées par des personnes en dehors des États-Unis pour une audience collective de plus de 7,7 millions d’abonnés. Après examen, Meta a déclaré à ProPublica qu’il avait supprimé 81 de ces pages, mais n’a pas confirmé si elles recevaient des paiements de contenu viral.

Il n'est pas clair si Meta greffera d'une manière ou d'une autre une version de cette politique de non-paiement sur le programme Community Notes ; Avec des critères d'évaluation aussi différents, il est difficile de voir comment cela fonctionnerait. Meta n'a pas répondu à la demande de clarification de ZDNET.

Parallèlement à l’annonce des notes de la communauté, Meta a supprimé les règles contre les discours de haine envers les groupes marginalisés, notamment les personnes LGBTQ+ et les immigrants. Ces changements de modération de contenu sont actuellement examinés par le conseil de surveillance de Meta, qui n'a pas été consulté à l'origine. Le Conseil examine également plusieurs affaires en cours liées aux règles sur les discours haineux qui datent d’avant l’annonce de janvier.

Alors que le scandale Cambridge Analytica de 2018 était centré sur la manipulation des données accessibles des utilisateurs de Facebook, il a également révélé la facilité avec laquelle des campagnes ciblées, indépendamment de la réalité, peuvent circuler sur les plateformes sociales. L'utilisation d'algorithmes personnalisés par les entreprises de médias sociaux rend cela particulièrement efficace.

Récemment, le chatbot Grok de xAI a été surpris en train de supprimer des informations défavorables sur Elon Musk et le président Trump en réponse aux utilisateurs. OpenAI a récemment mis à jour ses spécifications de modèle pour permettre à ChatGPT d'interagir avec des requêtes qu'il n'aurait pas eues auparavant. L’administration Trump est en train de réduire les pouvoirs des organismes de réglementation de l’IA aux États-Unis, qui surveillent la sécurité et l’utilisation correcte des entreprises et des outils d’IA.

Bien qu’il s’agisse d’exemples discrets, il s’agit également de changements liés dans un réseau d’outils Internet à partir desquels de nombreux citoyens américains obtiennent la plupart ou la totalité de leurs informations ; comme l'a constaté Pew Research, un adulte sur cinq aux États-Unis obtient son contenu d'« influenceurs de l'actualité » (mais ne peut pas non plus les nommer exactement).

L’incident de Grok met en lumière la façon dont ces systèmes peuvent être manipulés pour des intérêts individuels, alors même que les entreprises technologiques prétendent créer plus de « liberté intellectuelle » et réduire la censure.

Les médias sociaux n’ont jamais été une source d’information hermétique, et des études ont identifié des limites à l’efficacité de la vérification des faits sur les plateformes sociales. Malgré cela, ce changement pourrait encore aggraver le fossé de la qualité de l’information. Mettre la responsabilité de vérifier les messages encore plus sur l’utilisateur constitue une menace unique en raison du trou caverneux de l’éducation aux médias aux États-Unis. Cela pourrait également forcer des informations plus fiables derrière des barrières, y compris des murs payants.

Le fait qu'un utilisateur voie des nouvelles réelles dans son fil d'actualité - ou qu'il prête attention aux notes de la communauté sur une publication - dépendra de la façon dont ce contenu sera en concurrence avec l'algorithme de Meta, où il sera de plus en plus confronté à des publications incendiaires et incendiaires.