Les faux pass sanitaires se propagent facilement sur les réseaux sociaux malgré les politiques des plateformes  

28th January 2022

Zoé Fourel, Jiore Craig & Iris Boyer 

_________________________________________________________________________________

Au cours des dernières semaines, des personnes détentrices de faux passes sanitaires ont été hospitalisées avec des symptômes du COVID-19 en France. Alors que les pouvoirs publics sont à la recherche des responsables qui produisent ces faux pass sanitaires, la discussion ne s’est jusqu’à présent pas axée sur la responsabilité des réseaux sociaux, alors que ceux-ci jouent un rôle considérable dans la propagation à grande échelle de ces faux documents.  Pendant plusieurs mois, les chercheurs de l’ISD ont observé la vente ainsi que la promotion de faux pass sanitaires sur les plateformes généralistes et plus marginales, notamment Facebook, Instagram, WhatsApp, Telegram et Snapchat.

Alors que les cas du variant omicron continuent d’augmenter en France et dans un contexte électoral tendu, la libre circulation et vente de faux pass sanitaires sur les réseaux sociaux démontrent l’échec des politiques menées par les plateformes ainsi que les importantes marges de progression en termes de régulation, qui n’ont jusqu’à présent pas permis d’empêcher des acteurs malintentionnés de cibler le public français dans cette entreprise de promotion de documents illégaux.

Trouver un faux pass sanitaire sur les réseaux sociaux

Imaginez que vous passez du temps sur les réseaux sociaux. En France, vous serez probablement sur Facebook, WhatsApp ou, si vous avez des intérêts plus niche ou des craintes liées à la protection de votre vie privée, une plateforme comme Telegram. Vous pourriez être frustré par la pandémie ou, comme la moitié du public français, insatisfait de la gestion de l’épidémie du Covid-19 et de la politique vaccinale menée par le gouvernement.  Il est probable que vous décidiez de rejoindre un groupe sur les réseaux sociaux avec des personnes partageant les mêmes idées et frustrations que vous.

Selon les observations des chercheurs de l’ISD[1], vous avez de grandes chances de rapidement trouver des offres pour obtenir un faux pass sanitaire. Depuis le début de notre analyse ethnographique en ligne, nos chercheurs ont découvert de nombreux canaux pour se procurer un faux pass sanitaire sur Facebook, Instagram et Telegram. Sur chacune de ces plateformes, les publications étaient accompagnées de contact redirigeant les utilisateurs vers d’autres plateformes, notamment Snapchat et WhatsApp. Ainsi, l’entreprise de faux passes sanitaires détient une dimension multiplateforme.

Certains acteurs faisant la promotion de faux pass sanitaires ont un motif politique et cherchent à protester contre les mesures sanitaires du gouvernement. D’autres fournisseurs les vendent uniquement à des fins lucratives.

Le propos qui suit illustre en quelques exemples tirés de Facebook, Instagram et Telegram la façon dont un utilisateur peut trouver et acheter un faux pass sanitaire en ligne.

Facebook et Instagram

En tant que plateforme majeure utilisée à grande échelle en France, la circulation de faux pass sanitaires sur Facebook est particulièrement préoccupante. Les utilisateurs peuvent trouver un faux pass sur Facebook et/ou être dirigés vers d’autres plateformes pour l’obtenir, y compris des espaces plus extrêmes. La promotion de faux pass sanitaires se déroule en grande partie dans des groupes fermés, mobilisés sur l’opposition aux restrictions sanitaires contre le COVID-19 ou les vaccins. Certains utilisateurs font la promotion de faux QR codes à vendre via la messagerie directe, encouragent à contacter d’autres comptes Facebook, ou des canaux publics et des comptes privés sur Telegram. Par exemple, nos chercheurs ont trouvé un lien sur Facebook redirigeant les potentiels intéressés vers une chaîne Telegram publique avec 85 abonnés qui fournit de faux pass sanitaires et encourage les abonnés à entrer directement en contact avec un compte privé sur Telegram.

Telegram and Facebook screenshots

Figures 1 ,2 et 3 : Exemples de publications Facebook faisant la promotion de moyens pour obtenir de faux pass sanitaires sur Facebook et Telegram.

L’ISD a également trouvé plusieurs comptes sur Instagram (entreprise appartenant à Facebook / Meta) qui contiennent le terme « pass sanitaire » dans le nom de compte, ce qui facilite l’identification de compte fournissant de faux pass sanitaires. Ces comptes Instagram contenaient tous les contacts de fournisseurs de faux pass sanitaires sur d’autres plateformes (notamment Telegram, Snapchat, WhatsApp, etc.)

Instagram screenshots

Figures 4, 5 et 6 : Exemples de comptes sur Instagram fournissant de faux pass sanitaires.

Facebook et Instagram ont tous deux des politiques visant à empêcher ce type d’activité sur leur plateforme. Cependant, la facilité avec laquelle nos chercheurs ont identifié ces contenues soulève de sérieuses questions sur l’efficacité et l’application de ces politiques. Par exemple, les politiques de Facebook prétendent supprimer le contenu faisant la promotion de pratiques trompeuses tels que les faux documents faux ou falsifiés ainsi qu’interdire la publicité de pratiques trompeuses, y compris la promotion de faux documents et de produits permettant de contourner les contrôles de sécurité. Facebook se félicite également « d’aider les gens à se faire vacciner et d’avoir accès aux informations les plus fiables et faisant autorité sur la vaccination et les mesures de santé.» Malheureusement, Facebook facilite l’accès aux faux pass sanitaires, pratique illégale permettant de contourner les mesures de santé publique.

Telegram

Telegram attire les utilisateurs fatigués des plateformes appartenant à Meta ainsi que ceux ayant des intérêts plus niche, y compris des idéologies plus extrêmes. L’ISD a identifié plusieurs moyens d’acquérir de faux pass sanitaires dans une chaine dédiée à l’opposition aux restrictions sanitaires. Cette chaîne Telegram cartographie les espaces publics et les entreprises en France qui ne demandent pas le pass sanitaire. Cette chaine fait également la promotion de contenus anti-vaxx, de théories du complot et désinformation sur la COVID-19, en plus de la vente de faux pass. Dans la section commentaires de plusieurs posts, les utilisateurs peuvent trouver le contact de fournisseurs de faux pass sanitaires sur Telegram et WhatsApp.

Telegram screenshots

Figures 7, 8, et 9 : Exemples de commentaires trouvés dans une chaîne Telegram dédiée à la coordination de faux pass sanitaire, les tactiques de contournement des restrictions sanitaires et la propagation de théories du complot et de désinformation sur la COVID-19.

La promotion de faux pass sanitaires se fait également sur des chaînes Telegram dédiées à d’autres sujets que la désinformation ou les théories du complot liés la COVID-19 ou des contenus anti-vaxx. Par exemple, les chercheurs de l’ISD ont trouvé au sein d’une chaine Telegram gérée par de jeunes identitaires, un commentaire faisant la publicité de faux pass sanitaires, sous un post qui n’a aucun lien avec la COVID-19. Cet exemple illustre le chevauchement de différents groupes d’intérêt mobilisés contre les politiques gouvernementales et notamment les convergences entre l’extrême-droite et la mobilisation à l’encontre des restrictions sanitaires liées à la COVID-19.

Telegram screenshot

Figure 10 : Exemple de commentaire sur Telegram faisant la publicité de faux pass sanitaire, partagé sous une publication sans rapport avec la COVID-19.

Les chercheurs de l’ISD ont observé de claires indications que cette activité est monétisée. Dans l’une des chaînes Telegram examinée, un message annonce que des remises sont disponibles pour ceux qui achètent plusieurs faux pass sanitaires.

Screenshot of post

Figure 11 : Exemple de publication indiquant que l’activité de faux pass sanitaire est monétisée.

Les conditions de service sur Telegram sont relativement minimes. Principalement axées sur la confidentialité, elles exigent que les utilisateurs de la plateforme “acceptent de ne pas arnaquer d’autres utilisateurs ou de ne pas promouvoir des actions violentes sur les chaînes publiques”. D’après ces conditions, le seul contenu illégal proscrit noir sur blanc, sur les chaînes publiques, est le contenu pornographique. La politique publicitaire de Telegram interdit également la « publicité trompeuse ou prédatrice », « les produits ou services financiers trompeurs ou nuisibles », « les services médicaux, les médicaments » et les « produits dont la légalité peut être questionnée ». En outre, « les publicités ne doivent pas promouvoir de contenu, de produits ou de services liés à la santé et au bien-être (…) La contrefaçon, y compris les fausses pièces d’identité, passeports, visas, documents officiels, (…) Données volées ou divulguées (…), Produits contrefaits, (… ) ou des biens numériques inauthentiques. Par conséquent, une grande partie du contenu observé par l’ISD semble aller à l’encontre soit de la politique liée aux publicités sur Telegram, soit de ses conditions de service plus largement.

Ventes transnationales 

La dynamique transnationale du commerce de faux pass sanitaire s’est dessinée alors que de plus en plus de restrictions ont été mises en œuvre à travers l’Europe. Sur une chaîne Telegram en anglais fournissant des mises à jour sur l’activité de groupuscules d’extrême-droite européens, nos chercheurs ont identifié des offres pour des faux pass sanitaires européens. Sous un article sur la mobilisation des Gilets jaunes contre les restrictions sanitaires en France, un commentaire fournit le contact d’un compte Telegram privé proposant de faux pass sanitaire aux citoyens de l’UE. La seule condition pour obtenir ce faux pass sanitaire européen est d’avoir une pièce d’identité d’un pays membre de l’UE ou un statut de résident permanent européen en cours de validité. Selon le vendeur, ce faux pass sanitaire indiquerait que le titulaire de ce pass a reçu deux doses du vaccin Pfizer et serait valable dans toute l’UE, la publication indique également que ce pass serait “100% légal”.

Fake green pass

Figure 12 : Exemple de commentaire qui propose un faux pass sanitaire européen.

Echecs des politiques existantes 

Le gouvernement français semble prendre au sérieux la question des faux pass sanitaires. Le ministère de l’Intérieur a récemment signalé avoir identifié environ 200 000 cas de faux pass sanitaires et déclare avoir ouvert 435 enquêtes. Dans le cadre de la nouvelle proposition de loi visant à transformer le pass sanitaire en pass vaccinal, le gouvernement français a également pris la décision de légiférer sur de tels abus, notamment en définissant des sanctions plus strictes pour ceux qui créent, tirent profit ou utilisent de faux pass sanitaire. La loi prévoit des amendes pouvant aller jusqu’à 1 000 euros pour la présentation d’un titre appartenant à autrui ou le fait de fournir un titre à autrui dans une intention frauduleuse, avec une peine pouvant aller jusqu’à cinq ans d’emprisonnement et des amendes qui peuvent atteindre 75 000 euros pour possession d’un faux pass sanitaire.

Cependant, la question de la responsabilité des plateformes pour faciliter la prolifération – et le profit – de tactiques déployées pour mettre en péril les mesures de santé publique n’a pas encore été abordée, particulièrement au vue de ces nouvelles règlementations sur le plan national. Le rôle des plateformes n’a pas non plus été mentionné par l’agence de régulation nouvellement renommée ARCOM (anciennement connue sous le nom de CSA), malgré sa double mission de contrôler l’activité audiovisuelle et celle des plateformes.

Le rôle ministère du la Culture, et plus particulièrement le département en charge de la régulation des plateformes (DGMIC) est également peu lisible. A date, il est encore difficile de comprendre dans quelles mesures celui-ci aborde cette question de réglementation et travaille avec d’autres parties prenantes gouvernementales ou indépendantes comme le Ministère de l’Intérieur et l’ARCOM pour demander des comptes aux plateformes. Ce département a cependant démontré son appétit pour collaborer avec des universitaires et suivre les derniers développements concernant les abus en ligne et les manipulations d’informations, comme en témoigne sa participation à l’Observatoire de la haine en ligne de l’ARCOM.

De plus, les débats parlementaires houleux autour de l’introduction du pass vaccinal ne semblent pas avoir spécifiquement abordé ou rendu compte de manière substantielle sur des solutions pour lutter contre la propagation de faux pass sanitaires en ligne. Jusqu’à présent les discussions se sont largement focalisées sur la responsabilité d’autres parties prenantes, notamment des employés de la sécurité sociale et des médecins mal intentionnés.

Lacunes dans la couverture médiatique et universitaire 

Jusqu’à présent, au-delà de quelques articles diffusés sur des cas spécifiques d’échecs des plateformes pour empêcher la promotion de faux pass sanitaire, les médias français se sont concentrés sur l’investigation de tactiques illégales déployées par des réseaux hors ligne. Seuls quelques rapports relativement anecdotiques mentionnent le lien entre les réseaux sociaux et le vaste trafic de faux pass sanitaire. De plus, ceux-ci ne se focalisent pas sur le contexte français malgré les graves conséquences que cette manipulation de documentation officielle monétisée a déjà entrainé en France. Une brève recherche sur les productions académiques françaises liées aux manipulations de l’information, aux questions de régulation du numérique et à la protection du cyberespace ne révèlent pas d’intérêt particulier pour cette question.

Manque de responsabilité et de proactivité des plateformes 

Des entreprises comme Meta et Telegram semblent pour l’instant silencieuses sur cette question. Le manque de proactivité ou de communication des plateformes sur ce sujet, alors que leurs services facilitent cette activité frauduleuse ne va pas sans rappeler leur attitude initiale face au problème mortel des faux remèdes et des fausses informations sur le virus au début de la pandémie. Dans le cas de Facebook, cette attitude contraste également fortement avec l’ensemble des engagements et des mesures plus stricts que Facebook aurait adoptées au cours des deux dernières années afin de modérer et étiqueter les contenus manipulateurs tout en donnant la priorité aux informations sur la santé provenant de sources faisant autorité via leurs systèmes de recommandation.

Cette perception de passivité vis-à-vis des utilisateurs qui entravent les mesures de santé publique n’est pas facilitée par les conditions de services des plateformes concernant le contenu illégal, qui diffèrent considérablement entre contenu organique et publicité. Dans le cas de Telegram en particulier, les règles de cette plateforme en matière de publicité sont sensiblement plus strictes et plus détaillées.

Cela suggère que la question de la publicité illégale semble être prioritaire pour les politiques mises en place par les plateformes et les efforts de modération, par rapport à la préoccupation tout aussi problématique de la promotion organique mais à grande échelle de services et de documentation illégaux monétisés.

L’application difficile du droit français dans la pratique 

Bien que la France dispose de lois relativement avancées pour lutter contre la manipulation de l’information, cette vente coordonnée de faux pass sanitaire montre clairement qu’il existe encore certaines lacunes en matière d’application.

En France, la loi de 2018 sur la manipulation de l’information a poussé les plateformes à être plus transparentes, tout en donnant plus de pouvoir au régulateur ARCOM pour surveiller ainsi que rendre compte de leur conformité et des efforts de lutte contre la désinformation.

En pratique, l’identification en temps réel et l’évaluation des menaces hybrides au carrefour de la manipulation de l’information et du trafic illégal est un défi difficile auquel le gouvernement français est actuellement confronté. Une problématique principalement taclée à travers l’action du Ministère de l’Intérieur et des forces de l’ordre d’une part, et la proposition de la nouvelle loi relative au pass vaccinal d’autre part.

La volonté du gouvernement français de favoriser une compréhension collective à travers la collaboration d’acteurs multiples axée sur l’identification de solutions pour observer et faire état des menaces émergentes a récemment été démontré avec la création de différents organes comme l’Agence Viginum et la Commission Bronner, dont les recommandations ont récemment été publiées.

Cependant, le manque apparent de proactivité à la fois des plateformes et du gouvernement pour aborder de manière significative la question spécifique de la responsabilité des plateformes dans la propagation à grande échelle d’un phénomène aussi nocif est particulièrement inquiétant, surtout compte tenu du contexte de l’application prochaine du Digital Service Act (DSA) européen, processus où le leadership du gouvernement français est attendu.

Compte tenu de la nature transnationale de cette activité, le DSA est vraisemblablement exactement le type de législation nécessaire à mettre en place de toute urgence pour lutter contre ce phénomène aux implications importantes présent à travers l’Europe. Le DSA prévoit une série d’obligations auxquelles les intermédiaires en ligne doivent se contraindre pour bénéficier du régime de responsabilité limitée précédemment défini dans la directive européenne sur le commerce électronique de 2000. L’idée générale est que les intermédiaires en ligne devront intensifier leur réponse aux externalités négatives de leurs services s’ils ne veulent pas être tenus pour responsables du contenu généré par les utilisateurs sur leurs plateformes.

La coopération entre les plateformes et les autorités nationales est nécessaire dans le processus de suppression de contenus et activités illégales. Une attention particulière doit être accordée à la compréhension et à l’entrave des stratégies sophistiquées de communication multiplateformes. À cet effet, les plateformes devraient être incitées à établir une coopération renforcée entre les différentes plateformes. Cette coopération devrait être éclairée par les travaux de monitoring et d’investigation issus du secteur universitaire et des médias, afin de cartographier et mieux comprendre les tactiques de migration entre différentes plateformes permettant la promotion de contenus problématiques y compris de documents illégaux et leur monétisation.

Faute d’une attitude responsable et proactive de la part des plateformes, la société civile et les médias doivent faire preuve de leadership en exposant les abus en ligne à des fins de manipulation de l’information ainsi que de promotion préjudiciable d’activités commerciales illégales. Par ailleurs, le gouvernement doit intensifier ses efforts pour obliger les plateformes à rendre des comptes, en appliquant à la fois la loi existante et en avançant plus rapidement pour la mise en place du DSA ou d’autres réglementations similaires en faveur d’une approche systémique sur les questions de régulation.

 

[1]  ISD a opéré une analyse ethnographique de communautés en ligne sur Facebook, Instagram et Telegram entre Octobre 2021 et Janvier 2022.

The Houthi (Ansar Allah) Digital Ecosystem

This Dispatch analyses how the Houthi movement leverages social media amidst the Israel-Hamas conflict and Red Sea crisis, exploiting inconsistencies in government designations & platform policies to reach wider online audiences.