L'année 2024 a marqué un tournant décisif dans l'évolution des campagnes de désinformation, avec la Russie comme acteur principal de cette transformation. Alors qu’en 2023, les Ukrainiens l’emportaient largement sur les réseaux sociaux, le Kremlin a montré cette année une maîtrise particulière dans l'utilisation des technologies d'IA générative, notamment à travers trois opérations majeures qui ont redéfini les contours de la guerre informationnelle : Undercut, Doppelgänger et Matryoshka.
L'opération Undercut, lancée fin 2023 par l'agence russe Social Design Agency (SDA) et révélée la semaine dernière par le groupe Insikt, s'est distinguée par son utilisation sophistiquée des deepfakes vocaux. Utilisant notamment la technologie d'ElevenLabs, les opérateurs ont produit des contenus multilingues particulièrement convaincants, ciblant notamment les élections américaines et les Jeux olympiques de Paris. Un exemple marquant a été la création d'une vidéo deepfake de Tom Cruise critiquant le Comité international olympique, démontrant la capacité des acteurs russes à manipuler l'opinion publique internationale.
Sur les JO, Microsoft relève aussi qu’un groupe lié au Kremlin, Storm-1678, a diffusé des vidéos faisant mention de menaces de violence et de remboursements de billets en raison de la peur du terrorisme (lire Qant du 5 juin).
Plus généralement, Operation Undercut a produit des vidéos utilisant des voix synthétiques en anglais, français, allemand, et russe, dans lesquelles des citations de dirigeants occidentaux étaient sorties de leur contexte pour créer des narratifs favorables à la Russie. On y affirme par exemple que les fonds européens pour l’Ukraine ont été détournés pour financer des biens de luxe. Ces récits, amplifiés sur des plateformes comme 9gag ou des réseaux sociaux alternatifs, visent à réduire l’appui public à l’aide ukrainienne en Europe.
Guerre en Europe…
La deuxième opération, Doppelgänger, s'est révélée encore plus audacieuse. Cette campagne s'est spécialisée dans l'usurpation d'identité de médias occidentaux prestigieux, créant des clones quasi parfaits de sites d'information comme The Guardian, Der Spiegel et Le Monde. Des sites officiels ont également été visé, comme celui du ministère français des Affaires Étrangères, du ministère allemand de l’Intérieur, de l’Otan… L'utilisation d'une infrastructure technique sophistiquée, notamment le service de masquage "Kehr", a permis de contourner efficacement les mécanismes de modération des plateformes sociales.
Un faux site du Washington Post créé par Doppelgänger • Source : FBI/Cisa
Une part significative des contenus d'Undercut vise aussi à exploiter les divisions au sein de l’Union européenne. De nombreuses vidéos et images soutiennent les partis politiques d’extrême droite en Allemagne (AfD) et en France (Rassemblement National), tout en critiquant les politiques de la Commission européenne, présentée comme soumise à l’Allemagne. De plus, certains contenus accusent des pays membres comme la Pologne de saboter les intérêts de l’UE en raison de tensions internes.
… Victoire en Amérique
La palme de l’efficacité, cependant, revient à l'opération Matryoshka/Overload. Elle s'est concentrée sur la déstabilisation du processus électoral américain, diffusant des récits fallacieux sur des fraudes électorales présumées et amplifiant les tensions sociales existantes. Cette campagne a notamment exploité les réseaux sociaux pour propager des théories du complot, ciblant spécifiquement la vice-présidente Kamala Harris, notamment auprès des journalistes et des médias.
Les narratifs diffusés par Undercut aux États-Unis se sont également concentrés sur les élections présidentielles de 2024. Les opérateurs ont utilisé des vidéos pour questionner la crédibilité des démocrates, en affirmant que l’avenir du soutien militaire à l’Ukraine dépendait de la victoire des républicains.
Contenu de l'opération « Undercut » visant à saper les efforts du président Biden et du vice-président Harris • Source : Recorded Future
Aurait pu mieux faire
Tout au long de l’année, la tech américaine a tenté de réagir. En réponse au scandale causé par les deepfakes de Joe Biden, utilisés lors d’appels téléphoniques pendant les primaires américaines de 2024 (lire Qant du 24 janvier), Eleven Labs avait annoncé avoir mis en place de nouvelles fonctions de sécurité comme le blocage automatique des voix des hommes politiques. Sans succès.
En février dernier, plusieurs grands acteurs de la tech ,comme Adobe, Google et Microsoft s’étaient engagés, lors de la conférence sur la sécurité de Munich, à développer des outils pour lutter contre la désinformation générée par IA, notamment des filigranes (lire Qant du 16 février). Plus particulièrement, Microsoft et OpenAI avaient annoncé avoir bloqué plusieurs comptes de hackers opérant notamment pour le compte de la Russie. Un travail conséquent, mais visiblement insuffisant.
Ils n’ont pas fait le poids contre le recul de la modération sur les réseaux sociaux de Meta et surtout sur X et Tik Tok. En juin dernier, une enquête menée par la société américaine de lutte contre la désinformation Newsguard a montré que les principaux chatbots d'IA reproduisent aisément la propagande russe, malgré les guardrails mis en place.
2025 : Vers une amplification des menaces
La victoire de Donald Trump aux élections présidentielles américaines pourrait significativement modifier la dynamique des opérations de désinformation en 2025. On peut anticiper plusieurs évolutions. Toutes ne sont pas forcément favorables à Vladimir Poutine, mais toutes vont dans le sens d’un chaos croissant.
Premièrement, l'assouplissement probable de la régulation des plateformes sociales sous l'administration Trump pourrait créer un environnement plus permissif pour la propagation de fausses informations. Les géants technologiques, craignant des représailles politiques, pourraient réduire encore leurs efforts de modération. Déjà, X ne cache plus ses efforts de propagande, même en Europe.
D’autre part, l'amélioration continue des technologies d'IA générative laisse présager l'émergence de deepfakes encore plus sophistiqués. La Social Design Agency, qui a généré 34 millions de commentaires sur les réseaux sociaux en quatre mois en 2024, pourrait voir sa productivité augmenter de manière exponentielle, mais pas seulement elle.
Des attaquants partout, de moins en moins de défenseurs
Les tensions géopolitiques croissantes peuvent encourager d'autres acteurs étatiques, notamment la Chine et l'Iran, à intensifier leurs propres opérations de désinformation, créant un environnement informationnel encore plus complexe et contesté. Aucune contre-mesure ne semble avoir été efficace.
En revanche, le Pentagone et les services de renseignement américains ne sont pas restés immobiles. Le Pentagone a notamment créé le Bureau de gestion de l'influence et de la perception (IPMO) en mars 2022, qui supervise diverses initiatives, y compris plusieurs unités spécialisées de l'armée américaine telles que le 1st Information Operations Command et le Joint Information Operations Warfare Center. Du côté du renseignement, le Centre d'influence malveillante étrangère (FMIC), établi en septembre 2022 sous l'égide du Bureau du Directeur du renseignement national, coordonne les efforts de lutte contre l'influence étrangère. L'Agence nationale de sécurité (NSA) collabore également avec des universités pour développer des méthodes de détection des manipulations adverses, notamment concernant les deepfakes et la propagation de fausses informations.
Depuis l'Opération Mockingbird, pour influencer les médias américains pendant la Guerre froide, il existe une tradition de désinformation à Washington. Dans les mains de Donald Trump, dont la campagne s’est montrée particulièrement habile dans la manipulation de l’IA et des réseaux sociaux, notamment grâce à Brad Parscale, l’appareil fédéral de propagande pourrait trouver un nouveau dynamisme. D’autant que la future administration prévoit de remplacer un grand nombre d’officiers généraux dès son entrée en fonctions, par executive order.
Face à ces défis, les entreprises devront redoubler d'efforts pour protéger leur réputation et leur intégrité numérique. Selon Gartner, 50% des entreprises devraient adopter des solutions spécifiques de sécurité contre la désinformation d'ici fin 2025, contre seulement 5% en 2024. Cette évolution témoigne d'une prise de conscience croissante des risques liés à la désinformation et de la nécessité d'y apporter des réponses structurées.
Quant à l’espace public démocratique, il ne lui reste plus guère de défenseurs. Sauf peut-être en Europe.
Pour en savoir plus :