L’image partagée par le compte Instagram @shahv4012 et diffusée largement sur Instagram
Une image générée par IA, intitulée "All Eyes on Rafah", est devenue virale sur Instagram, puis TikTok et X-Twitter. Elle a été partagée par plus de 50 millions de personnes, à l’instigation d’influenceurs comme la modèle Bella Hadid. Cette image montre un camp imaginaire pour les réfugiés palestiniens. Elle a été initialement partagée par l'utilisateur @shahv4012 et reprend un slogan populaire, inspiré à l’origine par des propos de Richard Peeperkorn, représentant de l'OMS à Gaza. L’image et le slogan veulent dénoncer la situation à Rafah, située au sud de la bande de Gaza, près de la frontière égyptienne.
Rafah a été le théâtre de bombardements par les forces israéliennes causant la mort de nombreux civils palestiniens. De nombreux acteurs présents sur le terrain utilisent les réseaux sociaux pour documenter la situation, comme à l’origine du “journalisme citoyen”. Cependant, l’algorithme d'Instagram masque les images les plus violentes, ce qui empêche souvent le partage d'images provenant de Gaza. Certains contournent cette limitation en utilisant des images générées par IA.
Combats d’IA
En réaction à la diffusion massive de l’image de @shav1042, de nombreux comptes pro-israéliens ont à leur tour partagé une nouvelle image, également générée par IA, montrant un terroriste face à un bébé ensanglanté.
Meta, qui possède Instagram, semble très inquiet des fakes IA créés dans le cadre du conflit entre Israël et le Hamas et qu’on partage ensuite sur ses plateformes. Le groupe vient ainsi de supprimer plus de 500 faux comptes sur Facebook et 32 sur Instagram, qui se faisaient passer pour des Américains et des Canadiens. Ils étaient en réalité liés à une entreprise israélienne de marketing numérique et de renseignement commercial, Stoic. Celle-ci propose un système basé sur l'IA capable de créer du contenu ciblé et de le distribuer automatiquement sur les réseaux sociaux.
D’un camp à l’autre
Les comptes supprimés utilisaient des outils d'IA générative pour créer des commentaires sur les publications de médias et de personnalités publiques. Ils n'auraient pas été interdits s'ils avaient été postés par des utilisateurs authentiques. Principalement en anglais, ils comprenaient des appels à la libération des otages israéliens, des éloges pour les actions militaires d'Israël et des critiques de « l'islam radical » et de l'antisémitisme sur les campus. Meta n'a pas relié ces comptes au gouvernement israélien, mais les campagnes de diffusion de fake news peuvent aussi provenir d'acteurs commerciaux ou de campagnes politiques.
Par ailleurs, dans un rapport publié mercredi, le Centre pour la lutte contre la haine numérique américain (Center for Countering Digital Hate) a déclaré que les modérateurs de dix groupes pro-palestiniens sur Facebook n'avaient pas supprimé les trois quarts des contenus que l'organisation avait signalés comme antisémites. Le rapport affirme que les administrateurs de ces groupes auraient au contraire pris des mesures de représailles en bannissant les chercheurs de l'organisation. Un porte-parole de Meta a répondu que le groupe supprime les contenus qui violent ses politiques, que ce soit dans des groupes publics ou privés, grâce à des outils automatisés qui identifient les contenus contrevenants même s'ils ne sont pas signalés.
Des robots et une base de données
L’IA intervient aussi directement dans les opérations. Début avril, l'utilisation par Tsahal de la base de données Lavender pour identifier des cibles à Gaza avait fait polémique, en raison d'un très faible contrôle humain (lire Qant du 4 avril). L’aviation israélienne est la première à disposer d'une munition volante pleinement autonome, Harpy, capable de s'activer dès qu'un système autour d'elle allume son radar (lire Qant du 15 février).
Les réseaux sociaux ne sont qu’un champ de bataille de plus.
Pour en savoir plus :