L'IA générative, pas le tsunami annoncé pour la désinformation sur les réseaux sociaux ? C'est la conclusion d'un rapport trimestriel de Meta, maison-mère de Facebook, Messenger, WhatsApp, Instagram ou encore Threads, publié jeudi 15 août. « Les tactiques fondées sur l'IA générative semblent n'apporter qu'un gain marginal de productivité » aux campagnes de désinformation russes, a déclaré David Agranovich, un directeur des équipes de cybersécurité de Meta. Plus rassurant encore : jusqu'à présent, « les IA génératives n'ont pas entravé notre capacité à contrer » les opérations d'ingérence étrangère dans les élections, a-t-il ajouté lors de la présentation de ce rapport.

Est-ce à dire que la situation est sous contrôle pour l'élection présidentielle américaine de novembre ? Pas si vite, mais Meta fait en tout cas face à une forte pression des autorités américaines et d'ONG pour éliminer la désinformation de ses plateformes depuis le scandale de Cambridge Analytica en 2016. Pour rappel, il s'agissait d'une firme de marketing qui avait piloté des opérations majeures de désinformation sur Facebook, au bénéfice de la Russie, pour influencer la présidentielle américaine en faveur de Donald Trump, ainsi que le scrutin britannique sur la sortie de l'Union européenne en faveur du Brexit.

Alerte pour les élections de novembre

De fait, les diverses entités spécialisées dans les campagnes de propagande ont bien recours à l'intelligence artificielle générative, car cette technologie permet à chacun de créer facilement, rapidement e à moindre coût, des contenus de bonne facture (messages, images, fausses photographies ou vidéos, etc) prêts à être diffusés en masse.

Mais les images produites par Doppelganger, une campagne menée depuis la Russie depuis deux ans pour affaiblir le soutien à l'Ukraine, « ne semblent pas faire l'objet d'un contrôle qualité », a souligné David Agranovich.

« Il y a des mains qui se fondent les unes dans les autres ou des panneaux avec du charabia illisible dessus », a-t-il détaillé. « Dans de nombreux cas, la clarté du message semble secondaire par rapport à la stratégie d'envoyer plein de choses en espérant que ça prenne quelque part ».

Et de toute façon, les équipes de Meta dédiées à la détection de ces opérations d'influence traquent avant tout des « comportements inauthentiques et coordonnés », montrant qu'il ne s'agit pas d'utilisateurs habituels. « L'utilisation de l'IA générative pour créer du contenu ou des photos de profil ne nous a pas empêchés, jusqu'à présent, de continuer à surveiller et détecter ces opérations », a-t-il expliqué.

A l'approche de l'élection américaine de novembre, Meta s'attend à ce que les groupes affiliés au gouvernement russe renforcent leurs actions pour tenter d'influencer la campagne. Le groupe californien a insisté sur la nécessité de coopérer avec les autorités, avec les chercheurs mais aussi avec les autres entreprises technologiques. Même si cela s'avère plus compliqué avec X, anciennement Twitter, depuis le rachat de la plateforme par Elon Musk fin 2022.

Utilisation massive mais résultats parfois grossiers

Même si Meta -qui est juge et partie- se veut rassurant sur l'impact réel de l'IA générative sur la désinformation, cette technologie reste une menace que les chercheurs prennent très au sérieux.

Même si son utilisation massive aboutit à des manipulations parfois grossières comme les faux sites de médias issus de l'opération russe Doppelganger pour saper en Occident le soutien à l'Ukraine, leur capacité à toucher tout le monde ne doit pas être sous-estimée, puisque même s'il s'agit d'une minorité lors de chaque campagne, de nombreux internautes tombent tout de même dans le piège.

Ainsi, selon les données du collectif Antibot4Navalny, qui traque les opérations d'influence numérique en lien avec la Russie, des milliers de bots (comptes automatiques), sont utilisés quotidiennement par la propagande pro-russe sur X.

Dans la foulée de la tuerie du Crocus City Hall près de Moscou le 22 mars, le collectif a compté plus de deux millions de messages sur X en moins de 24 heures, accusant l'Ukraine et l'Occident d'avoir facilité l'attaque ainsi que la fuite des assaillants, une thèse similaire à celle développée, dans un premier temps, par les autorités russes. « Pendant la durée de chaque épisode (événement d'importance planétaire, NLDR), le fonctionnement quotidien régulier est interrompu : tous les bots (...) sont entièrement dédiés à l'épisode en question », a observé Antibot4Navalny.

Un répit de courte durée ?

Meta -comme Google, qui détient YouTube- aura donc la pression pour continuer à traquer efficacement les campagnes de désinformation dans les mois à venir. Mais les élections européennes ont de quoi rassurer : la prolifération des deepfakes et autres contenus générés par l'IA générative n'a pas influé d'une manière notable sur le scrutin, ont constaté Meta et Google.

« Sur les 1300 menaces que nous identifions par an, nous n'en avons pas encore vu une seule où l'IA était le principal outil différenciant, expliquait Sandra Joyce, VP de Google Threat Intelligence, en juin dernier. Même si la technologie est utilisée d'une manière ou d'une autre, elle ne permet pas à ces acteurs de surperformer. Nous avons bien constaté l'utilisation de fausses images, de deepfake vocaux, de textes générés par IA, etc. Mais pour l'instant, les auteurs de ces menaces sont surtout en train d'expérimenter. »