- Peu avant son acquisition par Mastercard – prévue début 2025 –, la société américaine d’intelligence économique Recorded Future vient d’identifier une nouvelle opération russe de désinformation mêlant IA et réseaux sociaux, qu’elle a baptisée Operation Undercut.
- La filiale de sécurité de Recorded Future, Insikt Group, a identifié plus de 500 comptes sociaux reliés à Undercut, mais elle indique que le nombre véritable est probablement bien supérieur.
- Depuis la fin 2023, l'opération Undercut crée de fausses vidéos et images qui imitent les grands médias internationaux, afin d'amplifier les faux narratifs. Cette approche est similaire à celle utilisée dans l'opération Overload (également connue sous le nom de Matryoshka), une autre opération d'influence russe.
- En particulier, Undercut utilise des contenus vidéos avec des voix off générées par l'IA. Ces vidéos sont produites en russe, anglais, allemand, polonais, français et turc.
- L'analyse des vidéos produites par l'opération Undercut a révélé que de nombreuses voix off étaient générées artificiellement. Les chercheurs ont pu identifier la start-up ElevenLabs, l’IA la plus avancée du marché, comme l'un des services d'IA utilisés pour créer ces voix off.
- Chaque logiciel de synthèse vocale a ses propres particularités et laisse une signature sonore identifiable. Les chercheurs ont probablement comparé les voix off des vidéos de l'opération Undercut à une base de données de voix générées par différents logiciels, ce qui leur a permis d'identifier l'utilisation d'ElevenLabs.
- Il s’agit de la deuxième opération attribuée à une agence du Kremlin, la Social Design Agency (SDA), après la très connue Doppelgänger, repérée en 2022.
- À SURVEILLER : D’après Insikt, la propagande anti-ukrainienne d’Undercut n’a généré que peu d’engagement sur les réseaux sociaux. Sa critique de la pollution de la Seine et de la cérémonie d’ouverture des JO semble cependant avoir fait mouche, tout comme ses narratifs pendant les élections américaines.
La propagande russe parle avec les voix d’ElevenLabs
L’opération Undercut, qui visait les JO de Paris et les élections américaines aussi bien que l’Ukraine, vient d’être mise à jour.