Un Chinois qui a publié des vidéos sur les réseaux sociaux, a coalisé des centaines de milliers de followers et a vendu des produits russes en prétendant se battre en Ukraine, créant des vidéos utilisant l’intelligence artificielle (IA).
Chauve et portant une épaisse barbe, l’homme identifié par le pseudonyme de Baoer Kechatie, il s’est présenté comme étant un soldat des forces spéciales Tchétchènes, posté sur la ligne de front.
Dans l’une de ses vidéos, où il apparaît devant ce qu’il qualifie de « centrale nucléaire », il proclame que l’armée russe vient de prendre le contrôle de la zone. Dans une autre, il affirme qu’il vient de combattre les Marines américains et montre une arme à feu.
Cependant, l’accent prononcé de la province du Henan, (centre de la Chine), a fini par soulever des doutes quant à la véracité du contenu. Les utilisateurs de Douyin (une plateforme intéressante pour le marketing d’influence, plus populaire que jamais en Chine, avec 730 millions d’utilisateurs mensuels revendiqués en novembre 2022, soit plus d’un Chinois sur deux), ont découvert que l’IP (Internet Protocol) de Baoer Kechatie se trouvait précisément dans le Henan.
Le compte est passé à 400.000 abonnés et a vendu au moins 210 produits, dont de la vodka russe et du miel, via une boutique de commerce électronique associée.
Dans un communiqué publié ce week-end, Douyin a déclaré avoir suspendu définitivement le compte pour «diffusion d’information trompeuse, erronée ou fausse».
Avant d’être banni, le propriétaire du compte a supprimé toutes les vidéos et changé le pseudonyme de « Baoer Kechatie » en « Wang Kangmei », qui se traduit par « Résistance aux États-Unis ».
En Chine, l’utilisation de fausses identités parmi les créateurs de contenu est de plus en plus courante, à mesure que les outils d’IA pour la manipulation vidéo et audio s’améliorent.
L’année dernière, une femme qui s’est identifiée comme Nana et d’origine russe est devenue virale pour avoir partagé des moments de sa vie en Chine, mais a finalement été démasquée comme étant un imposteur qui avait transformé son apparence à l’aide de filtres alimentés par l’IA. Le compte avait atteint près de deux millions de followers.
En janvier dernier, la Chine a érigé en infraction pénale la publication et la transmission de vidéos et d’enregistrements audio édités via l’intelligence artificielle et de la réalité virtuelle («deepfakes») qui ne sont pas identifiés comme tels.
« Avec l’adoption de nouvelles technologies telles que les ‘deepfakes’ dans l’industrie vidéo et audio, l’utilisation de contenus susceptibles de troubler l’ordre public et de violer les intérêts de la population constitue un risque, créant des problèmes politiques et ayant un impact négatif sur la sécurité nationale et la stabilité sociale », a déclaré à l’époque l’Administration du cyberespace de Chine.
Les mesures incluent l’obligation de mettre en place un système de vérification du nom réel lors de la création d’un compte. Depuis le mois de mai, Douyin demande à tous les utilisateurs d’identifier clairement les contenus générés par l’IA.