8 jours de prison pour diffusion de fake news !

Une rumeur qui se termine en prison pour l’auteur de la fakenews : une star de premier plan aurait perdu 1 milliard à Macao. Derrière ce faux message, un homme de 36 ans. Il a utilisé une IA pour fabriquer cette fausse information. Il a été condamné à huit jours de détention administrative pour trouble à l’ordre public.

Une star de premier plan aurait perdu 1 milliard lors de jeux de hasard à Macao. L’information, largement relayée en Asie, a suscité une avalanche de commentaires et de spéculations, propulsant le sujet en tête des tendances sur Weibo, l’un des plus importants réseaux sociaux chinois. Derrière cette tempête médiatique se cache une manipulation orchestrée par Xu Mouqiang, 36 ans, qui a utilisé une intelligence artificielle pour générer et diffuser cette fausse nouvelle. Les autorités chinoises ont réagi : après enquête, Xu Mouqiang a été placé en détention pour trouble à l’ordre public. Une action qui pourrait arriver chez nous ?

Une rumeur fabriquée de toutes pièces par l’IA

La rumeur a été lancée le 10 mars 2025. Xu Mouqiang a utilisé la fonction de génération intelligente du logiciel « Moushu » pour créer une fausse information sensationnelle : « Une star de premier plan a été exposée pour avoir perdu la totalité de ses 10 milliards de dollars de jeux de hasard à l’étranger, déclenchant un tsunami d’opinion publique« . L’objectif était clair : attirer du trafic et engranger des bénéfices illégaux grâce à la viralité du contenu.

Xu Mouqiang a stratégiquement utilisé des mots-clés populaires liés aux jeux d’argent, aux célébrités et aux scandales pour maximiser la visibilité de son message. En quelques heures, la rumeur s’est propagée sur Weibo et d’autres plateformes, suscitant une curiosité intense et alimentant une vague de spéculations parmi les internautes.

« La rapidité de propagation de la rumeur a montré la puissance — et le danger — des contenus générés par IA sur les réseaux sociaux. »

Les autorités chinoises n’ont pas tardé à réagir. Le département de sécurité du réseau de sécurité publique a identifié Xu Mouqiang comme l’auteur de la rumeur après une analyse approfondie des sources de l’information. Les enquêteurs ont établi que la rumeur provenait principalement de comptes anonymes et de comptes marketing, révélant une stratégie de manipulation coordonnée. Xu Mouqiang a été arrêté et placé en détention administrative pour une durée de huit jours, conformément aux lois chinoises sur la sécurité publique.

Service de Veille ZATAZ – 96% de satisfaction

L’impact des fausses informations générées par IA

L’incident a mis en lumière les risques croissants liés à l’utilisation des intelligences artificielles dans la fabrication de fausses informations. La capacité de ces outils à générer rapidement des contenus réalistes, combinée à la viralité des réseaux sociaux, crée un environnement propice à la désinformation. En France, par exemple, une IA est exploitée par des escrocs qui tentent de vous vendre des économies d’énergie par téléphone. L’audio et le scénario sont bluffant de réalisme.

Le PDG de Weibo, Wang Gaofei, a confirmé que des rumeurs similaires avaient déjà circulé dès octobre 2024. Une analyse par intelligence artificielle a montré que ces contenus étaient souvent dénués de preuves substantielles et provenaient principalement de comptes anonymes à motivation commerciale.

Une détention qui envoie un signal fort ?

La décision des autorités chinoises d’infliger une peine de détention à Xu Mouqiang marque une volonté ferme de réprimer la désinformation générée par IA. En Chine, la diffusion de fausses informations est sévèrement punie, en particulier lorsque l’ordre public est affecté. Cette mesure envoie un signal clair : les manipulateurs de l’information, qu’ils utilisent ou non une IA, seront tenus pour responsables de leurs actes.

Les autorités ont rappelé que la création et la diffusion de fausses informations constituent une infraction grave. Xu Mouqiang a été sanctionné en vertu de l’article 25 de la loi chinoise sur la sécurité publique, qui punit la diffusion intentionnelle de fausses informations ayant un impact négatif sur la société. Cette législation, mise à jour en 2023, vise spécifiquement les contenus manipulés par l’IA et les campagnes de désinformation. Et si cette législation débarquée dans nos régions ?

La responsabilité des créateurs et des plateformes

L’affaire soulève des questions cruciales sur la responsabilité des plateformes en ligne et des créateurs de contenu. Les technologies d’intelligence artificielle permettent désormais de générer du contenu avec une qualité et une rapidité sans précédent. Mais cette puissance technologique s’accompagne d’un risque majeur : la difficulté de distinguer le vrai du faux. Les plateformes ont renforcé leurs dispositifs de surveillance en utilisant des algorithmes d’analyse sémantique et de détection de contenu généré par IA. Toutefois, les créateurs de contenu peuvent facilement contourner ces barrières en utilisant des outils sophistiqués ou en modifiant légèrement les termes utilisés dans leurs publications. Pour les vidéos, baisser la qualité des images permet de « bluffer » les IA.

Vous voulez suivre les dernières actualités sur la cybersécurité ?
Pour rester informé sur les enjeux de cybersécurité, abonnez-vous à la newsletter de ZATAZRejoignez également notre groupe WhatsApp et nos réseaux sociaux pour accéder à des informations exclusives, des alertes en temps réel et des conseils pratiques pour protéger vos données.

Au sujet de l'auteur
Damien Bancal (damienbancal.fr) est un expert internationalement reconnu en cybersécurité. Il a fondé le projet Zataz en 1989. ZATAZ.com est devenu une référence incontournable en matière d'information sur la sécurité informatique et les cybermenaces pour le grand public. Avec plus de 30 ans d'expérience, Damien Bancal s'est imposé comme une figure majeure dans ce domaine, contribuant à la sensibilisation et à la protection des internautes contre les cyberattaques. Sa carrière est marquée par une forte implication dans l'éducation à la cybersécurité, notamment à travers des conférences et des publications spécialisées. Il est l'auteur de plusieurs ouvrages (17) et articles (plusieurs centaines : 01net, Le Monde, France Info, Etc.) qui explorent les divers aspects du piratage informatique et de la protection des données. Il a remporté le prix spécial du livre du FIC/InCyber 2022. Finaliste 2023 du 1er CTF Social Engineering Nord Américain. Vainqueur du CTF Social Engineering 2024 du HackFest 2024 (Canada). Damien Bancal a également été largement reconnu par la presse internationale dont le New York Times, qui souligne non seulement son expertise mais aussi son parcours inspirant. Par exemple, un portrait de La Voix du Nord le décrit comme "Monsieur Cybersécurité", soulignant son influence et son rôle essentiel dans ce domaine. Enfin, il figure parmi les personnalités les plus influentes dans la cybersécurité, comme le souligne Le Big Data, et a été classé parmi les 500 personnalités tech les plus influentes en 2023 selon Tyto PR. Chroniqueur TV et Radio (France Info, M6, RTL, Medi1, Etc.) Volontaires de la réserve citoyenne - Gendarmerie Nationale et de l'Éducation Nationale. Médaillé de la DefNat (Marine Nationale) et de la MSV (Gendarmerie Nationale). Entrepreneur, il a lancé en 2022 la société veillezataz.com.

Laisser un commentaire

*

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.