8 jours de prison pour diffusion de fake news !

Une rumeur qui se termine en prison pour l’auteur de la fakenews : une star de premier plan aurait perdu 1 milliard à Macao. Derrière ce faux message, un homme de 36 ans. Il a utilisé une IA pour fabriquer cette fausse information. Il a été condamné à huit jours de détention administrative pour trouble à l’ordre public.

Une star de premier plan aurait perdu 1 milliard lors de jeux de hasard à Macao. L’information, largement relayée en Asie, a suscité une avalanche de commentaires et de spéculations, propulsant le sujet en tête des tendances sur Weibo, l’un des plus importants réseaux sociaux chinois. Derrière cette tempête médiatique se cache une manipulation orchestrée par Xu Mouqiang, 36 ans, qui a utilisé une intelligence artificielle pour générer et diffuser cette fausse nouvelle. Les autorités chinoises ont réagi : après enquête, Xu Mouqiang a été placé en détention pour trouble à l’ordre public. Une action qui pourrait arriver chez nous ?

Une rumeur fabriquée de toutes pièces par l’IA

La rumeur a été lancée le 10 mars 2025. Xu Mouqiang a utilisé la fonction de génération intelligente du logiciel « Moushu » pour créer une fausse information sensationnelle : « Une star de premier plan a été exposée pour avoir perdu la totalité de ses 10 milliards de dollars de jeux de hasard à l’étranger, déclenchant un tsunami d’opinion publique« . L’objectif était clair : attirer du trafic et engranger des bénéfices illégaux grâce à la viralité du contenu.

Xu Mouqiang a stratégiquement utilisé des mots-clés populaires liés aux jeux d’argent, aux célébrités et aux scandales pour maximiser la visibilité de son message. En quelques heures, la rumeur s’est propagée sur Weibo et d’autres plateformes, suscitant une curiosité intense et alimentant une vague de spéculations parmi les internautes.

« La rapidité de propagation de la rumeur a montré la puissance — et le danger — des contenus générés par IA sur les réseaux sociaux. »

Les autorités chinoises n’ont pas tardé à réagir. Le département de sécurité du réseau de sécurité publique a identifié Xu Mouqiang comme l’auteur de la rumeur après une analyse approfondie des sources de l’information. Les enquêteurs ont établi que la rumeur provenait principalement de comptes anonymes et de comptes marketing, révélant une stratégie de manipulation coordonnée. Xu Mouqiang a été arrêté et placé en détention administrative pour une durée de huit jours, conformément aux lois chinoises sur la sécurité publique.

Service de Veille ZATAZ – 96% de satisfaction

L’impact des fausses informations générées par IA

L’incident a mis en lumière les risques croissants liés à l’utilisation des intelligences artificielles dans la fabrication de fausses informations. La capacité de ces outils à générer rapidement des contenus réalistes, combinée à la viralité des réseaux sociaux, crée un environnement propice à la désinformation. En France, par exemple, une IA est exploitée par des escrocs qui tentent de vous vendre des économies d’énergie par téléphone. L’audio et le scénario sont bluffant de réalisme.

Le PDG de Weibo, Wang Gaofei, a confirmé que des rumeurs similaires avaient déjà circulé dès octobre 2024. Une analyse par intelligence artificielle a montré que ces contenus étaient souvent dénués de preuves substantielles et provenaient principalement de comptes anonymes à motivation commerciale.

Une détention qui envoie un signal fort ?

La décision des autorités chinoises d’infliger une peine de détention à Xu Mouqiang marque une volonté ferme de réprimer la désinformation générée par IA. En Chine, la diffusion de fausses informations est sévèrement punie, en particulier lorsque l’ordre public est affecté. Cette mesure envoie un signal clair : les manipulateurs de l’information, qu’ils utilisent ou non une IA, seront tenus pour responsables de leurs actes.

Les autorités ont rappelé que la création et la diffusion de fausses informations constituent une infraction grave. Xu Mouqiang a été sanctionné en vertu de l’article 25 de la loi chinoise sur la sécurité publique, qui punit la diffusion intentionnelle de fausses informations ayant un impact négatif sur la société. Cette législation, mise à jour en 2023, vise spécifiquement les contenus manipulés par l’IA et les campagnes de désinformation. Et si cette législation débarquée dans nos régions ?

La responsabilité des créateurs et des plateformes

L’affaire soulève des questions cruciales sur la responsabilité des plateformes en ligne et des créateurs de contenu. Les technologies d’intelligence artificielle permettent désormais de générer du contenu avec une qualité et une rapidité sans précédent. Mais cette puissance technologique s’accompagne d’un risque majeur : la difficulté de distinguer le vrai du faux. Les plateformes ont renforcé leurs dispositifs de surveillance en utilisant des algorithmes d’analyse sémantique et de détection de contenu généré par IA. Toutefois, les créateurs de contenu peuvent facilement contourner ces barrières en utilisant des outils sophistiqués ou en modifiant légèrement les termes utilisés dans leurs publications. Pour les vidéos, baisser la qualité des images permet de « bluffer » les IA.

Vous voulez suivre les dernières actualités sur la cybersécurité ?
Pour rester informé sur les enjeux de cybersécurité, abonnez-vous à la newsletter de ZATAZ. Rejoignez également notre groupe WhatsApp et nos réseaux sociaux pour accéder à des informations exclusives, des alertes en temps réel et des conseils pratiques pour protéger vos données.