Les néo-nazis et l’intelligence artificielle : une menace croissante

Les extrémistes de tous horizons, en particulier les néo-nazis et les suprémacistes blancs, utilisent de plus en plus l’intelligence artificielle (IA) pour diffuser leur idéologie haineuse, recruter de nouveaux membres et radicaliser leurs partisans.

Je vous expliquais, cette semaine, dans les colonnes de France Info et France 3 comment un mystérieux site web tenu par un français caché en Russie, avait diffusé des menaces de morts à l’encontre d’avocats et de politiques de gauche français. De nombreux internautes découvraient le site [que l’auteur a rapidement fermé une fois son discours diffusé]. Un espace de propagande installé du côté de Moscou, membre affilié (de trés trés prêt) avec un hébergeur de vidéos (lui aussi herbé en Russie) qui explique permettre de diffuser les images que Youtube censure. Bref, entre platistes (la terre est plate), anti 5G (y a des trucs pour nous espionner dedans) et autres négationnistes (no comment), l’ambiance est, spéciale.

Un rapport récent du Middle East Media Research Institute (MEMRI) révèle l’ampleur des menaces de ce type de discours et personnes cachées derrière. D’autant qu’ils peuvent exploiter l’IA pour atteindre leurs objectifs néfastes. Selon MEMRI, les extrémistes américains utilisent des outils d’IA pour diffuser des discours de haine, recruter des membres et radicaliser les sympathisants en ligne à une échelle sans précédent. L’IA permet de produire du contenu haineux plus rapidement et de manière plus sophistiquée, y compris des vidéos, des images et du texte, créant ainsi un écosystème de propagande efficace et pernicieux.

✨✨ RECEVEZ LES INFOS ZATAZ DIRECTEMENT SUR VOTRE TÉLÉPHONE ✨✨
✨ Abonnez-vous maintenant et restez à la pointe de l’info ! ✨

Des outils d’IA personnalisés et dangereux

Les groupes extrémistes développent leurs propres modèles d’IA, imprégnés de leur idéologie haineuse. Ces modèles sont utilisés pour produire des plans d’armes en 3D et des recettes pour fabriquer des bombes, augmentant ainsi la menace physique que représentent ces groupes. A noter, j’en parlais déjà il y a 20 ans, de nombreux plans de bombes sont des pièges, explosant lors de la constitution de l’engin explosif. Les chercheurs du Domestic Terrorism Threat Monitor, une branche de MEMRI, ont documenté l’utilisation croissante de l’IA par des néo-nazis, suprémacistes blancs et extrémistes antigouvernementaux.

Par exemple, en 2024, la production de contenu vidéo généré par l’IA a explosé, notamment grâce à des plateformes comme Sora d’OpenAI. Les extrémistes utilisent ces outils pour créer des vidéos trompeuses et incendiaires, comme des montages où le président Joe Biden utilise des insultes raciales ou l’actrice Emma Watson lit Mein Kampf en uniforme nazi. Ces vidéos sont conçues pour provoquer et polariser davantage la société. Les extrémistes utilisent également l’IA pour influencer les élections en générant des contenus spécifiquement destinés à semer la division et la confusion. Nous l’avions vu, aussi, avec les vidéos de propagandes anti JO, diffusée en juillet 2023 sur Telegram.

✨✨ RECEVEZ LES INFOS DE LA SEMAINE ZATAZ, CHAQUE SAMEDI, PAR COURRIEL ! ✨✨
✨ Ne manquez rien ! Abonnez-vous dès maintenant et restez informé ! ✨

Les entreprises technologiques ont mis en place des mesures pour empêcher l’utilisation abusive de leurs outils, mais les extrémistes trouvent des moyens de contourner ces barrières. Par exemple, ils exploitent la « faille de la grand-mère » pour formuler des demandes de manière à éviter les filtres de contenu. De plus, certains groupes vont au-delà de l’utilisation d’outils existants et créent leurs propres IA sans aucune barrière de sécurité, augmentant encore les risques.