Le ministère américain de la Justice intensifie la lutte contre la pornographie infantile générée par IA

Le ministère américain de la Justice a ouvert deux poursuites contre des créateurs d’images pornographiques d’enfants générées à l’aide de la technologie deepfake.

Gratuit, chaque samedi, dans votre boîte mail.

Le ministère américain de la Justice a renforcé ses efforts pour poursuivre ceux qui utilisent des outils d’intelligence artificielle pour créer des images d’abus sexuels sur enfants. En 2024, deux affaires pénales ont été ouvertes contre des individus accusés d’avoir utilisé des systèmes d’IA générative pour produire ce type de contenu. James Silver, responsable de la section de la cybercriminalité et de la propriété intellectuelle du ministère, a averti que d’autres affaires suivront, car la prolifération de ces images risque de « normaliser » ces pratiques.

L’IA générative, qui permet de créer des images ou du texte à partir de simples demandes de l’utilisateur, facilite la production de contenu illicite, rendant la tâche des forces de l’ordre plus difficile. ZATAZ vous alertait, il y a quelques mois, de cette plaie qui s’abattait sur nos pré adolescents, ados et adultes.

Le Centre national pour les enfants disparus et exploités (NCMEC), une organisation à but non lucratif qui reçoit des signalements d’exploitation en ligne, rapporte en moyenne 450 signalements par mois liés à l’IA générative. L’utilisation croissante de l’IA soulève des défis juridiques. Comme ZATAZ a pu vous le montrer, l’année dernière, l’IA est un vrai problème quand il s’agit de DeepFake, etc. et l’essor inquiétant des deepfakes pornos.

Bien que les procureurs s’efforcent d’appliquer les lois existantes à ces nouvelles formes de criminalité, les condamnations obtenues pourraient être contestées en appel, alors que les tribunaux devront ajuster leur compréhension de cette technologie. En outre, les avocats de la sécurité des enfants avertissent que l’augmentation du contenu généré par l’IA rendra plus difficile l’identification des véritables victimes d’abus.

Le ministère américain de la Justice est également préoccupé par d’autres utilisations malveillantes de l’IA générative, telles que l’amélioration des cyberattaques, la sophistication des escroqueries en cryptomonnaies et l’affaiblissement de la sécurité des élections. Pour les défenseurs des droits de l’enfant et les experts juridiques, il est crucial de freiner rapidement cette tendance avant qu’elle ne devienne incontrôlable. Rebecca Portnoff, vice-présidente de l’organisation de défense des droits humains Thorn, appelle à une action immédiate, non seulement pour réglementer les systèmes d’IA générative, mais aussi pour responsabiliser les développeurs de ces technologies.

L’intelligence artificielle, bien qu’une avancée technologique majeure, montre ici son potentiel destructeur lorsqu’elle est utilisée à des fins malveillantes. Le ministère de la Justice entend prendre des mesures pour freiner cette pratique et protéger les plus vulnérables, mais l’ampleur du défi reste colossale. Le Centre national pour les enfants disparus et exploités reçoit environ 450 signalements de ce type quotidiennement, ce qui souligne l’ampleur du problème. (Reuters)