Identification des développeurs derrière un réseau mondial de deepfake

L’essor de l’intelligence artificielle s’accompagne de dérives inquiétantes. Microsoft a récemment identifié des développeurs à l’origine d’outils d’IA modifiés pour créer des deepfakes de célébrités, illustrant les dangers de la technologie lorsqu’elle tombe entre de mauvaises mains.

Microsoft a dévoilé, dans un dossier juridique, les activités de six développeurs qui auraient accédé illégalement à ses services d’IA générative. En modifiant ces outils, ils ont permis la création de contenus préjudiciables, notamment des images intimes non consensuelles de célébrités. Ces deepfakes étaient ensuite revendues à d’autres utilisateurs, amplifiant la portée de cette exploitation abusive de l’IA. ZATAZ vous expliquait, en 2022, comment l’IA était malmenée par des cybercriminels et des « pervers » qui exploitaient des vidéos et des visages pour les fusionner dans des scènes de films pour adultes !

Les développeurs impliqués ont utilisé les services Azure OpenAI de Microsoft. Pour contrer cette menace, Microsoft a saisi un site Web lié au réseau cybercriminel identifié sous le nom de « Storm-2139 ». Cette action a perturbé l’organisation du groupe et a permis d’obtenir des informations supplémentaires sur leurs opérations. Un second effet inattendu, les membres du groupes ont commencé à se balancer les uns les autres ! « La saisie de ce site Web et la divulgation des documents juridiques ont poussé certains membres du groupe à se retourner les uns contre les autres« , a indiqué Steven Masada, avocat général adjoint de l’unité des crimes numériques de Microsoft.

Qui sont les développeurs identifiés ?

Parmi les six individus cités par Microsoft, quatre sont basés à l’étranger (Iran, Royaume-Uni, Hong Kong et Vietnam) et deux aux États-Unis. Les deux américains, dont l’un en Illinois et l’autre en Floride, ont le FBI sur le dos. La divulgation des identités a entraîné une panique au sein du réseau Storm-2139. Les membres du groupe se sont mis à publier des informations personnelles sur les avocats de Microsoft dans une tentative de déstabilisation, mais cette stratégie s’est retournée contre eux. Certains ont commencé à s’accuser mutuellement, cherchant à minimiser leur implication.

Cette division au sein du groupe pourrait faciliter le travail des autorités dans leur traque des responsables. La saisie du site Web associé à Storm-2139 constitue une première étape, mais l’étendue des dommages causés reste difficile à évaluer.

Les malveillants ont pu s’inviter dans les services Azure OpenAI de Microsoft via l’aide d’informations collectées par des infos stealers (entre autre) offrant ainsi les identifiants de connexion utilisés par les propriétaires légitimes.

Pour rester informé sur les enjeux de cybersécurité, inscrivez-vous à la newsletter de ZATAZ. Rejoignez également notre groupe WhatsApp et nos réseaux sociaux pour accéder à des informations exclusives, des alertes en temps réel et des conseils pratiques pour protéger vos données.