Quand une IA russe s’invite dans un train : attention au suicide numérique !

Dans un train entre l’Italie et la France, une découverte inattendue de ZATAZ: une professionnelle utilisant un éditeur de photos IA russe. Vous avez dit « inconscience » ?

Lors d’un trajet entre l’Italie et la France, une observation dans un wagon a suscité une réflexion rapide de votre serviteur: une femme d’une cinquantaine d’années, vraisemblablement cadre dans une entreprise française spécialisée dans les tuyauteries [c’est du moins ce que m’a laissé entendre la documentation affiché dans son écran d’ordinateur tout le long du trajet], travaillait sur son ordinateur portable. Jusque-là, rien d’étonnant. Cependant, en observant son écran, il est apparu qu’elle utilisait un éditeur de photos IA russe.

Si ces outils offrent des retouches performantes – changement d’arrière-plan, modification de coiffure ou encore transformation complète d’une image – le risque lié à la confidentialité des données est réel. En fournissant des photos personnelles ou professionnelles à ce type de plateforme, on expose potentiellement des données sensibles à des tiers malveillants, souvent dans des pays où la régulation sur la vie privée est limitée. Ce simple acte peut se transformer en véritable suicide numérique, notamment si des informations sensibles ou des images d’enfants y sont téléchargées.

L’essor des éditeurs de photos IA

Les éditeurs de photos basés sur l’IA séduisent de plus en plus par leur simplicité et leurs fonctionnalités. Ces outils permettent en quelques clics de modifier une photo de manière spectaculaire : suppression d’arrière-plans, retouches de visage, modifications de vêtements ou même transformations artistiques complètes. Dans certains cas, ZATAZ vous a expliqué comment ces outils étaient détournés à des fins malveillantes : deepfake, sextorsion, Etc. Il y a un an, jour pour jour, j’alertais sur la montée en puissance des sites pour adultes, proposant des IA détournées à des fins malveillantes.

L’outil utilisé par la voyageuse observée, est développé par une entreprise russe et met en avant des fonctionnalités avancées à destination des professionnels comme des particuliers. Cependant, derrière ces outils pratiques se cache une question cruciale : où vont vos données ? Les images téléchargées sur ces plateformes sont souvent stockées sur des serveurs étrangers, où les régulations sur la vie privée peuvent être laxistes ou inexistantes. Alors imaginez un site Russe ! Ce risque est particulièrement préoccupant lorsqu’il s’agit d’images sensibles, comme des photos de famille ou des visuels liés à des projets professionnels stratégiques.

« Les éditeurs IA, séduisants par leurs fonctionnalités, posent des risques majeurs en matière de confidentialité et de sécurité des données. »

ZATAZ cherche pour vous toutes les infos perdues, volées, piratées, et pas que vos mots de passe !

Pourquoi cela soulève des inquiétudes

Lorsqu’une entreprise ou un particulier utilise un site web vous affichant une IA révolutionnaire, les images téléchargées peuvent être analysées, stockées. Cela peut inclure des photos d’enfants, des documents professionnels sensibles ou même des métadonnées qui révèlent des informations sur les lieux, les appareils utilisés, et plus encore.

« Confier vos données à une IA d’origine douteuse, c’est risquer une exploitation à des fins malveillantes. »

Pour une entreprise, cela pourrait signifier la fuite d’informations stratégiques, tandis que pour un particulier, des photos intimes ou privées pourraient être détournées ou diffusées sans autorisation.

Et j’avoue qu’il n’est pas utile d’être un « espion russe » pour collecter de la données sur des personnes ou des entreprises. Sur MidJourney par exemple, le Service Veille ZATAZ croise trés souvent des photos réelles de personnes ou de sociétés afin que ces derniéres soient embellies par l’IA (exemples ci-dessous). Bilan, des employés, qui n’ont rien demandé peuvent se retrouver dans les mains d’IA, et dans le pire des cas, de malveillants.

Comment éviter le « suicide numérique » ?

Les outils d’IA sont de puissants alliés, mais leur utilisation doit être réfléchie, surtout lorsqu’ils proviennent de pays où la protection des données est incertaine (et pas que la Russie, les USA aussi). Voici quelques précautions pour éviter des risques inutiles : Préférez des outils locaux ou européens. Les éditeurs développés dans des pays soumis au RGPD (Règlement Général sur la Protection des Données) offrent une meilleure transparence sur l’utilisation de vos données. Ne fournissez JAMAIS de documents professionnels ou personnels. Lisez les conditions d’utilisation. Vérifiez si vos photos sont stockées, et si oui, pour combien de temps et à quelles fins. Utilisez des outils hors ligne. Les logiciels installés sur votre ordinateur ne nécessitent pas de transfert de données vers des serveurs tiers… enfin, normalement ! Enfin, pour les entreprises, la sensibilisation des employés aux risques numériques est essentielle. Un simple geste, comme l’utilisation d’un éditeur IA non sécurisé, peut avoir des conséquences graves sur la confidentialité des données et la réputation. Dans l’une de mes conférences/ateliers, je vous montre des dangers et des sécurisations à mettre en place totalement inédits.

L’incident observé dans le train ou encore sur MidJourney montre à quel point les outils numériques sont devenus omniprésents, mais également à quel point leur utilisation peut être risquée lorsqu’ils proviennent de sources non fiables. Pour éviter le suicide numérique, il est essentiel de choisir des outils respectant des normes de sécurité élevées et de rester vigilant face à l’origine des plateformes utilisées. Pour ne rien manquer des actualités sur les cybermenaces, abonnez-vous dès maintenant à la newsletter de ZATAZ. Rejoignez également notre groupe WhatsApp pour accéder à des informations exclusives, des alertes en temps réel et des conseils pratiques pour protéger vos données. Ensemble, restons vigilants face à la cybercriminalité.