Les sites web de 'dénudification' par IA engrangent des millions de dollars malgré leur caractère abusif
Depuis des années, les applications et sites web de « dénudification » prolifèrent en ligne, permettant de créer des images non consenties et abusives de femmes et de jeunes filles, y compris du matériel pédopornographique. Malgré les mesures prises par certains législateurs et entreprises technologiques pour limiter ces services nocifs, des millions de personnes continuent d’y accéder chaque mois, et leurs créateurs pourraient engranger des millions de dollars par an, selon une nouvelle étude.
Une analyse de 85 sites web de « dénudification » et de « déshabillage » – qui permettent aux utilisateurs de télécharger des photos et de générer des images « nues » des sujets en quelques clics grâce à l’IA – révèle que la plupart de ces sites dépendent des services technologiques de Google, Amazon et Cloudflare pour fonctionner. Les résultats, publiés par Indicator, une publication spécialisée dans la déception numérique, indiquent que ces sites ont reçu en moyenne 18,5 millions de visiteurs par mois au cours des six derniers mois et pourraient générer jusqu’à 36 millions de dollars par an.
Alexios Mantzarlis, cofondateur d’Indicator et chercheur en sécurité en ligne, décrit cet écosystème trouble comme une « activité lucrative » permise par « l’approche laxiste de la Silicon Valley en matière d’IA générative ». Il critique les entreprises technologiques pour leur inaction : « Elles auraient dû cesser de fournir tout service aux sites de dénudification dès qu’il est devenu clair que leur seule utilité était le harcèlement sexuel. »
La création ou le partage de deepfakes explicites devient de plus en plus illégal. Selon l’étude, Amazon et Cloudflare fournissent des services d’hébergement ou de diffusion de contenu pour 62 des 85 sites analysés, tandis que le système de connexion de Google est utilisé sur 54 d’entre eux. Ces sites utilisent également d’autres services grand public, comme des systèmes de paiement.
Ryan Walsh, porte-parole d’Amazon Web Services, affirme qu’AWS impose à ses clients de respecter les lois « applicables ». « Lorsque nous recevons des signalements de violations potentielles, nous agissons rapidement pour examiner et supprimer les contenus interdits », déclare-t-il. Karl Ryan, porte-parole de Google, ajoute que certains de ces sites violent leurs conditions d’utilisation et que des mesures sont prises pour y remédier. Cloudflare n’a pas répondu aux demandes de commentaires.
Ces sites et bots de dénudification ont prospéré depuis 2019, s’inspirant des outils utilisés pour créer les premiers deepfakes explicites. Des réseaux d’entreprises interconnectées proposent cette technologie et en tirent profit, souvent en vendant des « crédits » ou des abonnements pour générer des images. L’essor récent des générateurs d’images par IA a amplifié le phénomène.
Les conséquences sont désastreuses : des photos volées sur les réseaux sociaux sont transformées en images abusives, et des adolescents créent des images de leurs camarades de classe, une nouvelle forme de cyberharcèlement. Les victimes peinent à faire supprimer ces contenus intimes du web.
L’équipe d’Indicator et le chercheur Santiago Lakatos ont analysé l’infrastructure de 85 sites de dénudification à l’aide d’outils open source. Ils ont constaté que des géants technologiques et des entreprises plus petites fournissent des services essentiels à leur fonctionnement, des réseaux de diffusion de contenu aux systèmes de paiement.
