Civitai interdit les contenus de personnes réelles : un coup dur pour l'écosystème du porno IA non consensuel
Civitai, une plateforme de partage de modèles IA soutenue par Andreessen Horowitz (a16z), a annoncé vendredi l'interdiction des modèles conçus pour générer des images de personnes réelles. Cette décision, motivée par les nouvelles réglementations américaines et européennes sur l'IA, vise à répondre aux pressions des processeurs de paiement et aux révélations de 404 Media. Bien que temporaire, cette mesure entravera significativement la production de porno IA non consensuel.
La plateforme a précisé que les modèles et images représentant des individus réels seront supprimés après un court délai laissé aux uploaders. Cette mesure est une condition pour maintenir les discussions avec des partenaires financiers spécialisés. Début mai, Civitai avait déjà durci ses règles concernant certains contenus adultes et les représentations de personnes réelles, sans réussir à satisfaire son processeur de paiement, qui a finalement coupé les services le 20 mai.
Dans un communiqué, Civitai a reconnu l'impact frustrant de cette décision pour ses utilisateurs, mais a invoqué un paysage réglementaire de plus en plus strict, citant notamment le 'Take It Down Act' américain et le 'EU AI Act'. Malgré ses politiques antérieures contre les contenus non consensuels, Civitai restait un acteur clé dans cet écosystème, permettant le téléchargement de modèles reproduisant des célébrités comme des inconnus.
Sur des espaces dédiés au porno IA non consensuel, des utilisateurs ont exprimé leur mécontentement face à la suppression rapide des modèles. Certains ont lancé des projets d'archivage, mais des milliers de modèles semblent déjà inaccessibles. Bien que cette mesure gêne temporairement les créateurs de contenus illicites, ceux-ci pourront probablement migrer vers d'autres plateformes. Reste à voir comment Civitai empêchera le téléchargement de modèles représentant des inconnus, indétectables par des systèmes automatisés.
