La nouvelle IA de Google ajoute des seins à des mineurs - et à J. D. Vance
L'outil d'essayage virtuel Try It On de Google fait polémique en ajoutant automatiquement des seins aux images d'utilisateurs, y compris des mineurs et des célébrités comme le vice-président américain J.D. Vance. Cette fonctionnalité, présentée lors de la conférence annuelle sur les logiciels de Google, permet aux utilisateurs de télécharger leurs photos pour prévisualiser des tenues.
Lors de tests avec des images d'hommes célèbres, l'outil leur a 'habillé' des vêtements féminins avec des seins générés par IA. Le même phénomène s'est produit avec des images de femmes où l'IA a 'amélioré' leur décolleté. Plus alarmant, cet outil fonctionne également sur des photos de mineurs.
Google affirme avoir mis en place des protections comme le blocage de catégories sensibles et d'images claires de mineurs. Cependant, des tests montrent que ces mesures sont inefficaces. Ce n'est pas le premier incident concernant les produits d'IA de Google, qui avait précédemment suggéré aux utilisateurs de 'manger des pierres'.
Un rapport de Graphika révèle qu'en septembre 2023 seulement, plus de 24 millions de personnes ont visité des sites utilisant l'IA pour 'déshabiller' des images. L'utilisation abusive de l'IA pour créer du contenu pédopornographique est également en hausse. Actuellement, Try It On n'est disponible qu'aux utilisateurs américains de 18 ans et plus.
Le problème fondamental est que cet outil modifie le corps des utilisateurs pour s'adapter aux vêtements plutôt que l'inverse. Cela présente non seulement des risques d'abus, mais dénature aussi l'objectif initial d'aider les utilisateurs à évaluer la compatibilité des vêtements.
