Un créateur de deepfakes pornographiques risque une amende record de 450 000 $ après la fermeture définitive de Mr. Deepfakes
Un homme qui a défrayé la chronique en continuant à partager des deepfakes pornographiques malgré une ordonnance judiciaire australienne est désormais confronté à l'une des amendes les plus élevées jamais infligées pour ce type d'abus alimenté par l'intelligence artificielle. Julie Inman Grant, commissaire à la sécurité en ligne australienne, a recommandé une amende comprise entre 400 000 et 450 000 dollars australiens, selon The Guardian, estimant que cette sanction est nécessaire pour dissuader les récidivistes. Anthony Rotondo, 53 ans, qui partage son temps entre les Philippines et l'Australie, avait reçu l'ordre de retirer des images sexualisées générées par IA de femmes australiennes célèbres qu'il avait publiées sur le site désormais fermé Mr. Deepfakes. Début juin, ce site controversé a fermé ses portes définitivement après qu'un "prestataire de services critique" a résilié le service "de manière permanente". Cependant, on ignore ce qu'il est advenu des créateurs qui ont téléchargé des dizaines de milliers de vidéos, cumulant plus de 1,5 milliard de vues. Dans un signe que d'autres conséquences pourraient survenir, le Danemark a demandé l'extradition d'un pharmacien canadien, David Do, soupçonné d'avoir joué un rôle clé dans l'exploitation de Mr. Deepfakes. S'il est reconnu coupable, Do pourrait encourir jusqu'à six mois de prison pour diffamation selon la loi danoise, ainsi que d'autres charges potentielles ailleurs. Rotondo est l'un des premiers créateurs identifiés de Mr. Deepfakes, comme l'ont confirmé les autorités policières. Au lieu de retirer promptement les images, Rotondo a été sanctionné à hauteur de 25 000 dollars en décembre 2023 pour avoir ignoré l'ordonnance du tribunal tout en continuant à cibler de nouvelles victimes dans les jours suivants, y compris des mineures fréquentant une école privée australienne. Bien que les noms de ses victimes devaient rester confidentiels, il a également transmis l'ordonnance du tribunal à 49 adresses e-mail, y compris à des médias, ce qui a permis d'identifier certaines victimes. Cet e-mail contenait également un autre deepfake, a rapporté The Guardian. L'Australie a réformé ses lois pour criminaliser ces deepfakes après l'arrestation de Rotondo, qui a suivi une enquête de l'Australian Broadcasting Corporation (ABC) sur "un créateur anonyme" ciblant sept personnalités publiques australiennes en ligne. Il pourrait éviter la peine maximale de six ans de prison prévue par ces réformes, mais a depuis été inculpé de cinq chefs d'accusation pour publications et expositions obscènes, ainsi que d'un chef d'accusation pour publication et exposition obscène d'un enfant de moins de 16 ans, selon ABC. Lors de l'audience, Rotondo "n'a montré aucun remords ni contrition pour son comportement", a déclaré le juge Roger Derrington, rapporté par ABC. Il pensait apparemment que l'ordonnance australienne ne pouvait pas être appliquée car il résidait aux Philippines. "Obtenez un mandat d'arrêt si vous pensez avoir raison", aurait déclaré Rotondo aux autorités avant l'audience, selon le Brisbane Times. Plus tard, devant le juge, il a tenté sans succès de soutenir qu'il n'avait pas l'intention de révéler l'identité de ses victimes par e-mail. Il a affirmé ne pas savoir que l'ordonnance du tribunal était jointe à l'e-mail ou qu'elle contenait les noms de ses victimes, selon The Guardian. "L'e-mail que j'ai reçu comportait plus de 80 pages de texte", a déclaré Rotondo. "Je n'ai pas lu toutes les pages. J'ai juste transféré l'e-mail." Finalement, Rotondo a fourni ses mots de passe à la police pour supprimer les images publiées sur Mr. Deepfakes. Mais le juge a noté que Rotondo semblait réticent à supprimer les deepfakes et a continué à en créer un nombre indéterminé, ce qui pourrait entraîner des accusations supplémentaires de la police du Queensland pour avoir ciblé "un certain nombre" d'établissements et d'entreprises le jour où il aurait visé le lycée. Il était peut-être motivé à laisser les images en ligne, car les uploaders toxiques de Mr. Deepfakes pouvaient gagner jusqu'à 1 500 dollars pour des deepfakes convaincants de personnalités publiques sans leur consentement. "L'histoire de cette affaire suggère que, s'il était encore en liberté et peut-être dans un autre pays, il n'aurait pas été aussi coopératif", a déclaré Derrington. L'Australie cherche à mettre fin à une "dévastation incalculable" Les gouvernements du monde entier sont confrontés à une augmentation marquée des deepfakes pornographiques non consensuels, avec une portée de plus en plus large qui cible non seulement les personnes qui créent et partagent ces images ou les sites qui les hébergent et les vendent, mais aussi les plateformes de médias sociaux qui ne parviennent pas à détecter et supprimer ce contenu nocif. Début juin, les États-Unis ont adopté une loi menaçant de lourdes amendes et peines de prison les plateformes qui ne retirent pas les images lorsqu'elles sont signalées. Selon cette loi, le Take It Down Act, Wired a rapporté que les plateformes risquent des pénalités d'environ 50 000 dollars par infraction si les deepfakes ne sont pas supprimés dans les 48 heures suivant la réception d'un signalement. En Australie, Inman Grant cherche un moyen de mettre fin à la "dévastation persistante et incalculable" que doivent endurer les victimes, majoritairement des femmes, car il est "choquamment" gratuit et facile d'utiliser "des milliers d'applications d'IA open-source" pour créer des deepfakes pornographiques. Comme Rotondo semble incarner le type de créateur de deepfakes récidiviste et sans remords qui s'entête à défendre ses images sexuelles générées par IA, Inman Grant a demandé l'application des peines maximales lundi. Le porte-parole de la commission eSafety a déclaré à The Guardian que cette demande "reflétait la gravité des violations" et "les impacts significatifs sur les femmes ciblées". "La pénalité dissuadera les autres de se livrer à de tels comportements nocifs", a déclaré le porte-parole.
