Meta intensifie sa lutte contre les applications de déshabillage IA après une révélation choquante

Meta cracks down on nudify apps after being exposed

Meta intensifie sa lutte contre les applications de déshabillage IA après une révélation choquante

Meta poursuit en justice une entreprise promouvant des applications génératives d'IA permettant de "déshabiller" numériquement des personnes sans leur consentement. Cette action légale intervient une semaine après qu'une enquête de CBS News a révélé des centaines de publicités pour ces applications sur les plateformes de Meta, dont Facebook, Instagram et Threads.

La société visée, Joy Timeline, basée à Hong Kong, aurait tenté à plusieurs reprises de contourner les processus de vérification des publicités de Meta. Ces applications, principalement ciblées vers les hommes de 18 à 65 ans aux États-Unis, au Royaume-Uni et dans l'Union européenne, soulèvent de graves questions éthiques et de sécurité.

Meta a déclaré avoir supprimé de nombreuses publicités et comptes associés, tout en reconnaissant la difficulté croissante à faire respecter ses politiques face à l'évolution rapide de ces technologies abusives. Ces applications contribuent à l'augmentation des cas de chantage et de "sextorsion", et sont souvent accessibles aux mineurs.

Cette affaire fait suite à d'autres révélations similaires, dont une enquête de 404 Media en avril 2024 et une action en justice de la ville de San Francisco contre 16 sites de deepfakes en août 2024. Meta réaffirme son engagement à protéger sa communauté contre ces abus, y compris par des moyens juridiques.

Meta siết chặt quản lý ứng dụng 'cởi đồ' AI sau phanh phui gây chấn động

Meta đã khởi kiện một công ty quảng cáo các ứng dụng AI tạo hình ảnh khỏa thân trái phép trên nền tảng của mình. Vụ kiện diễn ra sau khi điều tra của CBS News phát hiện hàng trăm quảng cáo ứng dụng "cởi đồ ảo" trên Facebook, Messenger, Instagram và Threads.

Bị đơn là Joy Timeline - công ty Hong Kong bị cáo buộc nhiều lần tìm cách lách hệ thống kiểm duyệt quảng cáo của Meta. Các ứng dụng này chủ yếu nhắm đến nam giới 18-65 tuổi ở Mỹ, Anh và EU, gây ra những lo ngại nghiêm trọng về đạo đức và an ninh mạng.

Meta cho biết đã gỡ hàng loạt quảng cáo, khóa tài khoản và chặn đường dẫn liên quan, đồng thời thừa nhận khó khăn trong việc kiểm soát các ứng dụng AI lạm dụng ngày càng tinh vi. Những công cụ này làm gia tăng nạn tống tiền tình dục và dễ dàng tiếp cận trẻ vị thành niên.

Sự việc nối tiếp hàng loạt bê bối tương tự, bao gồm điều tra của 404 Media tháng 4/2024 và vụ kiện của San Francisco nhắm vào 16 trang web deepfake hồi tháng 8/2024. Meta khẳng định cam kết bảo vệ người dùng bằng mọi biện pháp, kể cả pháp lý.