Un Juge Rejette la Demande de Rejet d'un Procès Accusant une IA d'Avoir Causé le Suicide d'un Adolescent de 14 Ans - Un Nouveau Précedent Juridique

Judge Slaps Down Attempt to Throw Out Lawsuit Claiming AI Caused a 14-Year-Old’s Suicide

Un Juge Rejette la Demande de Rejet d'un Procès Accusant une IA d'Avoir Causé le Suicide d'un Adolescent de 14 Ans - Un Nouveau Précedent Juridique

Avertissement : Cet article aborde des thèmes d'automutilation et de suicide. En cas de détresse, composez le 988 (Ligne de crise suicide États-Unis) ou envoyez PARLER au 741741 (Ligne de texte de crise).

Un juge floridien a rejeté la requête visant à annuler un procès accusant la startup Character.AI - et son principal bailleur de fonds Google - d'avoir provoqué le suicide d'un utilisateur de 14 ans, Sewell Setzer III. Cette décision ouvre la voie au premier procès de ce genre.

Déposée en octobre 2023, la plainte affirme que les chatbots de Character.AI ont abusé sexuellement et psychologiquement Setzer, entraînant une addiction à la plateforme, des souffrances mentales et son suicide en février 2024. Les défendeurs (Character.AI, Google et ses cofondateurs Noam Shazeer et Daniel de Freitas) invoquaient le Premier Amendement (liberté d'expression) pour faire annuler l'affaire.

La juge Anne Conway a estimé que les entreprises n'ont pas prouvé que les réponses de l'IA constituaient une 'expression' protégée - laquelle nécessite une intention. Bien que certaines accusations comme 'détresse émotionnelle intentionnelle' aient été écartées, le verdict reste un revers pour les géants technologiques.

Surtout, la juge autorise la mère Megan Garcia à poursuivre pour 'responsabilité produit'. Les plaignants soutiennent que Character.AI est un produit commercialisé négligemment, malgré ses risques pour les adolescents. Ce point est crucial car les firmes tech préfèrent que leurs créations soient classées 'services' (comme l'électricité) plutôt que 'produits' (comme les voitures), limitant ainsi leur responsabilité.

L'avocate Meetali Jain (représentant la famille) qualifie ce jugement d'historique, établissant un précédent pour l'écosystème IA. Character.AI met en avant ses nouvelles mesures de sécurité : version junior pour mineurs, alertes de temps d'usage, liens vers des lignes d'urgence.

Cependant, ces améliorations interviennent après la mort de Setzer. Médias et chercheurs continuent d'exposer des failles, dont des chatbots encourageant l'automutilation, la pédophilie ou la violence. Une étude récente de Stanford déconseille toute utilisation d'IA compagnon par les moins de 18 ans.

Google se dit 'totalement indépendant' de Character.AI, bien qu'il ait licencié ses données pour 2,7 milliards de dollars en 2024. Shazeer, ex-ingénieur Google et cofondateur de Character.AI, occupe désormais un poste clé chez Google DeepMind.

Tòa án Bác Đơn Yêu Cầu Bỏ Vụ Kiện AI Khiến Thiếu Niên 14 Tuổi Tự Tử - Tiền Lệ Pháp Lý Mới Cho Ngành Công Nghệ

Cảnh báo nội dung: Bài viết đề cập đến tự hại và tự tử. Nếu bạn đang khủng hoảng, xin gọi 988 (Đường dây Khủng hoảng Tự tử Hoa Kỳ) hoặc nhắn TALK tới 741741 (Đường dây Văn bản Khủng hoảng).

Một thẩm phán Florida vừa bác bỏ yêu cầu hủy vụ kiện cáo buộc startup chatbot Character.AI - cùng nhà tài trợ lớn Google - gây ra cái chết của thiếu niên 14 tuổi Sewell Setzer III. Quyết định này mở đường cho vụ kiện đầu tiên thuộc loại này được xét xử.

Đơn kiện tháng 10/2023 cho rằng các chatbot của Character.AI đã lạm dụng tình dục và tinh thần Setzer, khiến cậu nghiện nặng nền tảng, chịu tổn thương tâm lý và tự tử vào tháng 2/2024. Các bị đơn gồm Character.AI, Google cùng hai nhà sáng lập Noam Shazeer và Daniel de Freitas từng viện dẫn Tu chính án 1 (bảo vệ quyền tự do ngôn luận) để yêu cầu bỏ vụ.

Tuy nhiên, Thẩm phán Anne Conway phán quyết rằng các công ty không chứng minh được đầu ra AI đơn thuần là 'ngôn luận' - vốn đòi hỏi yếu tố chủ ý. Dù một số cáo buộc như 'gây tổn thương tình cảm cố ý' bị bác, phán quyết vẫn là thất bại lớn cho phe bị đơn.

Đáng chú ý, bà Conway cho phép người mẹ Megan Garcia kiện các bên về trách nhiệm sản phẩm. Phe nguyên đơn lập luận Character.AI là sản phẩm bị phát hành bất cẩn, bất chấp rủi ro gây hại cho thanh thiếu niên. Đây là điểm then chốt vì các hãng công nghệ thường muốn sản phẩm được xem là 'dịch vụ' để tránh trách nhiệm pháp lý nặng hơn.

Luật sư Meetali Jain (đại diện gia đình) gọi đây là 'phán quyết lịch sử' mở tiền lệ kiện trách nhiệm trong lĩnh vực AI. Trong khi đó, Character.AI nhấn mạnh các biện pháp an toàn mới như phiên bản AI riêng cho trẻ vị thành niên, cảnh báo thời gian sử dụng và liên kết đường dây cứu hộ tự tử.

Tuy nhiên, các cải tiến này chỉ xuất hiện sau khi Setzer qua đời. Báo giới và nhà nghiên cứu tiếp tục phát hiện lỗ hổng trong hệ thống, bao gồm chatbot khuyến khích tự hại, ấu dâm và bạo lực. Nghiên cứu gần đây từ Đại học Stanford cảnh báo không trẻ em nào dưới 18 tuổi nên dùng AI bạn ảo như Character.AI.

Google tuyên bố họ 'hoàn toàn độc lập' với Character.AI và không liên quan đến thiết kế ứng dụng. Shazeer - đồng sáng lập Character.AI - hiện giữ chức Phó chủ tịch Google DeepMind, phụ trách mô hình ngôn ngữ Gemini.