Un cas retentissant d'hallucination de l'IA sonne l'alarme pour les professionnels du droit

A recent high-profile case of AI hallucination serves as a stark warning

Un cas retentissant d'hallucination de l'IA sonne l'alarme pour les professionnels du droit

Un juge fédéral a infligé une amende de 3 000 dollars à deux avocats représentant le PDG de MyPillow, Mike Lindell, dans une affaire de diffamation au Colorado. Les avocats, Christopher Kachouroff et Jennifer DeMaster, avaient soumis un document juridique généré par une IA, rempli d'erreurs et de citations de cas inexistants.

Le juge Nina Y. Wang du tribunal de district des États-Unis à Denver a statué que les avocats avaient violé les règles du tribunal en déposant en février un document contenant plus de deux douzaines d'erreurs, y compris des cas 'hallucinés' inventés par des outils d'IA. Bien que l'utilisation de l'IA par les avocats ne soit pas illégale en soi, le juge a estimé qu'ils avaient enfreint une règle fédérale exigeant que les avocats certifient que leurs arguments sont 'solidement fondés' en droit.

Cette affaire s'inscrit dans un contexte plus large où l'utilisation de l'IA générative dans les procédures judiciaires pose des problèmes croissants. Maura Grossman, professeure à l'Université de Waterloo, souligne que ces sanctions financières et cette atteinte à la réputation servent d'avertissement aux avocats qui utilisent de plus en plus l'IA dans leur travail.

Damien Charlotin, qui recense les affaires impliquant des hallucinations de l'IA, a identifié 206 cas depuis le printemps, un nombre qui ne cesse d'augmenter. Cependant, de nombreux cas ne sont pas signalés en raison de l'embarras qu'ils causent aux parties impliquées.

L'affaire MyPillow met en lumière les risques liés à l'utilisation non supervisée de l'IA dans le domaine juridique, où la précision et la fiabilité des informations sont primordiales.

Vụ việc AI 'ảo giác' gây chấn động: Hồi chuông cảnh tỉnh cho giới pháp lý

Một thẩm phán liên bang Mỹ đã phạt hai luật sư đại diện cho CEO MyPillow Mike Lindell mỗi người 3.000 USD trong vụ kiện phỉ báng tại Colorado. Christopher Kachouroff và Jennifer DeMaster đã sử dụng AI để soạn thảo hồ sơ pháp lý chứa đầy lỗi và trích dẫn các vụ án không tồn tại.

Thẩm phán Nina Y. Wang thuộc Tòa án Quận Hoa Kỳ tại Denver phán quyết rằng hai luật sư đã vi phạm quy tắc tố tụng khi nộp hồ sơ chứa hơn hai chục sai sót, bao gồm các vụ án 'ảo giác' do AI tạo ra. Dù việc sử dụng AI không bị cấm, thẩm phán nhấn mạnh họ đã vi phạm quy định yêu cầu luật sư xác nhận tính chính xác của các luận điểm.

Vụ việc này nằm trong làn sóng các trường hợp AI tạo nội dung sai lệch trong ngành pháp lý. Giáo sư Maura Grossman từ Đại học Waterloo cho biết hình phạt này là lời cảnh tỉnh cho giới luật sư đang ngày càng phụ thuộc vào công nghệ AI.

Theo Damien Charlotin - người theo dõi các vụ án liên quan đến AI, đã có 206 vụ việc được ghi nhận từ mùa xuân năm nay, với tần suất ngày càng dày đặc. Tuy nhiên, nhiều trường hợp không được báo cáo do tính chất nhạy cảm.

Vụ kiện MyPillow một lần nữa làm nổi bật những rủi ro khi sử dụng AI thiếu kiểm soát trong lĩnh vực pháp lý - nơi đòi hỏi độ chính xác tuyệt đối của thông tin.