Un cas retentissant d'hallucination de l'IA sonne l'alarme pour les professionnels du droit
Un juge fédéral a infligé une amende de 3 000 dollars à deux avocats représentant le PDG de MyPillow, Mike Lindell, dans une affaire de diffamation au Colorado. Les avocats, Christopher Kachouroff et Jennifer DeMaster, avaient soumis un document juridique généré par une IA, rempli d'erreurs et de citations de cas inexistants.
Le juge Nina Y. Wang du tribunal de district des États-Unis à Denver a statué que les avocats avaient violé les règles du tribunal en déposant en février un document contenant plus de deux douzaines d'erreurs, y compris des cas 'hallucinés' inventés par des outils d'IA. Bien que l'utilisation de l'IA par les avocats ne soit pas illégale en soi, le juge a estimé qu'ils avaient enfreint une règle fédérale exigeant que les avocats certifient que leurs arguments sont 'solidement fondés' en droit.
Cette affaire s'inscrit dans un contexte plus large où l'utilisation de l'IA générative dans les procédures judiciaires pose des problèmes croissants. Maura Grossman, professeure à l'Université de Waterloo, souligne que ces sanctions financières et cette atteinte à la réputation servent d'avertissement aux avocats qui utilisent de plus en plus l'IA dans leur travail.
Damien Charlotin, qui recense les affaires impliquant des hallucinations de l'IA, a identifié 206 cas depuis le printemps, un nombre qui ne cesse d'augmenter. Cependant, de nombreux cas ne sont pas signalés en raison de l'embarras qu'ils causent aux parties impliquées.
L'affaire MyPillow met en lumière les risques liés à l'utilisation non supervisée de l'IA dans le domaine juridique, où la précision et la fiabilité des informations sont primordiales.
