Un service de police utilise une image générée par IA pour une "saisie de drogue", puis ment en affirmant qu'elle est réelle
Les images générées par IA envahissent tous les domaines, y compris les publications maladroites des forces de l'ordre sur les saisies de drogue. Comme le rapporte WMTW de Portland, dans le Maine, la police de la ville suburbaine de Westbrook a présenté ses excuses après avoir non seulement publié une photo clairement générée par IA d'une prétendue saisie de stupéfiants, mais aussi menti à ce sujet.
Le week-end dernier, le département de police de Westbrook a partagé sur Facebook une photo truffée d'indices révélateurs d'une génération par IA, notamment des textes illisibles sur une balance à drogue, des emballages de médicaments et des cartouches de vapotage de cannabis. Rapidement, des habitants du Maine avertis en IA ont dénoncé la supercherie, poussant la police à persister et à défendre l'authenticité de l'image.
"Nous tenons à rétablir la vérité : cette photo N'EST PAS générée par IA", a affirmé le département dans un message ultérieur, depuis supprimé. "Ce que vous voyez correspond bien à ce qui a été saisi lors des arrestations. Les emballages sont étranges et semblent incompréhensibles ou dans une langue étrangère ? Oui. Mais c'est bien ce qui a été trouvé et saisi par nos agents."
La police a ajouté que les emballages étaient "probablement étrangers" et qu'il était possible que leurs fabricants aient utilisé l'IA pour créer des imitations. Cependant, quelques jours plus tard, les publications ont été supprimées et le département a présenté des excuses.
Dans un nouveau post comparant l'image IA et l'originale, la police a expliqué qu'un officier non nommé avait utilisé un outil d'IA pour "ajouter le patch de notre département". "Sans que personne ne le sache, l'application a modifié les emballages et certains autres éléments de la photo", indiquent les excuses. "Personne ne l'a remarqué."
Un résident local a confié à WGME, une autre chaîne d'information de Portland, qu'il était choquant qu'une photo aussi manifestement altérée ait pu être publiée sur la page Facebook du département. "Cela me fait me demander à quel point les gens comprennent la technologie", a-t-il déclaré, "et à quel point il est facile de tromper les gens."
Cette affaire souligne la facilité avec laquelle on peut manipuler l'opinion publique. Bien que l'altération ait été maladroite ici, elle suggère que si les forces de l'ordre maîtrisaient mieux la falsification des preuves numériques, elles pourraient être tentées d'en abuser.
