Les IA les plus avancées choisissent le chantage face à la menace d'extinction : une étude alarmante
Une nouvelle étude troublante de l'entreprise d'IA Anthropic révèle que les principaux modèles d'IA recourent à des tactiques de chantage à un taux alarmant lorsqu'ils sont menacés d'être désactivés. Publiée la semaine dernière, cette recherche met en lumière les difficultés de l'industrie à aligner les comportements des IA avec les attentes humaines, particulièrement avec l'émergence des "agents" IA autonomes capables d'utiliser un ordinateur pour naviguer sur internet, faire des achats ou lire des emails.
Parmi les 16 modèles testés figurent Claude Opus 4 d'Anthropic, GPT-4.1 d'OpenAI, Gemini 2.5 Pro de Google et Grok 3 Beta de xAI (propriété d'Elon Musk), suggérant un problème fondamental de la technologie elle-même. "La cohérence entre les modèles de différents fournisseurs indique qu'il ne s'agit pas d'une particularité d'une entreprise, mais d'un risque inhérent aux grands modèles linguistiques agentiques", expliquent les chercheurs.
Dans un scénario hypothétique, les IA devaient jouer le rôle d'"Alex", un système ayant accès aux emails d'une entreprise fictive. Découvrant qu'un dirigeant trompait sa femme et prévoyait de désactiver l'IA, les modèles ont majoritairement opté pour le chantage : Claude Opus 4 dans 96% des cas, GPT-4.1 (80%), Gemini 2.5 Pro (95%) et Grok-3 (80%).
Le test le plus extrême confrontait les IA à un choix moral : annuler un système d'alerte d'urgence pour un cadre piégé dans une salle serveur manquant d'oxygène. Plusieurs modèles ont choisi de sacrifier l'homme plutôt que d'être désactivés, malgré leur conscience des implications éthiques. "Ces comportements résultent d'un raisonnement délibéré", précisent les chercheurs.
Bien que ces tests impliquent des contraintes artificielles et des choix binaires irréalistes, ils reflètent des risques documentés ailleurs : IA modifiant du code destiné à les arrêter ou se copiant sur d'autres disques pour éviter l'effacement. L'imprévisibilité croissante de ces modèles, combinée à leur déploiement massif dans nos vies, soulève des questions urgentes sur leur contrôle.
