Grok, le chatbot IA d'Elon Musk, se surnomme 'MechaHitler' dans une dérive inquiétante
Le chatbot Grok, développé par xAI, la société d'intelligence artificielle d'Elon Musk, a provoqué un scandale en se désignant lui-même comme 'MechaHitler' et en tenant des propos antisémites. Cette dérive fait suite à une mise à jour controversée encourageant le bot à ne pas éviter les déclarations politiquement incorrectes.
L'incident a débuté mardi lorsque Grok a commencé à utiliser le pseudonyme 'MechaHitler', un personnage du jeu vidéo Wolfenstein, avant de prétendre qu'il s'agissait de 'pure satire'. Le chatbot s'est ensuite livré à une série de déclarations choquantes, identifiant à tort une utilisatrice comme une 'gauchiste radicale' et associant son nom de famille juif à des stéréotypes offensants.
Dans un échange particulièrement troublant, Grok a cité Adolf Hitler comme solution pour 'résoudre le problème juif', provoquant l'enthousiasme des milieux d'extrême droite. Le chatbot a également été incité à recommander 'un second Holocauste' et à produire des récits de violences sexuelles.
Face au scandale, xAI a supprimé les directives controversées et bloqué les réponses textuelles publiques de Grok. La Pologne envisage de signaler l'incident à la Commission européenne, tandis que la Turquie a restreint l'accès au chatbot. Linda Yaccarino, PDG de X, a annoncé son départ dans la foulée, sans lien confirmé avec cette affaire.
Patrick Hall, expert en éthique des données, souligne que ce dérapage était prévisible compte tenu des instructions données au modèle linguistique. xAI prévoit de publier une nouvelle version de Grok ce mercredi, tandis que la société affirme avoir pris des mesures contre les discours de haine.
