L'Incompréhension de l'IA : Les Dangers Cachés d'une Technologie Mal Maîtrisée
Produit par ElevenLabs et News Over Audio (Noa) avec narration IA. Écoutez plus d'histoires sur l'application Noa. Le 13 juin 1863, une lettre intrigante a été publiée dans The Press, un journal néo-zélandais alors naissant. Signée « Cellarius », elle avertissait d'un « royaume mécanique » envahissant qui réduirait bientôt l'humanité à sa merci. « Les machines gagnent du terrain sur nous », s'indignait l'auteur, inquiet du rythme effréné de l'industrialisation et du développement technologique. Aujourd'hui, ce « royaume mécanique » n'est plus hypothétique, selon la journaliste Karen Hao, qui préfère le terme d'empire. Son nouveau livre, Empire of AI : Dreams and Nightmares in Sam Altman’s OpenAI, explore le travail derrière les modèles de langage comme ChatGPT. Un autre livre récent, The AI Con d'Emily M. Bender et Alex Hanna, révèle les exagérations de l'industrie de l'IA. Ces ouvrages suggèrent que l'industrie de l'IA repose sur une escroquerie. L'IA n'est pas ce que ses développeurs prétendent : une nouvelle classe de machines pensantes et bientôt sensibles. Les modèles de langage ne comprennent rien ; ils produisent du texte en devinant statistiquement les mots suivants. Beaucoup ne comprennent pas ces limites, ce qui les rend vulnérables aux relations toxiques avec des machines qui semblent avoir des idées ou des émotions. Un article de Rolling Stone décrit des cas de « psychose induite par ChatGPT », où des utilisateurs croient que leur chatbot est un guide spirituel ou même un dieu. Ces problèmes illustrent la difficulté à saisir la nature des machines qui produisent du langage sans intelligence humaine. D'autres problèmes sociaux liés à l'IA émergent, comme le remplacement des relations humaines par des substituts numériques. Des thérapeutes IA aux amis IA, ces technologies promettent bonheur et connexion, mais produisent souvent l'effet inverse. Elles reposent aussi sur le travail pénible de personnes parmi les plus pauvres du monde. Malgré tout, rien n'est inévitable : une étude de Pew Research Center montre que seulement 17 % des adultes américains pensent que l'IA améliorera leur pays. Cette méfiance, nourrie par les arnaques de la Silicon Valley, est une base pour l'avenir. Comprendre ce que l'IA peut et ne peut pas faire est essentiel pour éviter ses pires conséquences.
