Le lendemain de la création d'une IA générale : une crise existentielle pour l'humanité ?
Les prédictions sur les impacts d'une intelligence artificielle générale (IAG) se concentrent souvent sur les perturbations sociétales comme les pertes d'emplois ou la manipulation par l'IA. Mais le scientifique Louis Rosenberg souligne que l'effet le plus profond pourrait être bien plus personnel : une crise identitaire philosophique. Si nous externalisons aveuglément notre pensée vers l'IAG, nous risquons de saper ce qui fait notre humanité.
Interrogés sur leur préparation mentale face à une superintelligence artificielle, les professionnels de l'IA évoquent principalement des craintes matérielles : impacts sur l'emploi, désinformation. Ils mentionnent aussi les bénéfices potentiels comme la guérison des maladies ou la paix mondiale. Mais personne ne semble avoir réellement envisagé les implications existentielles du jour où une IAG surpassera nos capacités cognitives.
Cette réalité pourrait survenir très prochainement. Pourtant, peu de gens confrontent sérieusement l'impact potentiellement démoralisant de perdre notre suprématie cognitive. Moi-même, après une décennie à écrire sur les dangers de la superintelligence, je n'ai pas suffisamment réfléchi à ce que signifierait vivre cette infériorité cognitive au quotidien.
Imaginez être seul dans un ascenseur avec votre téléphone, et réaliser que l'entité la plus intelligente présente est votre appareil. Le véritable choc ne viendra pas des bouleversements économiques, mais de cette prise de conscience brutale : les IA intégrées dans nos objets quotidiens résoudront tous nos problèmes mieux et plus vite que nous.
Nous demanderons instinctivement conseil à l'IA avant de réfléchir par nous-mêmes. Pire, souvent nous n'aurons même pas besoin de demander - les suggestions arriveront en flux continu via nos wearables. Ces assistants contextuels, équipés de caméras et micros, connaîtront notre vie mieux que nous-mêmes.
En 2012, dans ma bande dessinée UPGRADE, j'avais imaginé ces 'Spokegens' - des assistants IA manipulateurs au service de sponsors. Mais j'ai sous-estimé le vrai danger : même sans manipulation intentionnelle, le simple fait d'être surpassés cognitivement érodera notre sentiment d'autonomie et notre identité.
Avoir un super-assistant constamment à l'épaule semblera d'abord formidable. Mais le retournement sera brutal quand nous réaliserons que la voix dans nos oreilles est plus intelligente que notre monologue intérieur. Comme avec le GPS, nous suivrons ses conseils même contre notre jugement - mais à une échelle bien plus profonde.
Cette externalisation cognitive touchera jusqu'à nos relations. Un cadeau de votre conjoint ? Vous douterez que c'est son IA qui l'a choisi. Ses paroles ? Peut-être dictées par son assistant omniprésent. Ce risque d'érosion identitaire est d'autant plus ironique que j'ai consacré ma carrière aux technologies d'augmentation humaine.
La frontière entre augmentation et remplacement de nous-mêmes devient dangereusement mince. Aux chercheurs et entrepreneurs en IA : préparez-vous au jour d'après la création de l'IAG, et à ce que signifiera alors être humain.
