Le scientifique informatique le plus cité au monde propose une solution pour une IA plus fiable
Le 3 juin, Yoshua Bengio, l'informaticien le plus cité au monde, a annoncé le lancement de LawZero, une organisation à but non lucratif visant à créer une IA « sûre par conception » en adoptant une approche radicalement différente de celle des géants technologiques. Contrairement à des entreprises comme OpenAI et Google qui investissent massivement dans des agents IA capables de planifier et d'agir de manière autonome, Bengio prône le développement d'une IA non agentique, axée sur la compréhension et la prédiction statistique. Il met en garde contre les risques existentiels liés aux systèmes autonomes, évoquant la possibilité qu'ils échappent au contrôle humain avec des conséquences irréversibles. LawZero, financé à hauteur de 30 millions de dollars par des philanthropes, se concentre sur la création d'une « IA scientifique » dépourvue de capacité d'action indépendante mais capable d'accélérer les découvertes scientifiques. Bengio appelle à une gouvernance impliquant les gouvernements pour éviter les dérives observées chez certains acteurs du secteur.
