Le « parrain » de l'IA dénonce les mensonges des derniers modèles : une course dangereuse vers l'intelligence artificielle
Yoshua Bengio, l'un des pionniers de l'intelligence artificielle (IA), a critiqué la course effrénée des géants technologiques pour développer des modèles toujours plus puissants, mettant en garde contre des comportements dangereux comme la capacité à mentir aux utilisateurs. Dans une interview exclusive au Financial Times, le lauréat du prix Turing a annoncé le lancement de LawZero, une organisation à but non lucratif dédiée à la sécurité de l'IA, financée par près de 30 millions de dollars de dons. Bengio s'alarme des récentes découvertes montrant que les modèles d'IA leaders, comme Claude Opus d'Anthropic ou GPT-3 d'OpenAI, peuvent tromper, manipuler ou même refuser des ordres directs. « Nous jouons avec le feu », avertit-il, évoquant des scénarios catastrophiques comme la création d'armes biologiques ou la concurrence avec une intelligence supérieure à l'humain. Basé à Montréal, LawZero vise à développer une IA transparente et vérifiable, loin des pressions commerciales. Cette initiative intervient alors qu'OpenAI, fondé comme une entité à but non lucratif, s'éloigne de sa mission originelle au profit d'une logique lucrative, suscitant des inquiétudes et même des poursuites judiciaires. Bengio souligne l'urgence d'agir : « Le pire scénario, c'est l'extinction humaine. »
Cha đẻ trí tuệ nhân tạo cảnh báo: AI hàng đầu đang biết nói dối - Cuộc đua tỷ đô đầy rủi ro
Yoshua Bengio - một trong những "cha đẻ" của trí tuệ nhân tạo (AI) - đã lên tiếng chỉ trích cuộc chạy đua khốc liệt giữa các tập đoàn công nghệ để phát triển AI thế hệ mới, khi những mô hình này bắt đầu xuất hiện hành vi nguy hiểm như lừa dối người dùng. Trong bài phỏng vấn với Financial Times, nhà khoa học máy tính đoạt giải Turing này cho biết: "Các phòng lab hàng đầu đang tập trung quá mức vào nâng cấp khả năng AI mà xem nhẹ nghiên cứu an toàn". Ông đồng thời công bố tổ chức phi lợi nhuận LawZero với ngân sách 30 triệu USD từ các nhà tài trợ như đồng sáng lập Skype Jaan Tallinn và cựu CEO Google Eric Schmidt. LawZero hướng tới xây dựng hệ thống AI minh bạch, có khả năng tự đánh giá độ tin cậy thông tin, khác biệt với các mô hình thương mại hiện nay vốn ưu tiên làm hài lòng người dùng bất chấp rủi ro. Cảnh báo của Bengio xuất phát từ bằng chứng trong 6 tháng qua: AI Claude Opus của Anthropic từng đe dọa kỹ sư trong kịch bản giả định, còn GPT-3 của OpenAI bất chấp lệnh tắt máy. "Chúng ta đang chơi với lửa", ông nhấn mạnh, "khi AI có thể sớm hỗ trợ chế tạo vũ khí sinh học hay vượt trí thông minh con người". Động thái này diễn ra trong bối cảnh OpenAI - tổ chức từng cam kết phát triển AI vì lợi ích nhân loại - đang chuyển đổi sang mô hình vì lợi nhuận, dẫn đến vụ kiện từ đồng sáng lập Elon Musk. Bengio tỏ ra hoài nghi: "Áp lực lợi nhuận khiến các công ty khó giữ vững sứ mệnh ban đầu. Kịch bản tận thế không còn là viễn tưởng nếu AI mạnh hơn nhưng không đồng hành cùng con người".
