Enseigner aux IA à reconnaître leurs limites : La révolution de Themis AI
Les systèmes d'intelligence artificielle comme ChatGPT fournissent des réponses plausibles à presque toutes les questions. Cependant, ils ne signalent pas toujours leurs incertitudes ou leurs lacunes de connaissances, un problème aux conséquences potentiellement graves dans des domaines critiques comme la pharmacie ou les véhicules autonomes. La spin-off du MIT, Themis AI, propose une solution innovante avec sa plateforme Capsa, capable d'évaluer et de corriger en quelques secondes les sorties peu fiables de tout modèle d'apprentissage automatique.
Fondée en 2021 par la professeure du MIT Daniela Rus et ses anciens étudiants Alexander Amini et Elaheh Ahmadi, Themis AI modifie les modèles d'IA pour qu'ils détectent les ambiguïtés, les biais ou les données incomplètes lors du traitement. « Notre objectif est d'améliorer les modèles et de garantir leur fiabilité », explique Rus, directrice du laboratoire d'informatique et d'IA du MIT (CSAIL).
Les applications sont vastes : des opérateurs télécoms aux sociétés pétrolières analysant des images sismiques, en passant par le développement de chatbots plus fiables. « Nous voulons permettre l'utilisation de l'IA dans les applications les plus sensibles », souligne Amini. « Themis permet à n'importe quelle IA de prédire ses propres erreurs avant qu'elles ne surviennent. »
Les recherches de l'équipe remontent à 2018, avec un projet financé par Toyota sur la fiabilité des systèmes de conduite autonome. Ils ont également développé un algorithme corrigeant les biais dans la reconnaissance faciale. En 2021, leur travail sur la découverte de médicaments a convaincu les fondateurs du potentiel de leur technologie.
Aujourd'hui, Capsa aide notamment les modèles de langage (LLM) à évaluer leur propre incertitude. « Les entreprises veulent utiliser des LLM basés sur leurs données, mais elles s'inquiètent de leur fiabilité », note Stewart Jamieson, responsable technologique de Themis AI. La plateforme permet aussi d'améliorer l'IA embarquée sur des puces, combinant rapidité et précision.
Dans le secteur pharmaceutique, Capsa accélère l'identification des candidats-médicaments en distinguant les prédictions fondées des simples spéculations. Themis AI explore également des techniques comme le raisonnement en chaîne pour améliorer l'exactitude des LLM.
Pour Rus, Themis AI incarne l'impact concret de la recherche académique. « L'IA peut transformer les industries, mais elle soulève des inquiétudes. Notre mission est de développer des solutions techniques qui renforcent la confiance entre les humains et ces technologies. »
