Comment exécuter un modèle de langage (LLM) sur votre ordinateur portable : Un guide pour reprendre le contrôle de l'IA
La série "How To" du MIT Technology Review vous guide pas à pas. Simon Willison, un blogueur spécialisé dans les LLM locaux, prépare même l'apocalypse avec une clé USB contenant ses modèles open-source préférés. Mais nul besoin de scénario catastrophe pour vouloir exécuter un LLM sur son propre appareil. Une communauté de 500 000 membres sur Reddit partage cette passion, motivée par des préoccupations de confidentialité, de contrôle et de simple plaisir de bidouillage.
Il fut un temps où l'exécution locale de LLM nécessitait des GPU coûteux. Aujourd'hui, grâce aux progrès techniques, un simple ordinateur portable ou smartphone suffit. "Il y a quelques années, j'aurais dit que c'était impossible sans serveurs à 50 000$", admet Willison, constamment surpris par les avancées.
Choisir un LLM local demande plus d'efforts que d'utiliser ChatGPT en ligne, mais offre des avantages cruciaux. Elizabeth Seger de Demos rappelle l'adage : "Si c'est gratuit, vous êtes le produit". OpenAI et Google exploitent par défaut les conversations des utilisateurs pour entraîner leurs modèles, avec des options de désactivation limitées. Anthropic fait exception, sauf pour les conversations signalées comme problématiques.
Giada Pistilli de Hugging Face met en garde : les modèles peuvent internaliser et reproduire des données personnelles, compromettant la confidentialité. Au-delà de la vie privée, elle souligne l'enjeu de pouvoir : "La technologie, c'est le pouvoir. Celui qui la contrôle détient ce pouvoir". Les modèles locaux offrent ainsi une alternative pour contrer la concentration du pouvoir IA entre quelques mains.
Ces solutions alternatives permettent également de personnaliser son expérience LLM, contrairement aux plateformes en ligne dont les fonctionnalités sont figées. La démocratisation des LLM locaux marque un tournant dans l'accès à l'intelligence artificielle, rendant cette technologie puissante accessible au grand public tout en préservant les libertés individuelles.
