Pendant que l’attention médiatique se concentre sur les très grands modèles d’IA hébergés dans le cloud, une autre révolution est en marche : celle des petits modèles, de l’IA open source et des LLMs locaux capables de tourner directement sur un PC, un smartphone ou un objet connecté.

Dans cet épisode, on explique pourquoi ces modèles plus compacts – comme ceux de la famille LLaMA, Mistral et consorts – sont devenus stratégiques pour les développeurs, les entreprises et les créateurs de produits IA. Coût maîtrisé, meilleure confidentialité, contrôle total sur les données et intégration fine dans des applications existantes : les avantages sont nombreux.

L’épisode explore les briques clés de cet écosystème :
🔹 Modèles open source et licences
🔹 LLMs locaux et outils comme Ollama
🔹 NPU, edge computing et accélération matérielle
🔹 IA embarquée dans les logiciels et les objets

Nous comparons deux visions complémentaires de l’IA :
🔹 La “grosse IA” centralisée dans le cloud, très puissante mais coûteuse et dépendante
🔹 La “small AI” distribuée, plus sobre, intégrée partout et pensée pour des usages précis

L’épisode montre aussi comment ces approches peuvent cohabiter : gros modèles pour les tâches complexes ou globales, petits modèles locaux pour le temps réel, la confidentialité et la personnalisation.

Un épisode pour comprendre pourquoi l’avenir de l’IA ne sera pas seulement une course à la taille, mais aussi une question de déploiement, de contrôle et d’intelligence distribuée.