Selon l'analyse du 29 mai d'Epoch AI, les modèles d'IA à poids ouverts ont accusé un retard moyen de quatre mois sur les meilleurs modèles fermés depuis janvier 2026. Un nombre croissant d'entre eux fonctionnent désormais sur du matériel que beaucoup de personnes possèdent déjà, et deux programmes gratuits—Ollama et LM Studio—gèrent l'installation : les petits modèles nécessitent environ 8 Go de VRAM ou de mémoire unifiée Mac, et LM Studio peut fonctionner entièrement hors ligne.

Les plus grands modèles ouverts, comme le Qwen 3.8-Max d'Alibaba avec ses 2 400 milliards de paramètres, dépassent largement le matériel grand public, et les modèles fermés ont remporté 24 des 31 tests de la comparaison d'Alibaba elle-même. Pour les tâches quotidiennes, toutefois, l'écart s'est suffisamment réduit pour qu'un chatbot performant fonctionne entièrement sur un ordinateur personnel—sans l'abonnement d'environ 20 dollars par mois et sans envoyer les conversations aux serveurs d'une entreprise.

« Poids ouverts » signifie que l'entreprise publie les poids—les fichiers contenant tout ce que le modèle a appris—afin que n'importe qui puisse les télécharger et les exécuter. Les téléchargements de Gemma 4 dans la bibliothèque d'Ollama vont d'environ 4,6 Go à 20 Go. Ce guide explique comment télécharger et exécuter des modèles d'IA directement sur votre ordinateur, quel matériel est nécessaire et comment démarrer avec des outils gratuits comme Ollama et LM Studio—que l'objectif soit d'économiser de l'argent, de garder les conversations privées ou d'expérimenter avec des modèles que vous pouvez personnaliser vous-même.

Pourquoi exécuter un modèle d'IA sur sa propre machine

Un chatbot cloud envoie chaque requête aux serveurs d'une entreprise, et un tribunal a ordonné à OpenAI de conserver les journaux de ChatGPT, y compris ceux supprimés, comme Decrypt l'a rapporté dans une revue des outils d'IA axés sur la confidentialité. Un modèle local garde la conversation sur l'ordinateur de l'utilisateur, où personne ne peut l'utiliser sans autorisation.

La documentation de LM Studio indique que l'application « peut fonctionner entièrement hors ligne, il suffit de d'abord obtenir des fichiers de modèles », et que les documents joints à une conversation peuvent aussi être utilisés entièrement hors ligne.

Les abonnements aux chatbots payants coûtent environ 20 dollars par mois, tandis que les logiciels présentés ici sont gratuits ; le coût se déplace instead vers du matériel que l'utilisateur possède peut-être déjà.

Les licences déterminent ce qu'on peut faire avec les poids téléchargés. La série R1 de DeepSeek est sous licence MIT, et sa fiche de modèle indique que les modèles « prennent en charge l'usage commercial, autorisent toute modification et tout travail dérivé », tandis que Gemma 4 de Google et gpt-oss d'OpenAI sont publiés sous Apache 2.0. Exécuter des modèles sous des licences open source comme Apache ou MIT signifie que les utilisateurs sont libres d'utiliser, de modifier et de faire ce qu'ils veulent d'un modèle—et d'accéder à des versions améliorées ou modifiées mieux adaptées à leurs besoins. Quelqu'un qui a besoin d'un modèle performant en médecine, par exemple, n'a pas à se soucier de ses capacités en programmation. Ce niveau de personnalisation n'est disponible que dans des modèles personnalisés.

Ce que votre matériel peut réellement exécuter

Les modèles sont dimensionnés en paramètres—les nombres internes ajustés pendant l'entraînement—et le téléchargement augmente avec eux. Le modèle doit tenir dans la mémoire vidéo de la carte graphique, appelée VRAM, ou dans la mémoire unifiée d'un Mac, partagée entre le processeur et la puce graphique.

En règle générale, au moins 8 Go de VRAM constituent une base raisonnable, et les modèles compressés à des tailles plus réduites pourront tenir. Les utilisateurs exigeants devraient envisager une carte graphique gaming avec 24 Go de VRAM ou plus—soit en empilant plusieurs GPU, soit en achetant des racks IA dédiés ou des machines à mémoire unifiée comme le Mac Mini ou le Nvidia DGX Spark.

La quantification réduit un modèle en stockant chaque poids avec moins de bits. La documentation de Hugging Face la décrit comme la représentation des poids et des activations « avec des types de données basse précision comme les entiers 8 bits (int8) au lieu de l'habituel flottant 32 bits (float32) », ce qui réduit l'utilisation de la mémoire au prix d'une certaine précision.

Les configurations requises de LM Studio recommandent 16 Go de RAM ou plus sur les Mac Apple Silicon sous macOS 14 ou plus récent, bien que les Mac de 8 Go puissent gérer des modèles plus petits. Sous Windows, il recommande au moins 16 Go de RAM et 4 Go de VRAM dédiée, avec un processeur prenant en charge AVX2 ; les Mac à processeur Intel ne sont pas pris en charge.

La bibliothèque d'Ollama liste Gemma 4 26B à 16-19 Go et la version 31B à 19-20 Go. Le gpt-oss-20b d'OpenAI ne nécessite que 16 Go de mémoire, et le gpt-oss-120b fonctionne dans 80 Go, selon OpenAI.

Comment installer Ollama et LM Studio

LM Studio est probablement le choix privilégié de la plupart des utilisateurs car il offre une interface graphique soignée. Ollama, en revanche, s'adresse aux développeurs et aux utilisateurs plus expérimentés qui préfèrent travailler dans un terminal (CLI).

Pour LM Studio, téléchargez le programme d'installation pour votre système d'exploitation depuis lmstudio.ai, cherchez un modèle dans l'application, téléchargez ses poids et ouvrez une conversation. L'application interroge Hugging Face, la plateforme publique où les modèles ouverts sont publiés.

Pour Ollama, les utilisateurs de macOS et Linux installent avec la commande curl -fsSL | sh, et les utilisateurs de Windows exécutent irm | iex dans PowerShell—les deux étant listés sur la page de téléchargement d'Ollama.

Taper ollama pull gemma4:e2b télécharge un modèle, et ollama run gemma4:e2b ouvre une conversation ; /bye quitte, selon le guide de démarrage rapide d'Ollama. Le programme ouvre également une API locale sur permettant à d'autres applications de la machine d'utiliser le modèle.

Les noms de modèles se terminant par « :cloud », comme gemma4:cloud, sont des modèles cloud qui fonctionnent dans le cloud d'Ollama et ne nécessitent aucun téléchargement—ils peuvent donc être ignorés si la confidentialité est l'objectif. Cela dit, ils constituent une seconde option raisonnable pour ceux qui ont besoin de modèles plus puissants : les appels et requêtes traités via l'API ne sont pas stockés sur les serveurs du fournisseur, et ne sont pas utilisés pour entraîner des modèles.

La vitesse de génération peut aussi être améliorée en local. Les drafters Multi-Token Prediction de Google pour Gemma 4, disponibles sur Ollama sous Apache 2.0, accélèrent la génération jusqu'à 3x grâce au décodage spéculatif, dans lequel un petit modèle propose plusieurs tokens à l'avance et le grand modèle les vérifie ensemble. Google a déclaré que « si le modèle cible est d'accord avec l'ébauche, il accepte toute la séquence en une seule passe avant », et le modèle cible ajoute un token supplémentaire dans cette même passe.

Les modèles locaux peuvent également accéder à la recherche web et aux fichiers via des serveurs MCP—sigle de Model Context Protocol—et LM Studio a ajouté la prise en charge dans la version 0.3.17, selon le guide de Decrypt.

Là où les modèles locaux perdent encore face au cloud

La moyenne de quatre mois décrit les modèles ouverts les plus performants, et les plus grands dépassent de loin le matériel grand public. Le Qwen3.8-Max d'Alibaba compte 2 400 milliards de paramètres au total, dont 95 milliards actifs à tout instant, à comparer aux 80 Go de mémoire dans lesquels fonctionne le gpt-oss-120b.

Quand un modèle déborde de la VRAM vers la RAM système, les réponses peuvent être considérablement plus lentes, et les grandes fenêtres de contexte nécessitent plus de mémoire. Les petits modèles de Gemma 4 offrent une fenêtre de contexte de 128K tokens—la quantité de texte qu'un modèle peut considérer à la fois—tandis que les plus grands offrent 256K. Les services cloud ne demandent aucune de ces planifications, et les modèles de pointe qui les sous-tendent dominent toujours les tests les plus difficiles.

Le choix pratique est donc un compromis entre contrôle et commodité : les outils locaux gardent les conversations sur l'ordinateur et permettent aux utilisateurs de choisir des poids compatibles ou personnalisés, mais ils doivent adapter le modèle à la mémoire disponible et accepter que les modèles les plus performants peuvent nécessiter des services cloud ou un matériel plus puissant. L'accès web n'est pas non plus automatique lorsqu'un modèle est hors ligne ; il requiert un serveur MCP ou un autre outil connecté.

Pour ceux qui souhaitent utiliser l'IA en privé, la revue de Decrypt elle-même recommandait « xPrivo avec un modèle local auto-hébergé pour la rédaction quotidienne qui ne doit pas quitter votre machine », et Kagi « quand vous avez besoin de recherche web et acceptez le compromis de l'appel API ».