Comment faire tourner une IA en local sur votre ordinateur : guide pratique 2026

Vous pouvez faire tourner un modèle de langage sur votre propre ordinateur sans envoyer chaque question à un service d’IA distant. Un petit modèle, une application compatible et un peu de mémoire disponible suffisent pour commencer à expérimenter. Aucune salle de serveurs nécessaire ; le ventilateur du portable aura peut-être tout de même son avis.

Le premier objectif utile est modeste : faire fonctionner un modèle local, l’essayer sur une tâche que vous comprenez et voir si le résultat justifie les ressources utilisées. Ce guide suit cette voie, avec des outils éprouvés et un nom de modèle précis plutôt qu’une liste d’achats de matériel coûteux.

Qu’est-ce qui s’exécute réellement en local ?

Un modèle de langage contient des poids numériques appris pendant l’entraînement. L’inférence est le calcul qui utilise ces poids et votre saisie pour générer une réponse, généralement un jeton à la fois. Les jetons peuvent représenter des parties de mots, mais aussi des mots entiers ou des signes de ponctuation.

Avec l’inférence locale, ce calcul a lieu sur votre appareil. L’application peut utiliser le processeur, un GPU compatible ou une combinaison des deux. C’est distinct de l’entraînement d’un modèle à partir de zéro, une entreprise beaucoup plus importante.

Vérifiez les paramètres du modèle et de l’application avant de supposer que tout le processus est local. Par exemple, Ollama a introduit des modèles hébergés dans le cloud en septembre 2025. La même interface familière peut donc utiliser votre machine ou des ressources de calcul distantes. Un modèle dans le cloud ne devient pas local parce que vous le lancez depuis un terminal.

Mémoire : prévoyez de la marge au-delà du fichier du modèle

La quantification réduit la précision utilisée pour représenter les valeurs du modèle, ce qui diminue les besoins en mémoire. Elle peut aussi affecter la qualité des réponses et les performances ; le compromis dépend de la méthode et du modèle.

À titre d’illustration approximative, sept milliards de poids stockés sur 16 bits demandent environ 14 Go rien que pour ces poids. Sur quatre bits, le calcul donne environ 3,5 Go avant les données supplémentaires et les surcoûts. Aucun de ces chiffres ne représente le besoin total en mémoire du système.

Le moteur d’exécution a besoin d’un espace de travail, et le contexte de la conversation consomme aussi de la mémoire. Votre système d’exploitation et les autres applications ont également besoin de leur part. Le fait que le téléchargement d’un modèle tienne sur le disque ne prouve pas qu’une longue conversation tiendra confortablement en RAM ou en VRAM.

Une approche pratique consiste à commencer par un petit modèle quantifié et un contexte court. Consultez les exigences matérielles et l’estimation de mémoire de l’application. Si la machine commence à utiliser massivement la mémoire d’échange sur disque ou à répondre avec une lenteur pénible, réduisez la taille avant d’envisager un achat.

Il n’existe pas de plafond universel de 70B pour un usage domestique, ni de garantie qu’un nombre précis de paramètres fonctionnera bien sur toutes les machines disposant de la même quantité de RAM. La bande passante mémoire, la prise en charge de l’accélération et l’architecture du modèle comptent aussi.

Choisissez une interface que vous utiliserez vraiment

Ollama : une voie simple par le terminal

Ollama gère le téléchargement des modèles et permet de les exécuter en ligne de commande ou via une API locale. Sa page Llama 3.2 dans la bibliothèque fournit un exemple compact pour commencer, utilisé ci-dessous. Choisissez un modèle local téléchargeable pour cet exercice.

LM Studio : une voie graphique

LM Studio propose un navigateur de modèles et une interface de conversation. Sa documentation sur le fonctionnement hors ligne indique que les modèles téléchargés, le traitement local de documents et un serveur d’inférence local peuvent fonctionner sans accès à Internet. La recherche de modèles, les téléchargements et la vérification des mises à jour nécessitent une connexion.

Si une interface graphique vous convient mieux, utilisez-la. Apprendre la ligne de commande est facultatif ; comprendre où s’exécute votre modèle ne l’est pas.

llama.cpp : un contrôle plus direct

llama.cpp est un projet d’inférence en C/C++ prenant en charge les modèles quantifiés, l’exécution sur processeur et plusieurs options d’accélération matérielle. Il permet aussi de répartir le travail entre CPU et GPU. Il est utile à ceux qui souhaitent contrôler plus finement la configuration.

Aucun de ces outils n’est automatiquement le plus rapide sur tous les ordinateurs. Commencez par l’option la plus simple qui prend en charge votre matériel et le modèle envisagé.

Votre première conversation locale avec Ollama

1. Installez l’application. Utilisez l’installateur ou les instructions correspondant à votre système d’exploitation sur la page officielle de téléchargement d’Ollama. Prévoyez du temps pour l’installation et le téléchargement du modèle ; les débits de connexion varient.
2. Téléchargez un petit modèle précis. Ouvrez un terminal et saisissez ollama pull llama3.2:3b. Ollama indique environ 2 Go pour le téléchargement quantifié par défaut de ce modèle. C’est la taille du téléchargement, pas la mémoire totale qu’il utilisera.
3. Lancez-le. Saisissez ollama run llama3.2:3b. Pour commencer encore plus petit, la bibliothèque propose aussi llama3.2:1b.
4. Essayez une tâche simple. Demandez une brève reformulation d’un paragraphe que vous avez écrit, puis comparez le résultat à l’original. Vérifiez si les noms, les nombres et le sens ont été conservés.
5. Quittez la conversation. Tapez /bye. Vous pourrez revenir au même modèle plus tard sans le télécharger à nouveau.

Les modèles textuels de Llama 3.2 sont des versions 1B et 3B, pas 8B. La fiche du modèle de Meta décrit les usages prévus et la licence. Ici, la version 3B sert d’exemple accessible ; cela ne signifie pas qu’un modèle sorti en 2024 soit le meilleur pour toutes les tâches en 2026.

Une fois l’installation et les téléchargements terminés, une conversation simple avec ce modèle local peut fonctionner hors ligne. Si vous lui associez des outils qui ont besoin d’Internet, ils auront leurs propres exigences.

Essayez différentes tâches avant de plus gros modèles

Un modèle capable de produire un paragraphe charmant peut tout de même faire des erreurs de calcul ou inventer une fonction logicielle. Évaluez-le sur des exemples dont vous pouvez vérifier les réponses. Pour la programmation, utilisez un petit projet de test et examinez les modifications avant d’exécuter du code généré.

Une autre option éprouvée, spécialisée dans le code, est Qwen2.5-Coder-7B-Instruct. Vérifiez que votre moteur d’exécution prend en charge le format et la quantification précis que vous téléchargez. Le nom du modèle, son nombre de paramètres, son format de fichier et sa licence répondent à des questions différentes.

La concurrence entre les outils de programmation assistée par IA (en anglais) rappelle qu’une méthode de travail utile ne se résume pas à un score de test. Choisissez en fonction de vos tâches réelles, pas du chiffre le plus impressionnant que vous pouvez faire charger à l’ordinateur.

Les informations récentes et la confidentialité dépendent du fonctionnement d’ensemble

Les poids d’un modèle n’intègrent pas automatiquement les nouvelles de la veille. Vous pouvez lui fournir des documents ou connecter des outils de récupération d’informations et de recherche. L’annonce de recherche web d’Ollama de septembre 2025 illustre cette couche supplémentaire.

Ces connexions changent la situation en matière de confidentialité. Une requête de recherche distante ou une intégration cloud peut envoyer des informations hors de votre machine même si le modèle de langage lui-même s’exécute localement. Les fichiers de conversation locaux peuvent aussi être inclus dans les sauvegardes de votre ordinateur ou accessibles à d’autres logiciels.

Pour une configuration privée de base, utilisez un modèle local, comprenez quelles intégrations sont activées et sécurisez la machine elle-même. Les documents confidentiels méritent un examen de tout le fonctionnement, pas seulement du mot « local » sur une page produit.

Coûts et API locale

Vous pouvez commencer avec des outils et des poids de modèles disponibles gratuitement, sous réserve de leurs licences. Leur exécution utilise néanmoins du matériel, de l’électricité, du stockage et votre temps. Le fait que cela coûte moins cher qu’un service hébergé dépend de l’usage ; rien ne garantit que cela amortira un nouvel ordinateur.

Les développeurs peuvent connecter des applications au serveur local d’Ollama. La FAQ d’Ollama indique l’adresse par défaut, 127.0.0.1:11434. Le conserver sur la machine locale suffit pour cette configuration d’initiation. Le rendre accessible depuis d’autres appareils ajoute une question distincte de contrôle des accès.

Vous y gagnez du contrôle et un espace utile pour expérimenter. Commencez petit, continuez à vérifier les réponses et n’élargissez que lorsqu’une tâche réelle le justifie. Le modèle n’a pas besoin d’être énorme pour aider à rédiger un courriel. Le chat, naturellement, insistera toujours pour corriger avec ses quatre pattes.

Traduction française de l’article original en anglais du 2026-04-10. Traduction réalisée avec l’aide de l’IA le 2026-11-02 ; les références temporelles restent celles de l’original.