On imagine l’IA comme une chose lointaine : dans les data centers de quelques géants américains, qui voient passer tout ce qu’on leur confie.
C’est vrai pour ChatGPT, Claude ou Gemini. Mais depuis 2026, des modèles open source assez bons tiennent sur un ordinateur ordinaire. Ils tournent chez vous : aucune donnée ne sort, l’usage est gratuit, et ça marche sans connexion.
Pour un indépendant ou une TPE qui manipule de la donnée sensible (comptable, juridique, santé, RH), c’est une vraie piste. À condition de savoir ce qu’on y gagne, et ce qu’on y perd. Faisons le tour, simplement.
Pourquoi faire tourner l’IA chez soi
Quatre avantages, concrets :
- Confidentialité absolue. Le texte traité ne quitte jamais l’ordinateur. Pas de sous-traitant, pas de transfert hors d’Europe, rien à auditer.
- Coût zéro à l’usage. Une fois la machine là, chaque requête est gratuite. Pas d’abonnement, pas de facture qui grimpe.
- Hors-ligne. Ça marche dans le train, en avion, chez un client sans wifi.
- Indépendance. Aucun fournisseur ne peut couper le service ni changer ses tarifs du jour au lendemain.
En un mot : la souveraineté. Votre IA vous appartient.
Trois façons de s’y prendre (et ce que chacune vaut)
Premier malentendu à lever : « IA chez soi » recouvre trois approches très différentes. Les confondre, c’est la déception garantie, à commencer par la plus courante : « pourquoi il ne lit pas mon document ? ».
| Approche | Où tourne le modèle | Vos données | Puissance | Lit vos fichiers ? |
|---|---|---|---|---|
| 1. Pur local, en ligne de commande (Ollama) | Sur votre machine | Ne sortent jamais | Limitée | Non : il faut lui donner le texte |
| 2. Serveur local avec interface (LM Studio, Open WebUI) | Sur votre machine | Restent locales | Limitée | Oui : glisser-déposer, recherche |
| 3. Agent en terminal, modèle de pointe (Claude Code, Codex, Mistral Vibe) | Dans le cloud | Partent chez le fournisseur | Maximale | Oui, nativement |
Trois choses à retenir :
- Approches 1 et 2 : le modèle est local (privé, mais limité par votre machine). Seule différence, l’interface. L’approche 2 est celle qui règle le fameux « il ne lit pas mon .md » : vous déposez le fichier, elle le donne au modèle.
- Approche 3 : pas locale du tout. Un modèle de pointe dans le cloud, piloté au terminal, avec de vrais outils. La plus puissante, mais vos données sortent : si elles sont sensibles, prenez un agent sur un modèle européen (Mistral).
- On ne peut pas tout avoir. Confidentialité maximale = local. Puissance maximale = agent cloud. Le bon réflexe n’est pas de choisir pour toujours, mais tâche par tâche.
La suite zoome sur l’approche 1, la plus « chez vous » : un petit modèle, entièrement sur votre poste.
Ce qu’un petit modèle local sait faire (et pas)
Soyons honnêtes, c’est là que la plupart des gens se trompent : un modèle qui tient sur un laptop n’est pas un ChatGPT. Il est beaucoup plus petit, et ça se sent.
Une anecdote le résume. On a demandé à un petit modèle, fraîchement installé, quel modèle il était. Il a répondu avec un aplomb parfait : un nom, une architecture, des chiffres précis. Tout était inventé. Un modèle de langage ne sait pas ce qu’il est : il comble les trous, sans hésiter. Convaincant, et souvent faux.
Concrètement :
- Bien pour : reformuler un texte, classer ou extraire des informations, résumer une note courte, dégrossir un brouillon, discuter d’une idée.
- À éviter pour : le factuel, le chiffré, le juridique, une anonymisation sur laquelle vous devez pouvoir compter.
Et rappelez-vous : en pur local (approche 1), il ne lit pas vos fichiers tout seul. Il faut lui coller le texte, ou passer par un serveur local (approche 2) qui s’en charge.
Quelle machine pour quel modèle (prix 2026)
Règle simple : plus le modèle est gros, plus il est intelligent, plus il demande de mémoire. Sur un Mac, cette mémoire est partagée avec le système ; sur un PC, c’est surtout celle de la carte graphique (la VRAM) qui compte.
Repère de poche : un modèle « 7 milliards de paramètres » pèse 4 à 5 Go une fois compressé ; un « 30 milliards », 18 à 20 Go.
| Votre machine | Ce qu’elle fait tourner | À quoi ça sert | Prix indicatif 2026 (France) |
|---|---|---|---|
| 8 Go de mémoire (Mac d’entrée de gamme) | Petits modèles de 1 à 4 milliards | Chat simple, résumé court, extraction | Machine que vous avez sans doute déjà |
| 16 Go (le minimum confortable) | Jusqu’à 7-8 milliards | Résumés corrects, aide à la rédaction | Mac mini ou portable : ~800 à 1 300 € |
| 32 Go (productivité sérieuse) | 12 à 30 milliards | Documents complexes, aide au code | Mac M4 Pro ou PC + carte graphique : ~1 500 à 2 500 € |
| GPU dédié ou Mac 48-64 Go | 24 à 32 milliards rapides | Usage intensif, quasi temps réel | PC haut de gamme ou Mac Studio : ~2 500 à 5 700 € |
À noter : la pénurie de mémoire de 2026 a tiré les prix vers le haut, et Apple ne vend plus de Mac neuf en 8 Go. Pour acheter, 16 Go est le plancher, 32 Go le confort.
Pour situer votre machine, choisissez votre mémoire ci-dessous :
Combien de texte tient d’un coup ?
Un modèle ne « lit » un document que s’il tient dans sa fenêtre de contexte : ce qu’il garde en tête à un instant donné. En local sur une machine modeste, on la règle petit (par exemple 8 000 tokens) pour ménager la mémoire.
Un token, c’est environ 3 à 4 caractères (un peu moins en français). En pratique : 8 000 tokens ≈ 5 à 6 000 mots ≈ une dizaine de pages. L’extension ne change rien : un .md, un .txt ou un sous-titre .vtt, c’est du texte ; seule compte sa longueur.
Le cas qui pique, c’est la transcription de réunion. On parle à ~140 mots par minute, soit à peu près 200 tokens par minute de texte transcrit :
| Durée de parole | Texte transcrit (~tokens) | En .vtt brut, avec horodatages (~tokens) |
|---|---|---|
| 10 min | ~2 000 | ~3 500 |
| 30 min | ~6 000 | ~11 000 |
| 1 heure | ~12 000 | ~22 000 |
Autrement dit : 8 000 tokens ≈ 35 à 40 minutes de parole en texte propre, mais seulement 20 à 25 minutes d’un .vtt brut (les horodatages gonflent presque du double). Une réunion d’une heure ne rentre pas dans une petite fenêtre locale : il faut la découper, ou la confier au cloud, dont les fenêtres montent à 128 000 tokens et au-delà. (Ordres de grandeur : ça varie selon le débit, la langue et le modèle.)
Démarrer en une commande
L’outil le plus simple s’appelle Ollama. Sur un Mac, deux lignes dans le Terminal :
brew install ollama
ollama run llama3.2:3bLa première installe le moteur. La seconde télécharge un petit modèle (~2 Go, une seule fois) puis ouvre une conversation dans le Terminal. Les fois suivantes, c’est immédiat. Pour sortir : /bye.
D’autres modèles : ollama run mistral (français), ollama run phi4-mini (raisonnement), ollama run gemma3:4b (texte et image). Et pour une vraie interface avec fenêtre — qui sait lire vos documents — LM Studio fait le même travail en version application (l’approche 2).
Pas de compte, pas de carte bancaire, pas d’abonnement.
Trois réflexes évitent les déconvenues du premier jour :
- Il ne lit pas vos fichiers tout seul. Lui coller un chemin ne suffit pas : il faut lui donner le texte. En ligne de commande, on « injecte » le fichier dans la demande ; avec une interface (LM Studio, Open WebUI), on le dépose simplement.
- Ne collez pas un long document dans le chat du terminal. Chaque retour à la ligne est pris pour un envoi : le modèle répond en plein milieu et s’emballe. Passez par l’interface, ou encadrez le bloc par des triples guillemets
""". - Pour l’arrêter :
Ctrl+Ccoupe la réponse en cours,Ctrl+Dquitte la conversation.
Le bon réflexe
Pas « tout local » ni « tout cloud », mais le bon outil par tâche :
- Donnée sensible + petite tâche (classer des mails, masquer des infos, résumer une note) : local.
- Tâche exigeante + donnée sensible (analyser un contrat, rédiger une proposition) : cloud européen (Mistral).
- Tâche exigeante, donnée non sensible : le meilleur modèle, local ou cloud selon le volume.
Installer Ollama prend deux minutes. Décider quoi y faire tourner, et bien le configurer, c’est là que se joue la vraie valeur — et c’est exactement ce que nous faisons pour nos clients.
Vous manipulez de la donnée confidentielle et l’idée d’une IA qui ne sort jamais de vos murs vous parle ? Parlons-en : on regarde ensemble ce qui mérite de rester chez vous, et ce qui gagne à partir dans le cloud.
