Qwen 3.6 vs DeepSeek vs Llama : quel LLM local ?

Qwen3-30B-A3B tourne sur une RTX 4090 en Q4 avec dix-sept Go de VRAM occupés et crache quarante tokens par seconde. Il y a dix-huit mois, faire tourner un modèle de cette qualité en local sur du hardware grand public relevait de la science-fiction. Le paysage a changé. Pas grâce à un seul modèle, mais parce que cinq labos se sont mis à publier des modèles open source compétitifs en même temps.

Ce comparatif fait le tri. Quels modèles tournent sur quel GPU, à quelle vitesse, et avec quelles concessions. Pas de théorie, que du mesurable.

Mise à jour, 13 août 2026#

30 milliards de paramètres, licence Apache 2.0, moins de 20 Go de VRAM pour les poids seuls en quantification 4 bits environ : c'est Muse Glimmer, le modèle que Meta a publié le 10 août 2026. Le nom Llama a disparu entre-temps. Meta a d'abord fermé la porte à l'open source le 8 avril 2026 avec Muse Spark (propriétaire, API seulement), le lendemain de la publication de ce comparatif. Le Behemoth annoncé à deux trillions de paramètres n'est jamais sorti : Meta l'a abandonné en route. Quatre mois plus tard, retour de bâton : Meta republie du poids ouvert sous la marque Muse. Glimmer tient sur une seule carte grand public, mais lisez bien ce que Meta annonce : une enveloppe de 24 Go ou de 32 Go une fois le cache KV et l'encodeur visuel comptés. Les 20 Go ne couvrent que les poids. Sur une carte de 22 Go, ça ne passe pas. Le modèle est pensé pour les agents locaux plutôt que pour le chat généraliste.

Côté Alibaba, Qwen3 a pris sa retraite. Qwen3.6-27B (dense, publié le 22 avril 2026) tient en environ 17 Go de VRAM en Q4_K_M, confortable sur une RTX 4090. Qwen3.6-35B-A3B (MoE, trois milliards de paramètres actifs, publié le 16 avril) le complète côté agentique. Les deux restent en Apache 2.0.

Un mot sur DeepSeek, parce que la confusion revient souvent : DeepSeek V3.2 (685 milliards de paramètres, architecture MoE) n'est pas DeepSeek R1. Le modèle complet se déploie en parallélisme sur huit GPU minimum dans la configuration officielle, largement hors de portée du local. Pour l'inférence sur un poste perso, les distillations R1 du tableau plus bas restent le seul chemin réaliste chez DeepSeek.

Les modèles qui comptent en avril 2026#

Le marché open source s'est structuré en un an. Voici les modèles pertinents pour l'inférence locale, classés par VRAM requise croissante.

Gemma 3 (Google DeepMind)#

Sorti en mars 2025. Dense, quatre tailles (1B, 4B, 12B, 27B), multimodal à partir de 4B. Google a publié des checkpoints QAT (Quantization-Aware Trained) en INT4 directement sur Hugging Face et Kaggle. Pas besoin de quantifier soi-même, les modèles sont entraînés pour tourner en quatre bits sans dégradation mesurable.

Benchmarks publiés en main : Gemma 3 27B QAT, 14,1 Go de VRAM. Une RTX 3090 ou 4090 le fait tourner sans forcer. Gemma 3 12B QAT, 6,6 Go. Une RTX 4060 laptop avec huit Go de VRAM suffit. Pour un premier LLM local, c'est le point d'entrée le plus propre du marché.

MMLU-Pro 67,5 sur le 27B. Correct sans être au sommet. Le vrai argument, c'est le ratio performance/VRAM.

Qwen 3 (Alibaba)#

Sorti le 29 avril 2025, huit tailles d'un coup. Deux architectures : dense (0,6B à 32B) et MoE. Le Qwen3-30B-A3B (trente milliards de paramètres totaux, trois milliards actifs) est le modèle le plus intéressant pour le local. En Q4, il tient dans dix-sept Go. Contexte de 128K tokens, extensible à 256K via YaRN.

Le Qwen3-235B-A22B (235 milliards totaux, 22 milliards actifs) rivalise avec DeepSeek-R1 et GPT o1 sur les benchmarks. Mais il demande 117 à 143 Go en Q4. Multi-GPU obligatoire, ou un Mac M4 Max 128 Go avec marge serrée.

Licence Apache 2.0. Usage commercial libre.

DeepSeek R1 (distillations)#

Le modèle complet de DeepSeek R1 pèse 671 milliards de paramètres en MoE, 37 milliards actifs. Oubliez le local. Mais les distillations changent la donne.

Distillation	Paramètres	VRAM Q4	Vitesse RTX 4060	Usage type
R1-Distill-7B	7B	~5 Go	40-60 tok/s	Prototypage rapide, chatbot simple
R1-Distill-14B	14B	~9 Go	25-35 tok/s	Code, raisonnement basique
R1-Distill-32B	32B	~20 Go	28-45 tok/s (RTX 4090)	Raisonnement avancé, analyse

Le R1-Distill-32B affiche 79,8 % sur MATH-500. Le modèle complet monte à 97,3 %. La distillation perd en raisonnement pur mais reste largement au-dessus de la plupart des modèles de même taille.

Mistral Small 3.2 et Mistral Large 3#

Mistral Small 3.2 (juin 2025) : 24 milliards de paramètres, dense, Apache 2.0. HumanEval+ à 92,9 %, ce qui en fait un bon choix pour le code. Contexte de 130K tokens. En Q4, comptez quinze Go. Une RTX 4090 le gère, un MacBook Pro 32 Go aussi.

Mistral Large 3 (décembre 2025) : 675 milliards de paramètres totaux en MoE granulaire, 41 milliards actifs. Contexte 256K. Accompagné de neuf modèles Ministral 3 (3B, 8B, 14B en versions Base, Instruct, Reasoning). Le Ministral 3 8B Instruct est un candidat sérieux pour les machines modestes. Apache 2.0 sur toute la gamme.

Llama 4 Scout et Maverick (Meta)#

Scout (avril 2025) : 109 milliards de paramètres totaux, 17 milliards actifs, seize experts MoE. Contexte de dix millions de tokens. Multimodal natif. En Q4, environ 55 Go. Aucun GPU grand public ne tient ça seul. Il faut soit du multi-GPU, soit un Mac avec beaucoup de RAM unifiée, soit du offloading CPU (et là, l'inférence devient inutilisable).

Maverick : 400 milliards totaux, 128 experts. 245 Go minimum. Cloud ou rien.

Behemoth (deux trillions de paramètres annoncés) n'est jamais sorti. Meta a repoussé la date en mai 2025, puis a abandonné le projet : depuis avril 2026, la marque Llama est remplacée par la famille Muse (détails dans la mise à jour du 13 août 2026 en tête d'article).

La licence Llama 4 Community autorise l'usage commercial sous 700 millions d'utilisateurs actifs mensuels.

Phi-4 Reasoning (Microsoft)#

Quatorze milliards de paramètres, dense. Le Phi-4 Reasoning Plus affiche 82,5 % sur AIME 2025, ce qui surpasse DeepSeek-R1-Distill-70B. Le problème : 28 à 29 Go en quantifié. Ça passe sur une RTX 5090 (32 Go), pas sur une RTX 4090 (24 Go). Licence MIT.

Quel GPU pour quel modèle#

Le marché GPU a bougé. La gamme RTX 50 est sortie entre janvier et février 2025, mais la RTX 5090 a souffert de pénurie sévère avec des prix secondaires entre 2 500 et 3 200 dollars aux États-Unis (au-delà de 3 500 € TTC en France en pointe).

GPU	VRAM	Prix MSRP (USD)	Modèles locaux viables en Q4
RTX 5070	12 Go GDDR7	549 $	Qwen3-8B, Gemma 3 12B QAT, DeepSeek-R1-Distill-7B
RTX 5070 Ti / 5080	16 Go GDDR7	749-999 $	Phi-4, DeepSeek-R1-Distill-14B, Ministral 3 14B
RTX 4090	24 Go GDDR6X	~1 300 $ (occasion)	Qwen3-30B-A3B, Gemma 3 27B QAT, DeepSeek-R1-Distill-32B
RTX 5090	32 Go GDDR7	1 999 $	Tout ce qui précède + Phi-4 Reasoning Plus, Mistral Small 3.2
2x RTX 4090	48 Go	~2 600 $	Llama 3.3 70B Q4, Qwen3-32B FP16

La RTX 4090 reste la référence pour le local en 2026 sur les modèles jusqu'à 30-32 milliards de paramètres. La RTX 5090 avec ses 32 Go ouvre la porte à Phi-4 Reasoning et aux modèles denses de 24-28B en pleine précision Q4. Mais à 2 000 dollars MSRP aux États-Unis (et souvent plus en réalité, autour de 2 400 € TTC en France en rayon), le rapport qualité-prix n'est pas toujours au rendez-vous.

Apple Silicon : la surprise du chef#

Les Mac avec puce M4 Max (128 Go de RAM unifiée, 546 Go/s de bande passante) font tourner des modèles que deux RTX 4090 ne gèrent pas. Le Qwen3-235B-A22B en Q4 (~117 Go) passe sur un M4 Max 128 Go. MLX, le framework d'inférence natif Apple, mesure jusqu'à 230 tokens par seconde en soutenu, contre 150 pour llama.cpp et 20 à 40 pour Ollama sur la même machine.

Le M4 Ultra (192 Go, ~820 Go/s estimés) fait tourner Llama 4 Scout Q4 (55 Go) confortablement.

Mon premier réflexe d'assembleur PC m'a longtemps fait ignorer les Mac pour ce genre d'usage. Les chiffres ne mentent pas : pour les gros modèles, la RAM unifiée Apple bat le multi-GPU Nvidia en simplicité et souvent en débit. C'est un constat, pas une pub.

Les outils d'inférence en 2026#

Ollama#

Toujours le point d'entrée le plus simple. Une commande, un modèle qui tourne. Le scheduler multi-GPU a été refondu en 2025, la gestion des OOM s'est améliorée. Supporte 45 000 checkpoints GGUF publics sur Hugging Face. La quantification recommandée reste Q4_K_M (92 % de la qualité préservée selon les tests internes).

ollama pull qwen3:30b-a3b
ollama run qwen3:30b-a3b

Dix-sept Go de téléchargement. Sur une RTX 4090, ça tourne en moins d'une minute.

LM Studio 0.4.0#

La version 0.4.0 (janvier 2026) a ajouté le continuous batching, un mode headless déployable sans GUI, et une API REST stateful avec support MCP local. LM Link (février 2026) permet la connexion remote chiffrée via Tailscale. La licence commerciale est désormais gratuite.

Pour quelqu'un qui veut une interface graphique sans ouvrir un terminal, c'est le meilleur choix.

llama.cpp et MLX#

llama.cpp maintient le format GGUF comme standard. Les quantifications descendent jusqu'à 1,5 bit. Pour du fine-tuning de la quantification (Q4_K_M vs Q5_K_S vs Q3_K_L), c'est l'outil de référence. Performances Apple Silicon : environ 150 tokens par seconde.

MLX (Apple) le bat sur Mac : 230 tokens par seconde en soutenu, 21 à 87 % de throughput supérieur à llama.cpp selon les tailles de modèle. Le projet vllm-mlx ajoute le continuous batching sur Metal. Si vous êtes sur Mac, MLX est le bon choix. Sur Nvidia, llama.cpp ou Ollama.

Open source vs propriétaire : l'écart se réduit#

En avril 2026, le meilleur modèle open source (GLM-5 Reasoning) affiche un score de 82 sur l'Intelligence Index d'Artificial Analysis. Le meilleur propriétaire (GPT-5.4 Pro) atteint 92. Dix points d'écart. Mi-2024, l'écart était de 25 à 30 points.

Les modèles open source ne rivalisent pas encore avec les meilleurs modèles propriétaires sur les tâches de raisonnement complexe. Mais pour le code, la rédaction, l'analyse de documents et les tâches quotidiennes, un Qwen3-30B-A3B ou un DeepSeek-R1-Distill-32B en local fait le travail sans envoyer vos données à un tiers. Dans un contexte où la souveraineté numérique européenne est un sujet brûlant, c'est un argument qui pèse.

L'inférence locale n'est pas gratuite. Un GPU qui tourne en continu consomme entre 200 et 450 watts, et quand on voit les enjeux énergétiques de l'IA à l'échelle industrielle, la question de la consommation n'est pas anecdotique. La latence est supérieure aux API cloud optimisées sur des clusters de H100. Et les modèles évoluent vite : ce qui est optimal aujourd'hui sera dépassé dans six mois. C'est un hobby de power user, pas une solution clé en main. Du moins pas encore.

Mon verdict#

Pour un premier LLM local : Gemma 3 27B QAT via Ollama. 14,1 Go, RTX 3090 ou 4090, ça tourne tout de suite.

Pour le meilleur rapport performance/VRAM : Qwen3-30B-A3B en Q4. Dix-sept Go, architecture MoE efficace, Apache 2.0, 128K de contexte. C'était mon choix par défaut en avril 2026, et la génération suivante ne change pas la conclusion : Qwen3.6-27B tient dans les mêmes dix-sept Go en Q4_K_M, toujours en Apache 2.0. Si vous montez une machine aujourd'hui, prenez celui-là.

Pour le raisonnement : DeepSeek-R1-Distill-32B si vous avez 20 Go de VRAM. Phi-4 Reasoning Plus si vous avez 32 Go (RTX 5090).

Pour les Mac M4 Max/Ultra : visez plus haut. Qwen3-235B-A22B via MLX. Le hardware le justifie.

Ne commencez pas par Llama 4 Scout. Le contexte de dix millions de tokens est impressionnant sur le papier, mais 55 Go de VRAM minimum en Q4, c'est hors de portée de la plupart des setups grand public. Sauf si vous avez un Mac M4 Ultra sous le bureau, auquel cas vous n'avez probablement pas besoin de mes conseils.

Un mot sur la relève, puisque la marque Llama a disparu depuis : le Muse Glimmer d'août 2026 vise les agents locaux, pas le chat, et demande une enveloppe de 24 Go ou 32 Go une fois tout compté. Quant à DeepSeek V3.2, ne le confondez pas avec le R1-Distill cité plus haut : 685 milliards de paramètres, un déploiement sur huit GPU, rien à voir avec une machine de bureau.

Questions fréquentes#

Quelle VRAM faut-il vraiment pour faire tourner un LLM local correct ?#

Dix-sept Go suffisent pour du sérieux : c'est ce que demande Qwen3.6-27B en Q4_K_M, sur une RTX 4090. En dessous, Gemma 3 12B QAT tient dans 6,6 Go et tourne sur une RTX 4060 laptop de huit Go. Le piège vient des chiffres publiés par les éditeurs : ils annoncent souvent la taille des poids seuls, sans le cache KV ni l'encodeur visuel. Muse Glimmer en est l'exemple type, moins de 20 Go pour les poids mais une enveloppe réelle de 24 ou 32 Go.

DeepSeek V3.2 et DeepSeek R1, est-ce le même modèle ?#

Non, et la confusion revient souvent. DeepSeek V3.2 compte 685 milliards de paramètres en architecture MoE et se déploie sur huit GPU minimum dans la configuration officielle : hors de portée d'une machine personnelle. Les distillations de R1, elles, tiennent entre cinq et vingt Go selon la taille et restent le seul chemin réaliste chez DeepSeek pour de l'inférence locale.

Peut-on encore faire tourner Llama en local en 2026 ?#

Llama 4 Scout et Maverick existent toujours, mais la marque a disparu des nouvelles sorties. Meta a fermé la porte à l'open source en avril 2026 avec Muse Spark, propriétaire et accessible par API seulement, avant de republier du poids ouvert sous la marque Muse en août. Le Behemoth annoncé à deux trillions de paramètres, lui, n'est jamais sorti : le projet a été abandonné en route.