Qwen3 14B
Qwen3 14B braucht mit der Variante Q4_K_M rund 10,7 GB Speicher und läuft auf 378 von 527 geführten Geräten flüssig.
Mit dem wenigsten Speicher schafft es: ASUS ROG Strix G18 (2025), GeForce RTX 5070 Ti Laptop GPU, 16 GB.
Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
- Anbieter
- Alibaba (Qwen)
- Parameter
- 14,8 Mrd.
- Längster Kontext
- 40.960 Token
- Lizenz
- apache-2.0
So starten Sie es mit Ollama:
$ ollama run hf.co/Qwen/Qwen3-14B-GGUF:Q4_K_MGeräte, auf denen es flüssig läuft
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
und 368 weitere
Grafikkarten, in die es ganz passt
| Grafikkarte | Urteil | Tempo | Speicher |
|---|---|---|---|
| NVIDIA GeForce RTX 3080 Ti, 12 GB | Läuft gut | 62 bis 76 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 3080, 12 GB | Läuft gut | 62 bis 76 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 5070, 12 GB | Läuft gut | 47 bis 58 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 4070, 12 GB | Läuft gut | 36 bis 44 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 4070 SUPER, 12 GB | Läuft gut | 36 bis 44 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 4070 Ti, 12 GB | Läuft gut | 36 bis 44 Token/s | 12 GB davon 11,2 GB nutzbar |
| Intel Arc B580, 12 GB | Läuft gut | 26 bis 46 Token/s | 12 GB davon 11,2 GB nutzbar |
| AMD Radeon RX 6750 XT, 12 GB | Läuft gut | 25 bis 44 Token/s | 12 GB davon 11,2 GB nutzbar |
| AMD Radeon RX 7700 XT, 12 GB | Läuft gut | 25 bis 44 Token/s | 12 GB davon 11,2 GB nutzbar |
| AMD Radeon RX 6700 XT, 12 GB | Läuft gut | 23 bis 39 Token/s | 12 GB davon 11,2 GB nutzbar |
und 40 weitere
Alle Geräte und Grafikkarten für Qwen3 14B
Varianten
| Variante | Datei | Speicherbedarf | Startbefehl |
|---|---|---|---|
| Q4_K_M | 9,0 GB | 10,7 GB | ollama run hf.co/Qwen/Qwen3-14B-GGUF:Q4_K_M |
| Q5_K_M | 10,5 GB | 12,2 GB | ollama run hf.co/Qwen/Qwen3-14B-GGUF:Q5_K_M |
| Q6_K | 12,1 GB | 13,8 GB | ollama run hf.co/Qwen/Qwen3-14B-GGUF:Q6_K |
| Q8_0 | 15,7 GB | 17,5 GB | ollama run hf.co/Qwen/Qwen3-14B-GGUF:Q8_0 |