Apple MacBook Pro 14 Zoll (2024), M4 mit 10-Kern-GPU, 32 GB
Ja. Auf diesem Gerät läuft Qwen3 14B flüssig, mit rund 8,8 bis 12 Token pro Sekunde.
Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Ja. Auf diesem Gerät läuft Ministral 3 14B flüssig, mit rund 8,7 bis 12 Token pro Sekunde.
Berechnet für 16.384 Token Kontext (Anwendungsfall „Programmieren“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Ja. Auf diesem Gerät läuft Qwen3 14B flüssig, mit rund 8,6 bis 12 Token pro Sekunde.
Berechnet für 8.192 Token Kontext (Anwendungsfall „Texte schreiben, übersetzen“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Ja. Auf diesem Gerät läuft Gemma 4 12B flüssig, mit rund 11 bis 15 Token pro Sekunde.
Berechnet für 32.768 Token Kontext (Anwendungsfall „Dokumente auswerten“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Ja. Auf diesem Gerät läuft Gemma 4 12B flüssig, mit rund 11 bis 15 Token pro Sekunde.
Berechnet für 32.768 Token Kontext (Anwendungsfall „Kundendaten, interne Unterlagen“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Größtes Modell, das flüssig läuft
Qwen3 14BQ4_K_M · 8,8 bis 12 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/Qwen/Qwen3-14B-GGUF:Q4_K_MSchnellstes Modell
gpt-oss 20BQ4_K_M · 24 bis 35 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gpt-oss-20b-GGUF:Q4_K_MModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Qwen3 14B Q4_K_M | Läuft gut | 8,8 bis 12 Token/s | 10,7 von 21,3 GB |
| Ministral 3 14B Q4_K_M | Läuft gut | 9,6 bis 13 Token/s | 9,9 von 21,3 GB |
| Gemma 4 12B Q4_0 | Läuft gut | 11 bis 15 Token/s | 8,3 von 21,3 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft gut | 22 bis 33 Token/s | 20,1 von 21,3 GB |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft gut | 22 bis 33 Token/s | 20,1 von 21,3 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 18 bis 26 Token/s | 18,4 von 21,3 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 14 bis 19 Token/s | 6,9 von 21,3 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 14 bis 20 Token/s | 6,7 von 21,3 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 24 bis 35 Token/s | 12,8 von 21,3 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 16 bis 21 Token/s | 6,5 von 21,3 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 16 bis 22 Token/s | 6,4 von 21,3 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 18 bis 24 Token/s | 5,6 von 21,3 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 27 bis 37 Token/s | 4,0 von 21,3 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 30 bis 41 Token/s | 3,7 von 21,3 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 30 bis 41 Token/s | 4,0 von 21,3 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 38 bis 55 Token/s | 6,9 von 21,3 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 46 bis 63 Token/s | 2,8 von 21,3 GB |
| Gemma 4 31B Q4_K_M Läuft, aber mit rund 5,1 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,3 bis 5,9 Token/s | 20,7 von 21,3 GB |
| Granite 4.2 30B Q4_K_M Läuft, aber mit rund 5,4 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,5 bis 6,2 Token/s | 20,0 von 21,3 GB |
| Qwen3.8 27B Q4_K_M Läuft, aber mit rund 5,9 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,9 bis 6,8 Token/s | 17,9 von 21,3 GB |
| Qwen3.6 27B Q4_K_M Läuft, aber mit rund 5,8 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,9 bis 6,7 Token/s | 18,2 von 21,3 GB |
| Mistral Small 3.2 24B Q4_K_M Läuft, aber mit rund 6,7 Token pro Sekunde spürbar langsam. | Eingeschränkt | 5,6 bis 7,7 Token/s | 16,1 von 21,3 GB |
| Ornith 1.5 35B A3B Q4_K_M | Läuft nicht | 23,0 von 21,3 GB | |
| Qwen3.6 35B A3B Q4_K_M | Läuft nicht | 23,5 von 21,3 GB | |
| Llama 3.3 70B Q4_K_M | Läuft nicht | 45,5 von 21,3 GB | |
| gpt-oss 120B Q4_K_M | Läuft nicht | 65,0 von 21,3 GB | |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,0 von 21,3 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 110,8 von 21,3 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 250,1 von 21,3 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 381,5 von 21,3 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 895,4 von 21,3 GB |
Größtes Modell, das flüssig läuft
Ministral 3 14BQ4_K_M · 8,7 bis 12 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/mistralai/Ministral-3-14B-Instruct-2512-GGUF:Q4_K_MSchnellstes Modell
gpt-oss 20BQ4_K_M · 22 bis 33 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gpt-oss-20b-GGUF:Q4_K_MModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Ministral 3 14B Q4_K_M | Läuft gut | 8,7 bis 12 Token/s | 11,9 von 21,3 GB |
| Gemma 4 12B Q4_0 | Läuft gut | 11 bis 15 Token/s | 8,5 von 21,3 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 17 bis 25 Token/s | 18,6 von 21,3 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 14 bis 19 Token/s | 7,3 von 21,3 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 14 bis 19 Token/s | 7,1 von 21,3 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 22 bis 33 Token/s | 13,1 von 21,3 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 13 bis 19 Token/s | 8,3 von 21,3 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 14 bis 19 Token/s | 8,0 von 21,3 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 17 bis 24 Token/s | 5,8 von 21,3 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 26 bis 36 Token/s | 4,1 von 21,3 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 28 bis 38 Token/s | 4,1 von 21,3 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 23 bis 32 Token/s | 5,8 von 21,3 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 20 bis 29 Token/s | 9,5 von 21,3 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 38 bis 53 Token/s | 3,6 von 21,3 GB |
| Qwen3.8 27B Q4_K_M Läuft, aber mit rund 5,7 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,8 bis 6,7 Token/s | 18,7 von 21,3 GB |
| Qwen3.6 27B Q4_K_M Läuft, aber mit rund 5,7 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,8 bis 6,6 Token/s | 19,0 von 21,3 GB |
| Mistral Small 3.2 24B Q4_K_M Läuft, aber mit rund 6,3 Token pro Sekunde spürbar langsam. | Eingeschränkt | 5,3 bis 7,3 Token/s | 18,1 von 21,3 GB |
| Qwen3 14B Q4_K_M Läuft, aber mit rund 9,6 Token pro Sekunde spürbar langsam. | Eingeschränkt | 8,1 bis 11 Token/s | 12,7 von 21,3 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft nicht | 21,3 von 21,3 GB | |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft nicht | 21,3 von 21,3 GB | |
| Gemma 4 31B Q4_K_M | Läuft nicht | 21,7 von 21,3 GB | |
| Granite 4.2 30B Q4_K_M | Läuft nicht | 23,2 von 21,3 GB | |
| Ornith 1.5 35B A3B Q4_K_M | Läuft nicht | 23,3 von 21,3 GB | |
| Qwen3.6 35B A3B Q4_K_M | Läuft nicht | 23,7 von 21,3 GB | |
| Llama 3.3 70B Q4_K_M | Läuft nicht | 49,5 von 21,3 GB | |
| gpt-oss 120B Q4_K_M | Läuft nicht | 65,4 von 21,3 GB | |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,3 von 21,3 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 146,9 von 21,3 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 250,5 von 21,3 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 480,0 von 21,3 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 1.127,0 von 21,3 GB |
Größtes Modell, das flüssig läuft
Qwen3 14BQ4_K_M · 8,6 bis 12 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/Qwen/Qwen3-14B-GGUF:Q4_K_MSchnellstes Modell
gpt-oss 20BQ4_K_M · 23 bis 34 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gpt-oss-20b-GGUF:Q4_K_MModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Qwen3 14B Q4_K_M | Läuft gut | 8,6 bis 12 Token/s | 11,3 von 21,3 GB |
| Ministral 3 14B Q4_K_M | Läuft gut | 9,3 bis 13 Token/s | 10,6 von 21,3 GB |
| Gemma 4 12B Q4_0 | Läuft gut | 11 bis 15 Token/s | 8,4 von 21,3 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft gut | 21 bis 30 Token/s | 20,5 von 21,3 GB |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft gut | 21 bis 30 Token/s | 20,5 von 21,3 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 18 bis 26 Token/s | 18,5 von 21,3 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 14 bis 19 Token/s | 7,0 von 21,3 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 14 bis 20 Token/s | 6,9 von 21,3 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 23 bis 34 Token/s | 12,9 von 21,3 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 15 bis 20 Token/s | 7,1 von 21,3 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 15 bis 21 Token/s | 6,9 von 21,3 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 18 bis 24 Token/s | 5,6 von 21,3 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 26 bis 37 Token/s | 4,0 von 21,3 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 29 bis 40 Token/s | 3,9 von 21,3 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 27 bis 37 Token/s | 4,6 von 21,3 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 29 bis 43 Token/s | 7,8 von 21,3 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 43 bis 59 Token/s | 3,1 von 21,3 GB |
| Gemma 4 31B Q4_K_M Läuft, aber mit rund 5,0 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,2 bis 5,8 Token/s | 21,0 von 21,3 GB |
| Granite 4.2 30B Q4_K_M Läuft, aber mit rund 5,2 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,4 bis 6,1 Token/s | 21,0 von 21,3 GB |
| Qwen3.8 27B Q4_K_M Läuft, aber mit rund 5,8 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,9 bis 6,8 Token/s | 18,2 von 21,3 GB |
| Qwen3.6 27B Q4_K_M Läuft, aber mit rund 5,7 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,8 bis 6,7 Token/s | 18,5 von 21,3 GB |
| Mistral Small 3.2 24B Q4_K_M Läuft, aber mit rund 6,5 Token pro Sekunde spürbar langsam. | Eingeschränkt | 5,5 bis 7,6 Token/s | 16,8 von 21,3 GB |
| Ornith 1.5 35B A3B Q4_K_M | Läuft nicht | 23,1 von 21,3 GB | |
| Qwen3.6 35B A3B Q4_K_M | Läuft nicht | 23,5 von 21,3 GB | |
| Llama 3.3 70B Q4_K_M | Läuft nicht | 46,9 von 21,3 GB | |
| gpt-oss 120B Q4_K_M | Läuft nicht | 65,1 von 21,3 GB | |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,1 von 21,3 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 122,8 von 21,3 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 250,3 von 21,3 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 414,3 von 21,3 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 972,6 von 21,3 GB |
Größtes Modell, das flüssig läuft
Gemma 4 12BQ4_0 · 11 bis 15 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/google/gemma-4-12B-it-qat-q4_0-gguf:Q4_0Schnellstes Modell
gpt-oss 20BQ4_K_M · 20 bis 30 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gpt-oss-20b-GGUF:Q4_K_MModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Gemma 4 12B Q4_0 | Läuft gut | 11 bis 15 Token/s | 8,8 von 21,3 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 16 bis 24 Token/s | 19,0 von 21,3 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 13 bis 18 Token/s | 7,9 von 21,3 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 13 bis 18 Token/s | 7,7 von 21,3 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 20 bis 30 Token/s | 13,5 von 21,3 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 11 bis 16 Token/s | 10,8 von 21,3 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 12 bis 17 Token/s | 10,1 von 21,3 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 17 bis 23 Token/s | 6,0 von 21,3 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 26 bis 36 Token/s | 4,2 von 21,3 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 26 bis 35 Token/s | 4,7 von 21,3 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 18 bis 25 Token/s | 8,2 von 21,3 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 12 bis 18 Token/s | 13,0 von 21,3 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 31 bis 43 Token/s | 4,7 von 21,3 GB |
| Qwen3.8 27B Q4_K_M Läuft, aber mit rund 5,6 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,7 bis 6,5 Token/s | 19,9 von 21,3 GB |
| Qwen3.6 27B Q4_K_M Läuft, aber mit rund 5,5 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,6 bis 6,4 Token/s | 20,1 von 21,3 GB |
| Mistral Small 3.2 24B Q4_K_M Läuft, aber mit rund 5,8 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,9 bis 6,8 Token/s | 20,8 von 21,3 GB |
| Qwen3 14B Q4_K_M Läuft, aber mit rund 8,6 Token pro Sekunde spürbar langsam. | Eingeschränkt | 7,2 bis 10,0 Token/s | 15,4 von 21,3 GB |
| Ministral 3 14B Q4_K_M Läuft, aber mit rund 9,2 Token pro Sekunde spürbar langsam. | Eingeschränkt | 7,7 bis 11 Token/s | 14,6 von 21,3 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft nicht | 23,0 von 21,3 GB | |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft nicht | 23,0 von 21,3 GB | |
| Gemma 4 31B Q4_K_M | Läuft nicht | 23,0 von 21,3 GB | |
| Ornith 1.5 35B A3B Q4_K_M | Läuft nicht | 23,7 von 21,3 GB | |
| Qwen3.6 35B A3B Q4_K_M | Läuft nicht | 24,1 von 21,3 GB | |
| Granite 4.2 30B Q4_K_M | Läuft nicht | 27,5 von 21,3 GB | |
| Llama 3.3 70B Q4_K_M | Läuft nicht | 54,9 von 21,3 GB | |
| gpt-oss 120B Q4_K_M | Läuft nicht | 66,0 von 21,3 GB | |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,7 von 21,3 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 195,1 von 21,3 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 251,1 von 21,3 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 611,4 von 21,3 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 1.435,8 von 21,3 GB |
Größtes Modell, das flüssig läuft
Gemma 4 12BQ4_0 · 11 bis 15 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/google/gemma-4-12B-it-qat-q4_0-gguf:Q4_0Schnellstes Modell
gpt-oss 20BQ4_K_M · 20 bis 30 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gpt-oss-20b-GGUF:Q4_K_MModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Gemma 4 12B Q4_0 | Läuft gut | 11 bis 15 Token/s | 8,8 von 21,3 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 16 bis 24 Token/s | 19,0 von 21,3 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 13 bis 18 Token/s | 7,9 von 21,3 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 13 bis 18 Token/s | 7,7 von 21,3 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 20 bis 30 Token/s | 13,5 von 21,3 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 11 bis 16 Token/s | 10,8 von 21,3 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 12 bis 17 Token/s | 10,1 von 21,3 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 17 bis 23 Token/s | 6,0 von 21,3 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 26 bis 36 Token/s | 4,2 von 21,3 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 26 bis 35 Token/s | 4,7 von 21,3 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 18 bis 25 Token/s | 8,2 von 21,3 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 12 bis 18 Token/s | 13,0 von 21,3 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 31 bis 43 Token/s | 4,7 von 21,3 GB |
| Qwen3.8 27B Q4_K_M Läuft, aber mit rund 5,6 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,7 bis 6,5 Token/s | 19,9 von 21,3 GB |
| Qwen3.6 27B Q4_K_M Läuft, aber mit rund 5,5 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,6 bis 6,4 Token/s | 20,1 von 21,3 GB |
| Mistral Small 3.2 24B Q4_K_M Läuft, aber mit rund 5,8 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,9 bis 6,8 Token/s | 20,8 von 21,3 GB |
| Qwen3 14B Q4_K_M Läuft, aber mit rund 8,6 Token pro Sekunde spürbar langsam. | Eingeschränkt | 7,2 bis 10,0 Token/s | 15,4 von 21,3 GB |
| Ministral 3 14B Q4_K_M Läuft, aber mit rund 9,2 Token pro Sekunde spürbar langsam. | Eingeschränkt | 7,7 bis 11 Token/s | 14,6 von 21,3 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft nicht | 23,0 von 21,3 GB | |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft nicht | 23,0 von 21,3 GB | |
| Gemma 4 31B Q4_K_M | Läuft nicht | 23,0 von 21,3 GB | |
| Ornith 1.5 35B A3B Q4_K_M | Läuft nicht | 23,7 von 21,3 GB | |
| Qwen3.6 35B A3B Q4_K_M | Läuft nicht | 24,1 von 21,3 GB | |
| Granite 4.2 30B Q4_K_M | Läuft nicht | 27,5 von 21,3 GB | |
| Llama 3.3 70B Q4_K_M | Läuft nicht | 54,9 von 21,3 GB | |
| gpt-oss 120B Q4_K_M | Läuft nicht | 66,0 von 21,3 GB | |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,7 von 21,3 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 195,1 von 21,3 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 251,1 von 21,3 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 611,4 von 21,3 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 1.435,8 von 21,3 GB |
Gerätedaten
- Chip
- M4, 10-Kern-GPU
- Arbeitsspeicher
- 32 GB
- Davon für Modelle nutzbar
- 21,3 GB
- Speicherbandbreite
- 120 GB/s
- Rechenschnittstelle
- Metal