Apple MacBook Pro 14 Zoll (2023), M2 Max mit 38-Kern-GPU, 96 GB
Ja. Auf diesem Gerät läuft Gemma 4 31B flüssig, mit rund 11 bis 15 Token pro Sekunde.
Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Ja. Auf diesem Gerät läuft Qwen3-Coder 30B A3B flüssig, mit rund 50 bis 74 Token pro Sekunde.
Berechnet für 16.384 Token Kontext (Anwendungsfall „Programmieren“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Ja. Auf diesem Gerät läuft Gemma 4 31B flüssig, mit rund 11 bis 15 Token pro Sekunde.
Berechnet für 8.192 Token Kontext (Anwendungsfall „Texte schreiben, übersetzen“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Ja. Auf diesem Gerät läuft Gemma 4 31B flüssig, mit rund 11 bis 15 Token pro Sekunde.
Berechnet für 32.768 Token Kontext (Anwendungsfall „Dokumente auswerten“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Ja. Auf diesem Gerät läuft Gemma 4 31B flüssig, mit rund 11 bis 15 Token pro Sekunde.
Berechnet für 32.768 Token Kontext (Anwendungsfall „Kundendaten, interne Unterlagen“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
Größtes Modell, das flüssig läuft
Gemma 4 31BQ4_K_M · 11 bis 15 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gemma-4-31B-it-GGUF:Q4_K_MSchnellstes Modell
gpt-oss 120BQ4_K_M · 45 bis 66 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run gpt-oss:120bModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Gemma 4 31B Q4_K_M | Läuft gut | 11 bis 15 Token/s | 20,7 von 72,0 GB |
| Granite 4.2 30B Q4_K_M | Läuft gut | 12 bis 16 Token/s | 20,0 von 72,0 GB |
| Qwen3.8 27B Q4_K_M | Läuft gut | 13 bis 18 Token/s | 17,9 von 72,0 GB |
| Qwen3.6 27B Q4_K_M | Läuft gut | 13 bis 17 Token/s | 18,2 von 72,0 GB |
| gpt-oss 120B Q4_K_M | Läuft gut | 45 bis 66 Token/s | 65,0 von 72,0 GB |
| Mistral Small 3.2 24B Q4_K_M | Läuft gut | 15 bis 20 Token/s | 16,1 von 72,0 GB |
| Qwen3 14B Q4_K_M | Läuft gut | 23 bis 32 Token/s | 10,7 von 72,0 GB |
| Ministral 3 14B Q4_K_M | Läuft gut | 25 bis 35 Token/s | 9,9 von 72,0 GB |
| Gemma 4 12B Q4_0 | Läuft gut | 29 bis 40 Token/s | 8,3 von 72,0 GB |
| Ornith 1.5 35B A3B Q4_K_M | Läuft gut | 70 bis 103 Token/s | 23,0 von 72,0 GB |
| Qwen3.6 35B A3B Q4_K_M | Läuft gut | 68 bis 100 Token/s | 23,5 von 72,0 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft gut | 61 bis 89 Token/s | 20,1 von 72,0 GB |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft gut | 61 bis 89 Token/s | 20,1 von 72,0 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 49 bis 72 Token/s | 18,4 von 72,0 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 37 bis 51 Token/s | 6,9 von 72,0 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 38 bis 52 Token/s | 6,7 von 72,0 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 62 bis 91 Token/s | 12,8 von 72,0 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 41 bis 56 Token/s | 6,5 von 72,0 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 42 bis 58 Token/s | 6,4 von 72,0 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 46 bis 63 Token/s | 5,6 von 72,0 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 70 bis 97 Token/s | 4,0 von 72,0 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 78 bis 107 Token/s | 3,7 von 72,0 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 79 bis 109 Token/s | 4,0 von 72,0 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 107 bis 156 Token/s | 6,9 von 72,0 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 121 bis 167 Token/s | 2,8 von 72,0 GB |
| Llama 3.3 70B Q4_K_M Läuft, aber mit rund 5,9 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,9 bis 6,8 Token/s | 45,5 von 72,0 GB |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,0 von 72,0 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 110,8 von 72,0 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 250,1 von 72,0 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 381,5 von 72,0 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 895,4 von 72,0 GB |
Empfehlung für den Anwendungsfall „Programmieren“
Qwen3-Coder 30B A3BQ4_K_M · 50 bis 74 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q4_K_MSchnellstes Modell
gpt-oss 120BQ4_K_M · 43 bis 62 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run gpt-oss:120bModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Gemma 4 31B Q4_K_M | Läuft gut | 11 bis 15 Token/s | 21,7 von 72,0 GB |
| Granite 4.2 30B Q4_K_M | Läuft gut | 11 bis 15 Token/s | 23,2 von 72,0 GB |
| Qwen3.8 27B Q4_K_M | Läuft gut | 13 bis 17 Token/s | 18,7 von 72,0 GB |
| Qwen3.6 27B Q4_K_M | Läuft gut | 12 bis 17 Token/s | 19,0 von 72,0 GB |
| gpt-oss 120B Q4_K_M | Läuft gut | 43 bis 62 Token/s | 65,4 von 72,0 GB |
| Mistral Small 3.2 24B Q4_K_M | Läuft gut | 14 bis 19 Token/s | 18,1 von 72,0 GB |
| Qwen3 14B Q4_K_M | Läuft gut | 21 bis 30 Token/s | 12,7 von 72,0 GB |
| Ministral 3 14B Q4_K_M | Läuft gut | 23 bis 32 Token/s | 11,9 von 72,0 GB |
| Gemma 4 12B Q4_0 | Läuft gut | 29 bis 40 Token/s | 8,5 von 72,0 GB |
| Ornith 1.5 35B A3B Q4_K_M | Läuft gut | 66 bis 97 Token/s | 23,3 von 72,0 GB |
| Qwen3.6 35B A3B Q4_K_M | Läuft gut | 65 bis 95 Token/s | 23,7 von 72,0 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft gut | 50 bis 74 Token/s | 21,3 von 72,0 GB |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft gut | 50 bis 74 Token/s | 21,3 von 72,0 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 47 bis 69 Token/s | 18,6 von 72,0 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 36 bis 49 Token/s | 7,3 von 72,0 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 37 bis 51 Token/s | 7,1 von 72,0 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 59 bis 87 Token/s | 13,1 von 72,0 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 36 bis 50 Token/s | 8,3 von 72,0 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 38 bis 52 Token/s | 8,0 von 72,0 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 45 bis 62 Token/s | 5,8 von 72,0 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 69 bis 96 Token/s | 4,1 von 72,0 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 74 bis 102 Token/s | 4,1 von 72,0 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 64 bis 89 Token/s | 5,8 von 72,0 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 61 bis 89 Token/s | 9,5 von 72,0 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 104 bis 144 Token/s | 3,6 von 72,0 GB |
| Llama 3.3 70B Q4_K_M Läuft, aber mit rund 5,7 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,8 bis 6,6 Token/s | 49,5 von 72,0 GB |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,3 von 72,0 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 146,9 von 72,0 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 250,5 von 72,0 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 480,0 von 72,0 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 1.127,0 von 72,0 GB |
Größtes Modell, das flüssig läuft
Gemma 4 31BQ4_K_M · 11 bis 15 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gemma-4-31B-it-GGUF:Q4_K_MSchnellstes Modell
gpt-oss 120BQ4_K_M · 44 bis 65 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run gpt-oss:120bModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Gemma 4 31B Q4_K_M | Läuft gut | 11 bis 15 Token/s | 21,0 von 72,0 GB |
| Granite 4.2 30B Q4_K_M | Läuft gut | 11 bis 16 Token/s | 21,0 von 72,0 GB |
| Qwen3.8 27B Q4_K_M | Läuft gut | 13 bis 18 Token/s | 18,2 von 72,0 GB |
| Qwen3.6 27B Q4_K_M | Läuft gut | 13 bis 17 Token/s | 18,5 von 72,0 GB |
| gpt-oss 120B Q4_K_M | Läuft gut | 44 bis 65 Token/s | 65,1 von 72,0 GB |
| Mistral Small 3.2 24B Q4_K_M | Läuft gut | 14 bis 20 Token/s | 16,8 von 72,0 GB |
| Qwen3 14B Q4_K_M | Läuft gut | 22 bis 31 Token/s | 11,3 von 72,0 GB |
| Ministral 3 14B Q4_K_M | Läuft gut | 24 bis 34 Token/s | 10,6 von 72,0 GB |
| Gemma 4 12B Q4_0 | Läuft gut | 29 bis 40 Token/s | 8,4 von 72,0 GB |
| Ornith 1.5 35B A3B Q4_K_M | Läuft gut | 69 bis 101 Token/s | 23,1 von 72,0 GB |
| Qwen3.6 35B A3B Q4_K_M | Läuft gut | 67 bis 98 Token/s | 23,5 von 72,0 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft gut | 57 bis 83 Token/s | 20,5 von 72,0 GB |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft gut | 57 bis 83 Token/s | 20,5 von 72,0 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 48 bis 71 Token/s | 18,5 von 72,0 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 36 bis 50 Token/s | 7,0 von 72,0 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 37 bis 51 Token/s | 6,9 von 72,0 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 61 bis 90 Token/s | 12,9 von 72,0 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 39 bis 54 Token/s | 7,1 von 72,0 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 40 bis 56 Token/s | 6,9 von 72,0 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 46 bis 63 Token/s | 5,6 von 72,0 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 70 bis 96 Token/s | 4,0 von 72,0 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 76 bis 106 Token/s | 3,9 von 72,0 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 73 bis 101 Token/s | 4,6 von 72,0 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 85 bis 125 Token/s | 7,8 von 72,0 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 115 bis 158 Token/s | 3,1 von 72,0 GB |
| Llama 3.3 70B Q4_K_M Läuft, aber mit rund 5,8 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,9 bis 6,7 Token/s | 46,9 von 72,0 GB |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,1 von 72,0 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 122,8 von 72,0 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 250,3 von 72,0 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 414,3 von 72,0 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 972,6 von 72,0 GB |
Größtes Modell, das flüssig läuft
Gemma 4 31BQ4_K_M · 11 bis 15 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gemma-4-31B-it-GGUF:Q4_K_MSchnellstes Modell
gpt-oss 120BQ4_K_M · 40 bis 58 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run gpt-oss:120bModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Gemma 4 31B Q4_K_M | Läuft gut | 11 bis 15 Token/s | 23,0 von 72,0 GB |
| Granite 4.2 30B Q4_K_M | Läuft gut | 10 bis 14 Token/s | 27,5 von 72,0 GB |
| Qwen3.8 27B Q4_K_M | Läuft gut | 12 bis 17 Token/s | 19,9 von 72,0 GB |
| Qwen3.6 27B Q4_K_M | Läuft gut | 12 bis 17 Token/s | 20,1 von 72,0 GB |
| gpt-oss 120B Q4_K_M | Läuft gut | 40 bis 58 Token/s | 66,0 von 72,0 GB |
| Mistral Small 3.2 24B Q4_K_M | Läuft gut | 13 bis 18 Token/s | 20,8 von 72,0 GB |
| Qwen3 14B Q4_K_M | Läuft gut | 20 bis 27 Token/s | 15,4 von 72,0 GB |
| Ministral 3 14B Q4_K_M | Läuft gut | 21 bis 29 Token/s | 14,6 von 72,0 GB |
| Gemma 4 12B Q4_0 | Läuft gut | 28 bis 39 Token/s | 8,8 von 72,0 GB |
| Ornith 1.5 35B A3B Q4_K_M | Läuft gut | 62 bis 91 Token/s | 23,7 von 72,0 GB |
| Qwen3.6 35B A3B Q4_K_M | Läuft gut | 61 bis 90 Token/s | 24,1 von 72,0 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft gut | 41 bis 61 Token/s | 23,0 von 72,0 GB |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft gut | 41 bis 61 Token/s | 23,0 von 72,0 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 45 bis 67 Token/s | 19,0 von 72,0 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 35 bis 48 Token/s | 7,9 von 72,0 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 36 bis 49 Token/s | 7,7 von 72,0 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 56 bis 82 Token/s | 13,5 von 72,0 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 32 bis 44 Token/s | 10,8 von 72,0 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 33 bis 46 Token/s | 10,1 von 72,0 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 44 bis 61 Token/s | 6,0 von 72,0 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 69 bis 95 Token/s | 4,2 von 72,0 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 70 bis 96 Token/s | 4,7 von 72,0 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 51 bis 71 Token/s | 8,2 von 72,0 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 38 bis 56 Token/s | 13,0 von 72,0 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 88 bis 121 Token/s | 4,7 von 72,0 GB |
| Llama 3.3 70B Q4_K_M Läuft, aber mit rund 5,5 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,6 bis 6,3 Token/s | 54,9 von 72,0 GB |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,7 von 72,0 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 195,1 von 72,0 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 251,1 von 72,0 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 611,4 von 72,0 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 1.435,8 von 72,0 GB |
Größtes Modell, das flüssig läuft
Gemma 4 31BQ4_K_M · 11 bis 15 Token/s
So starten Sie es mit Ollama:
$ ollama run hf.co/unsloth/gemma-4-31B-it-GGUF:Q4_K_MSchnellstes Modell
gpt-oss 120BQ4_K_M · 40 bis 58 Token/s
Das schnellste unter den flüssig laufenden Modellen mit mindestens halb so vielen Parametern wie das größte.
So starten Sie es mit Ollama:
$ ollama run gpt-oss:120bModelle auf diesem Gerät
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
| Modell | Urteil | Tempo | Speicher |
|---|---|---|---|
| Gemma 4 31B Q4_K_M | Läuft gut | 11 bis 15 Token/s | 23,0 von 72,0 GB |
| Granite 4.2 30B Q4_K_M | Läuft gut | 10 bis 14 Token/s | 27,5 von 72,0 GB |
| Qwen3.8 27B Q4_K_M | Läuft gut | 12 bis 17 Token/s | 19,9 von 72,0 GB |
| Qwen3.6 27B Q4_K_M | Läuft gut | 12 bis 17 Token/s | 20,1 von 72,0 GB |
| gpt-oss 120B Q4_K_M | Läuft gut | 40 bis 58 Token/s | 66,0 von 72,0 GB |
| Mistral Small 3.2 24B Q4_K_M | Läuft gut | 13 bis 18 Token/s | 20,8 von 72,0 GB |
| Qwen3 14B Q4_K_M | Läuft gut | 20 bis 27 Token/s | 15,4 von 72,0 GB |
| Ministral 3 14B Q4_K_M | Läuft gut | 21 bis 29 Token/s | 14,6 von 72,0 GB |
| Gemma 4 12B Q4_0 | Läuft gut | 28 bis 39 Token/s | 8,8 von 72,0 GB |
| Ornith 1.5 35B A3B Q4_K_M | Läuft gut | 62 bis 91 Token/s | 23,7 von 72,0 GB |
| Qwen3.6 35B A3B Q4_K_M | Läuft gut | 61 bis 90 Token/s | 24,1 von 72,0 GB |
| Qwen3 30B A3B 2507 Q4_K_M | Läuft gut | 41 bis 61 Token/s | 23,0 von 72,0 GB |
| Qwen3-Coder 30B A3B Q4_K_M | Läuft gut | 41 bis 61 Token/s | 23,0 von 72,0 GB |
| Gemma 4 26B A4B Q4_K_M | Läuft gut | 45 bis 67 Token/s | 19,0 von 72,0 GB |
| Ornith 1.5 9B Q4_K_M | Läuft gut | 35 bis 48 Token/s | 7,9 von 72,0 GB |
| Qwen3.5 9B Q4_K_M | Läuft gut | 36 bis 49 Token/s | 7,7 von 72,0 GB |
| gpt-oss 20B Q4_K_M | Läuft gut | 56 bis 82 Token/s | 13,5 von 72,0 GB |
| Qwen3 8B Q4_K_M | Läuft gut | 32 bis 44 Token/s | 10,8 von 72,0 GB |
| Llama 3.1 8B Q4_K_M | Läuft gut | 33 bis 46 Token/s | 10,1 von 72,0 GB |
| Gemma 4 E4B Q4_0 | Läuft gut | 44 bis 61 Token/s | 6,0 von 72,0 GB |
| Gemma 4 E2B Q4_K_M | Läuft gut | 69 bis 95 Token/s | 4,2 von 72,0 GB |
| Qwen3.5 4B Q4_K_M | Läuft gut | 70 bis 96 Token/s | 4,7 von 72,0 GB |
| Qwen3 4B Q4_K_M | Läuft gut | 51 bis 71 Token/s | 8,2 von 72,0 GB |
| LFM2.5 8B A1B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 38 bis 56 Token/s | 13,0 von 72,0 GB |
| LFM2.5 2.6B Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft gut | 88 bis 121 Token/s | 4,7 von 72,0 GB |
| Llama 3.3 70B Q4_K_M Läuft, aber mit rund 5,5 Token pro Sekunde spürbar langsam. | Eingeschränkt | 4,6 bis 6,3 Token/s | 54,9 von 72,0 GB |
| Qwen3.5 122B A10B Q4_K_M | Läuft nicht | 79,7 von 72,0 GB | |
| Laguna S 2.1 Q4_K_M Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 195,1 von 72,0 GB | |
| Ornith 1.5 397B Q4_K_M | Läuft nicht | 251,1 von 72,0 GB | |
| GLM-5.3 Flash Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 611,4 von 72,0 GB | |
| GLM-5.3 Q8_0 Der Speicher für den Kontext ist geschätzt. | Läuft nicht | 1.435,8 von 72,0 GB |
Gerätedaten
- Chip
- M2 Max, 38-Kern-GPU
- Arbeitsspeicher
- 96 GB
- Davon für Modelle nutzbar
- 72,0 GB
- Speicherbandbreite
- 400 GB/s
- Rechenschnittstelle
- Metal