Occamy-1.0

Dieses Modell ist aus seiner Modellkarte automatisch übernommen und von uns noch nicht gegengelesen; Größen, Kontext und Lizenz sind gemessen, die Einordnung nicht.

Occamy-1.0 braucht mit der Variante Q4_K_M rund 23,4 GB Speicher und läuft auf 78 von 544 geführten Geräten flüssig.

Mit dem wenigsten Speicher schafft es: Apple MacBook Pro 14 Zoll (2026), M5 Max mit 32-Kern-GPU, 36 GB.

Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten und eigenen Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.

Wofür möchten Sie das Modell nutzen?
Mehr zu diesem Einsatzzweck: Modelle und Geräte nach Preis
Anbieter
Accio-Lab
Parameter
34,7 Mrd.
Längster Kontext
262.144 Token
Nimmt entgegen
Text und Bilder
Lizenz
Apache 2.0

So starten Sie es mit Ollama:

$ ollama run hf.co/Accio-Lab/occamy-1.0-GGUF:Q4_K_M
>>> /set parameter num_ctx 4096

Ab 24 GB Grafikspeicher wählt Ollama von selbst mehr Kontext und braucht dann mehr Speicher; beim Mac zählt dabei der Teil des Arbeitsspeichers, den macOS der Grafik zuteilt. Die zweite Zeile, nach dem Start in Ollama eingegeben, hält den Kontext bei den 4.096 Token, für die die Zahlen hier gelten.

Für mehrere Nutzer gleichzeitig: Ollama bedient dieses Modell immer nur mit einer Anfrage nach der anderen. Bei anderen Modellen lässt sich das über die Einstellung OLLAMA_NUM_PARALLEL ändern, hier nicht: Ollama setzt den Wert für diese Modellart selbst zurück. Die Tempoangaben oben gelten für eine einzelne Anfrage.

Geräte, auf denen es flüssig läuft

Die Tempowerte sind berechnet, nicht auf dem Gerät gemessen, und an veröffentlichten und eigenen Messungen abgeglichen. Ausgenommen sind die mit * markierten Werte: sie sind nicht abgeglichen und deshalb unsicher.

GerätUrteilTempoSpeicher
Apple MacBook Pro 14 Zoll (2026), M5 Max mit 32-Kern-GPU, 36 GBLäuft gut11 bis 15 Token/s36 GB
davon 24,0 GB nutzbar
Apple MacBook Pro 16 Zoll (2026), M5 Max mit 32-Kern-GPU, 36 GBLäuft gut11 bis 15 Token/s36 GB
davon 24,0 GB nutzbar
Apple Mac Studio (2026), M5 Max mit 32-Kern-GPU, 36 GBLäuft gut11 bis 15 Token/s36 GB
davon 24,0 GB nutzbar
Apple MacBook Pro 14 Zoll (2024), M4 Max mit 32-Kern-GPU, 36 GBLäuft gut10 bis 14 Token/s36 GB
davon 24,0 GB nutzbar
Apple MacBook Pro 16 Zoll (2024), M4 Max mit 32-Kern-GPU, 36 GBLäuft gut10 bis 14 Token/s36 GB
davon 24,0 GB nutzbar
Apple Mac Studio (2025), M4 Max mit 32-Kern-GPU, 36 GBLäuft gut10 bis 14 Token/s36 GB
davon 24,0 GB nutzbar
Apple MacBook Pro 14 Zoll (2026), M5 Max mit 40-Kern-GPU, 48 GBLäuft gut13 bis 18 Token/s48 GB
davon 36,0 GB nutzbar
Apple MacBook Pro 16 Zoll (2026), M5 Max mit 40-Kern-GPU, 48 GBLäuft gut13 bis 18 Token/s48 GB
davon 36,0 GB nutzbar
Apple Mac Studio (2026), M5 Max mit 40-Kern-GPU, 48 GBLäuft gut13 bis 18 Token/s48 GB
davon 36,0 GB nutzbar
Apple MacBook Pro 14 Zoll (2024), M4 Max mit 40-Kern-GPU, 48 GBLäuft gut12 bis 17 Token/s48 GB
davon 36,0 GB nutzbar

und 68 weitere

Grafikkarten, in die es ganz passt

GrafikkarteUrteilTempoSpeicher
NVIDIA GeForce RTX 5090, 32 GBLäuft gut48 bis 58 Token/s32 GB
davon 31,2 GB nutzbar
NVIDIA RTX PRO 4500 Blackwell, 32 GBLäuft gut27 bis 33 Token/s32 GB
davon 31,2 GB nutzbar
AMD Radeon AI PRO R9700, 32 GBLäuft gut16 bis 29 Token/s32 GB
davon 31,2 GB nutzbar
AMD Radeon PRO W7800, 32 GBLäuft gut14 bis 26 Token/s32 GB
davon 31,2 GB nutzbar
NVIDIA RTX 5000 Ada Generation, 32 GBLäuft gut18 bis 22 Token/s32 GB
davon 31,2 GB nutzbar
NVIDIA RTX PRO 5000 Blackwell, 48 GBLäuft gut38 bis 46 Token/s48 GB
davon 47,2 GB nutzbar
NVIDIA RTX 6000 Ada Generation, 48 GBLäuft gut28 bis 35 Token/s48 GB
davon 47,2 GB nutzbar
AMD Radeon PRO W7900, 48 GBLäuft gut20 bis 37 Token/s48 GB
davon 47,2 GB nutzbar
NVIDIA RTX A6000, 48 GBLäuft gut23 bis 28 Token/s48 GB
davon 47,2 GB nutzbar
NVIDIA RTX PRO 6000 Blackwell, 96 GBLäuft gut48 bis 58 Token/s96 GB
davon 95,2 GB nutzbar

Alle Geräte und Grafikkarten für Occamy-1.0

Varianten

Der Bedarf gilt für 4.096 Token Kontext. Dabei bleibt Ollama, wenn Sie nach dem Start „/set parameter num_ctx 4096“ eingeben.

VarianteDateiSpeicherbedarfStartbefehl
Q3_K_M16,8 GB18,9 GBollama run hf.co/Accio-Lab/occamy-1.0-GGUF:Q3_K_M
Q4_K_M21,2 GB23,4 GBollama run hf.co/Accio-Lab/occamy-1.0-GGUF:Q4_K_M
Q5_K_M24,7 GB27,0 GBollama run hf.co/Accio-Lab/occamy-1.0-GGUF:Q5_K_M
Q6_K28,5 GB30,9 GBollama run hf.co/Accio-Lab/occamy-1.0-GGUF:Q6_K
Q8_036,9 GB39,4 GBollama run hf.co/Accio-Lab/occamy-1.0-GGUF:Q8_0

Quelle: https://huggingface.co/Accio-Lab/occamy-1.0-GGUF

Weitere Ratgeber