OneJev-0.8B

Dieses Modell ist aus seiner Modellkarte automatisch übernommen und von uns noch nicht gegengelesen; Größen, Kontext und Lizenz sind gemessen, die Einordnung nicht.

OneJev-0.8B braucht mit der Variante Q4_K_M rund 1,8 GB Speicher und läuft auf allen 561 geführten Geräten flüssig.

Mit dem wenigsten Speicher schafft es: HP ZBook 8 G2i 14 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 48 GB.

Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten und eigenen Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.

Wofür möchten Sie das Modell nutzen?
Mehr zu diesem Einsatzzweck: Modelle und Geräte nach Preis
Anbieter
OmniJev
Parameter
1 Mrd.
Längster Kontext
262.144 Token
Nimmt entgegen
Text und Bilder
Lizenz
Apache 2.0

So starten Sie es mit Ollama:

$ ollama run hf.co/bartowski/OmniJev_OneJev-0.8B-GGUF:Q4_K_M
>>> /set parameter num_ctx 4096

Ab 24 GB Grafikspeicher wählt Ollama von selbst mehr Kontext und braucht dann mehr Speicher; beim Mac zählt dabei der Teil des Arbeitsspeichers, den macOS der Grafik zuteilt. Die zweite Zeile, nach dem Start in Ollama eingegeben, hält den Kontext bei den 4.096 Token, für die die Zahlen hier gelten.

Für mehrere Nutzer gleichzeitig: Ollama bedient dieses Modell immer nur mit einer Anfrage nach der anderen. Bei anderen Modellen lässt sich das über die Einstellung OLLAMA_NUM_PARALLEL ändern, hier nicht: Ollama setzt den Wert für diese Modellart selbst zurück. Die Tempoangaben oben gelten für eine einzelne Anfrage.

Geräte, auf denen es flüssig läuft

Die Tempowerte sind berechnet, nicht auf dem Gerät gemessen, und an veröffentlichten und eigenen Messungen abgeglichen. Ausgenommen sind die mit * markierten Werte: sie sind nicht abgeglichen und deshalb unsicher.

GerätUrteilTempoSpeicher
HP ZBook 8 G2i 14 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 48 GBLäuft gut282 bis 345 Token/s *6 GB
davon 5,2 GB nutzbar
HP ZBook 8 G2i 14 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 64 GBLäuft gut282 bis 345 Token/s *6 GB
davon 5,2 GB nutzbar
HP ZBook 8 G2i 16 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 32 GBLäuft gut282 bis 345 Token/s *6 GB
davon 5,2 GB nutzbar
HP ZBook 8 G2i 16 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 48 GBLäuft gut282 bis 345 Token/s *6 GB
davon 5,2 GB nutzbar
Lenovo ThinkPad P14s 14,5 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 32 GBLäuft gut282 bis 345 Token/s *6 GB
davon 5,2 GB nutzbar
Lenovo ThinkPad P14s 14,5 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 64 GBLäuft gut282 bis 345 Token/s *6 GB
davon 5,2 GB nutzbar
HP ZBook 8 G2i 14 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 32 GBLäuft gut282 bis 345 Token/s *6 GB
davon 5,2 GB nutzbar
Lenovo ThinkPad P1 16 Zoll (2025), RTX PRO 1000 Blackwell Laptop GPU, 32 GBLäuft gut372 bis 454 Token/s *8 GB
davon 7,2 GB nutzbar
Lenovo ThinkPad P1 16 Zoll (2025), RTX PRO 1000 Blackwell Laptop GPU, 64 GBLäuft gut372 bis 454 Token/s *8 GB
davon 7,2 GB nutzbar
Lenovo ThinkPad P1 16 Zoll (2025), RTX PRO 2000 Blackwell Laptop GPU, 16 GBLäuft gut372 bis 454 Token/s *8 GB
davon 7,2 GB nutzbar

und 551 weitere

Grafikkarten, in die es ganz passt

GrafikkarteUrteilTempoSpeicher
AMD Radeon RX 5500 XT, 4 GBLäuft gut177 bis 329 Token/s *4 GB
davon 3,2 GB nutzbar
NVIDIA GeForce GTX 1650 SUPER, 4 GBLäuft gut191 bis 233 Token/s *4 GB
davon 3,2 GB nutzbar
NVIDIA T1000, 4 GBLäuft gut159 bis 195 Token/s4 GB
davon 3,2 GB nutzbar
NVIDIA T600, 4 GBLäuft gut159 bis 195 Token/s4 GB
davon 3,2 GB nutzbar
AMD Radeon RX 6500 XT, 4 GBLäuft gut115 bis 214 Token/s4 GB
davon 3,2 GB nutzbar
AMD Radeon PRO W6400, 4 GBLäuft gut103 bis 191 Token/s4 GB
davon 3,2 GB nutzbar
AMD Radeon RX 6400, 4 GBLäuft gut103 bis 191 Token/s4 GB
davon 3,2 GB nutzbar
Intel Arc A310, 4 GBLäuft gut100 bis 185 Token/s4 GB
davon 3,2 GB nutzbar
NVIDIA GeForce GTX 1650, 4 GBLäuft gut128 bis 157 Token/s *4 GB
davon 3,2 GB nutzbar
NVIDIA RTX A400, 4 GBLäuft gut97 bis 118 Token/s4 GB
davon 3,2 GB nutzbar

und 105 weitere

Alle Geräte und Grafikkarten für OneJev-0.8B

Varianten

Der Bedarf gilt für 4.096 Token Kontext. Dabei bleibt Ollama, wenn Sie nach dem Start „/set parameter num_ctx 4096“ eingeben.

VarianteDateiSpeicherbedarfStartbefehl
Q3_K_M0,5 GB1,6 GBollama run hf.co/bartowski/OmniJev_OneJev-0.8B-GGUF:Q3_K_M
Q4_00,7 GB1,7 GBollama run hf.co/bartowski/OmniJev_OneJev-0.8B-GGUF:Q4_0
Q4_K_M0,7 GB1,8 GBollama run hf.co/bartowski/OmniJev_OneJev-0.8B-GGUF:Q4_K_M
Q5_K_M0,8 GB1,9 GBollama run hf.co/bartowski/OmniJev_OneJev-0.8B-GGUF:Q5_K_M
Q6_K0,9 GB1,9 GBollama run hf.co/bartowski/OmniJev_OneJev-0.8B-GGUF:Q6_K
Q8_01,1 GB2,2 GBollama run hf.co/bartowski/OmniJev_OneJev-0.8B-GGUF:Q8_0
BF162,0 GB3,1 GBollama run hf.co/bartowski/OmniJev_OneJev-0.8B-GGUF:BF16

Quelle: https://huggingface.co/bartowski/OmniJev_OneJev-0.8B-GGUF

Weitere Ratgeber