When2Think-ThinkOnly-1.5B

Dieses Modell ist aus seiner Modellkarte automatisch übernommen und von uns noch nicht gegengelesen; Größen, Kontext und Lizenz sind gemessen, die Einordnung nicht.

When2Think-ThinkOnly-1.5B braucht mit der Variante Q4_K_M rund 2,1 GB Speicher und läuft auf allen 558 geführten Geräten flüssig.

Mit dem wenigsten Speicher schafft es: HP ZBook 8 G2i 14 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 48 GB.

Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten und eigenen Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.

Wofür möchten Sie das Modell nutzen?
Mehr zu diesem Einsatzzweck: Modelle und Geräte nach Preis
Anbieter
junshim
Parameter
1,8 Mrd.
Längster Kontext
131.072 Token
Nimmt entgegen
Text
Lizenz
MIT

So starten Sie es mit Ollama:

$ ollama run hf.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF:Q4_K_M
>>> /set parameter num_ctx 4096

Ab 24 GB Grafikspeicher wählt Ollama von selbst mehr Kontext und braucht dann mehr Speicher; beim Mac zählt dabei der Teil des Arbeitsspeichers, den macOS der Grafik zuteilt. Die zweite Zeile, nach dem Start in Ollama eingegeben, hält den Kontext bei den 4.096 Token, für die die Zahlen hier gelten.

Geräte, auf denen es flüssig läuft

Die Tempowerte sind berechnet, nicht auf dem Gerät gemessen, und an veröffentlichten und eigenen Messungen abgeglichen. Ausgenommen sind die mit * markierten Werte: sie sind nicht abgeglichen und deshalb unsicher.

GerätUrteilTempoSpeicher
HP ZBook 8 G2i 14 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 48 GBLäuft gut165 bis 202 Token/s *6 GB
davon 5,2 GB nutzbar
HP ZBook 8 G2i 14 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 64 GBLäuft gut165 bis 202 Token/s *6 GB
davon 5,2 GB nutzbar
HP ZBook 8 G2i 16 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 32 GBLäuft gut165 bis 202 Token/s *6 GB
davon 5,2 GB nutzbar
HP ZBook 8 G2i 16 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 48 GBLäuft gut165 bis 202 Token/s *6 GB
davon 5,2 GB nutzbar
Lenovo ThinkPad P14s 14,5 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 32 GBLäuft gut165 bis 202 Token/s *6 GB
davon 5,2 GB nutzbar
Lenovo ThinkPad P14s 14,5 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 64 GBLäuft gut165 bis 202 Token/s *6 GB
davon 5,2 GB nutzbar
HP ZBook 8 G2i 14 Zoll (2026), RTX PRO 500 Blackwell Laptop GPU, 32 GBLäuft gut165 bis 202 Token/s *6 GB
davon 5,2 GB nutzbar
Lenovo ThinkPad P1 16 Zoll (2025), RTX PRO 2000 Blackwell Laptop GPU, 32 GBLäuft gut217 bis 266 Token/s *8 GB
davon 7,2 GB nutzbar
Lenovo ThinkPad P1 16 Zoll (2025), RTX PRO 2000 Blackwell Laptop GPU, 64 GBLäuft gut217 bis 266 Token/s *8 GB
davon 7,2 GB nutzbar
Lenovo ThinkPad P1 16 Zoll (2025), RTX PRO 1000 Blackwell Laptop GPU, 32 GBLäuft gut217 bis 266 Token/s *8 GB
davon 7,2 GB nutzbar

und 548 weitere

Grafikkarten, in die es ganz passt

GrafikkarteUrteilTempoSpeicher
AMD Radeon RX 5500 XT, 4 GBLäuft gut104 bis 193 Token/s *4 GB
davon 3,2 GB nutzbar
NVIDIA GeForce GTX 1650 SUPER, 4 GBLäuft gut112 bis 136 Token/s *4 GB
davon 3,2 GB nutzbar
NVIDIA T1000, 4 GBLäuft gut93 bis 114 Token/s4 GB
davon 3,2 GB nutzbar
NVIDIA T600, 4 GBLäuft gut93 bis 114 Token/s4 GB
davon 3,2 GB nutzbar
AMD Radeon RX 6500 XT, 4 GBLäuft gut68 bis 125 Token/s4 GB
davon 3,2 GB nutzbar
AMD Radeon PRO W6400, 4 GBLäuft gut60 bis 112 Token/s4 GB
davon 3,2 GB nutzbar
AMD Radeon RX 6400, 4 GBLäuft gut60 bis 112 Token/s4 GB
davon 3,2 GB nutzbar
Intel Arc A310, 4 GBLäuft gut58 bis 109 Token/s4 GB
davon 3,2 GB nutzbar
NVIDIA GeForce GTX 1650, 4 GBLäuft gut75 bis 92 Token/s *4 GB
davon 3,2 GB nutzbar
NVIDIA RTX A400, 4 GBLäuft gut56 bis 69 Token/s4 GB
davon 3,2 GB nutzbar

und 105 weitere

Alle Geräte und Grafikkarten für When2Think-ThinkOnly-1.5B

Varianten

Der Bedarf gilt für 4.096 Token Kontext. Dabei bleibt Ollama, wenn Sie nach dem Start „/set parameter num_ctx 4096“ eingeben.

VarianteDateiSpeicherbedarfStartbefehl
Q3_K_M0,9 GB1,8 GBollama run hf.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF:Q3_K_M
Q4_01,1 GB2,0 GBollama run hf.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF:Q4_0
Q4_K_M1,1 GB2,1 GBollama run hf.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF:Q4_K_M
Q5_K_M1,4 GB2,3 GBollama run hf.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF:Q5_K_M
Q6_K1,5 GB2,5 GBollama run hf.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF:Q6_K
Q8_01,9 GB2,8 GBollama run hf.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF:Q8_0
BF163,6 GB4,5 GBollama run hf.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF:BF16

Quelle: https://huggingface.co/bartowski/junshim_When2Think-ThinkOnly-1.5B-GGUF

Weitere Ratgeber