Lokale KI · Grafikkarten und Macs an Messungen abgeglichen · auf Deutsch

Welche lokale KI läuft auf Ihrem Gerät?

welche.ai zeigt für 740 Geräte und 103 Sprachmodelle, was läuft, wie schnell und womit Sie es starten. Ohne Anmeldung, ohne Cookies.

Geräte nach Hersteller

Wofür möchten Sie lokale KI nutzen?

Je Einsatzzweck: welche Modelle dafür gebaut sind, auf wie vielen Geräten sie flüssig laufen und welche Geräte es ab welchem Preis gibt.

Sprachmodelle

ModellParameterSpeicherbedarfLäuft flüssig auf (bei 4.096 Token)
LFM2.5 230M
Liquid AI
0,2 Mrd.1,0 GB
Q4_K_M
740 von 740 Geräten
LFM2.5-VL 450M
Liquid AI
0,4 Mrd.1,2 GB
Q4_K_M
740 von 740 Geräten
MiniCPM5 1B
OpenBMB
1,1 Mrd.1,6 GB
Q4_K_M
740 von 740 Geräten
K2-Horizon-0.9B
IFM (MBZUAI)
1,1 Mrd.1,7 GB
Q4_K_M
740 von 740 Geräten
Spark-X2.5 1.7B
SparkLLM (XHToken)
1,7 Mrd.2,0 GB
Q4_K_M
732 von 740 Geräten
LFM2.5-VL 1.6B
Liquid AI
1,2 Mrd.2,2 GB
Q4_K_M
732 von 740 Geräten
Hy-MT2 1.8B
Tencent
1,8 Mrd.2,2 GB
Q4_K_M
732 von 740 Geräten
EuroLLM 1.7B
EuroLLM (utter-project)
1,7 Mrd.2,3 GB
Q4_K_M
732 von 740 Geräten
EuroMoE 2.6B A0.6B
EuroLLM (utter-project)
2,6 Mrd.
davon 0,6 Mrd. aktiv
2,5 GB
Q4_K_M
732 von 740 Geräten
LFM2.5 2.6B
Liquid AI
2,7 Mrd.2,6 GB
Q4_K_M
728 von 740 Geräten
MiniCPM5 2B
OpenBMB
2,5 Mrd.2,6 GB
Q4_K_M
728 von 740 Geräten
MiniCPM-V 4.7 1B
OpenBMB
1 Mrd.2,6 GB
Q4_K_M
732 von 740 Geräten
Qwen3.5 2B
Alibaba (Qwen)
1,9 Mrd.2,8 GB
Q4_K_M
732 von 740 Geräten
Granite 4.2 3B
IBM
3,7 Mrd.3,4 GB
Q4_K_M
725 von 740 Geräten
Spark-X2.5 4B
SparkLLM (XHToken)
4,1 Mrd.3,7 GB
Q4_K_M
698 von 740 Geräten
UserRepGen-4B
Microsoft
4,2 Mrd.3,7 GB
Q4_K_M
698 von 740 Geräten
Qwen3 4B
Alibaba (Qwen)
4 Mrd.4,0 GB
Q4_K_M
698 von 740 Geräten
Jan-v3.5-4B
Jan
4,4 Mrd.4,2 GB
Q4_K_M
698 von 740 Geräten
Qwen3.5 4B
Alibaba (Qwen)
4,2 Mrd.4,4 GB
Q4_K_M
698 von 740 Geräten
Qwen3-VL 4B Instruct
Alibaba (Qwen)
4 Mrd.4,4 GB
Q4_K_M
698 von 740 Geräten
FrogNano-4B-2609
Microsoft
4,3 Mrd.4,5 GB
Q4_K_M
698 von 740 Geräten
K2-Horizon-3.7B
IFM (MBZUAI)
5,1 Mrd.4,6 GB
Q4_K_M
698 von 740 Geräten
Gemma 4 E2B
Google
4,7 Mrd.5,0 GB
Q4_K_M
698 von 740 Geräten
Ling-3.0-tiny
inclusionAI
7,9 Mrd.
davon 1,3 Mrd. aktiv
5,8 GB
Q4_K_M
702 von 740 Geräten
Teuken 7B
OpenGPT-X
7,5 Mrd.6,1 GB
Q4_K_M
671 von 740 Geräten
Hy-MT2 7B
Tencent
7,5 Mrd.6,1 GB
Q4_K_M
671 von 740 Geräten
LFM2.5 8B A1B
Liquid AI
8,5 Mrd.
davon 1,5 Mrd. aktiv
6,1 GB
Q4_K_M
702 von 740 Geräten
Gemma 4 E4B
Google
7,5 Mrd.6,1 GB
Q4_0
671 von 740 Geräten
Llama 3.1 8B
Meta
8 Mrd.6,4 GB
Q4_K_M
638 von 740 Geräten
Apertus 8B 2509
Swiss AI (ETH Zürich, EPFL)
8,1 Mrd.6,5 GB
Q4_K_M
638 von 740 Geräten
Qwen3 8B
Alibaba (Qwen)
8,2 Mrd.6,5 GB
Q4_K_M
638 von 740 Geräten
Granite 4.2 8B
IBM
8,8 Mrd.6,9 GB
Q4_K_M
638 von 740 Geräten
K2-Horizon-7B
IFM (MBZUAI)
9 Mrd.7,1 GB
Q4_K_M
632 von 740 Geräten
EuroLLM 9B
EuroLLM (utter-project)
9,2 Mrd.7,2 GB
Q4_K_M
632 von 740 Geräten
Qwen3-VL 8B Instruct
Alibaba (Qwen)
8,2 Mrd.7,3 GB
Q4_K_M
508 von 740 Geräten
Qwen3.5 9B
Alibaba (Qwen)
9 Mrd.7,6 GB
Q4_K_M
508 von 740 Geräten
Ornith 1.5 9B
Ornith AI
9,2 Mrd.7,8 GB
Q4_K_M
502 von 740 Geräten
MiMo-V2.6-Distill-Qwen-9B
Xiaomi
9 Mrd.7,8 GB
Q4_K_M
502 von 740 Geräten
LensVLM-9B
apple
9 Mrd.7,8 GB
Q4_K_M
502 von 740 Geräten
AesCode-8B
Microsoft
8,2 Mrd.7,9 GB
Q4_K_M
508 von 740 Geräten
Gemma 4 12B
Google
11,9 Mrd.8,5 GB
Q4_0
468 von 740 Geräten
TranslateGemma 12B
Google
11,8 Mrd.9,4 GB
Q4_K_M
443 von 740 Geräten
Mellum2.1 12B A2.5B Thinking
JetBrains
12,2 Mrd.
davon 2,5 Mrd. aktiv
9,9 GB
Q4_K_M
568 von 740 Geräten
Qwen3 14B
Alibaba (Qwen)
14,8 Mrd.10,7 GB
Q4_K_M
419 von 740 Geräten
Ministral 3 14B
Mistral AI
13,5 Mrd.10,8 GB
Q4_K_M
399 von 740 Geräten
gpt-oss 20B
OpenAI
20,9 Mrd.
davon 3,6 Mrd. aktiv
12,8 GB
Q4_K_M
429 von 740 Geräten
EuroLLM 22B
EuroLLM (utter-project)
22,6 Mrd.15,6 GB
Q4_K_M
257 von 740 Geräten
LFM2.5-24B-A2B
Liquid AI
24 Mrd.
davon 2,5 Mrd. aktiv
15,7 GB
Q4_K_M
371 von 740 Geräten
Mistral Small 3.2 24B
Mistral AI
23,6 Mrd.17,0 GB
Q4_K_M
240 von 740 Geräten
Qwen3.8 27B
Alibaba (Qwen)
27,3 Mrd.18,8 GB
Q4_K_M
232 von 740 Geräten
Qwen3.6 27B
Alibaba (Qwen)
26,9 Mrd.19,1 GB
Q4_K_M
232 von 740 Geräten
Salience 27B R6
vectionlabs
27,3 Mrd.19,2 GB
Q4_K_M
232 von 740 Geräten
AREX-2
BAAI
26,9 Mrd.19,5 GB
Q4_K_M
232 von 740 Geräten
Gemma 4 26B A4B
Google
25,2 Mrd.
davon 3,8 Mrd. aktiv
19,6 GB
Q4_K_M
310 von 740 Geräten
GLM-4.7-Flash
Z.ai
29,9 Mrd.
davon 3 Mrd. aktiv
19,7 GB
Q4_K_M
320 von 740 Geräten
Granite 4.2 30B
IBM
29,3 Mrd.19,9 GB
Q4_K_M
232 von 740 Geräten
NVIDIA Nemotron-3.5-Lightning-30B-A3B
NVIDIA
31,6 Mrd.
davon 3 Mrd. aktiv
20,1 GB
Q4_0
320 von 740 Geräten
Qwen3 30B A3B 2507
Alibaba (Qwen)
30,5 Mrd.
davon 3,3 Mrd. aktiv
20,1 GB
Q4_K_M
320 von 740 Geräten
Qwen3-Coder 30B A3B
Alibaba (Qwen)
30,5 Mrd.
davon 3,3 Mrd. aktiv
20,1 GB
Q4_K_M
320 von 740 Geräten
North Mini Code 1.0
Cohere
30,5 Mrd.
davon 3 Mrd. aktiv
20,8 GB
Q4_K_M
320 von 740 Geräten
Laguna XS 2.1
poolside
33,4 Mrd.
davon 3 Mrd. aktiv
21,7 GB
Q4_K_M
289 von 740 Geräten
Gemma 4 31B
Google
30,7 Mrd.21,9 GB
Q4_K_M
213 von 740 Geräten
Qwen2.5 32B Instruct
Alibaba (Qwen)
32,8 Mrd.22,1 GB
Q4_K_M
157 von 740 Geräten
KAT-Coder-V2.5-Dev
Kwaipilot
34,7 Mrd.
davon 3 Mrd. aktiv
22,7 GB
Q4_K_M
289 von 740 Geräten
Occamy-1.0
Accio-Lab
34,7 Mrd.
davon 3 Mrd. aktiv
23,4 GB
Q4_K_M
245 von 740 Geräten
Qwen-AgentWorld 35B A3B
Alibaba (Qwen)
34,7 Mrd.
davon 3 Mrd. aktiv
23,5 GB
Q4_K_M
245 von 740 Geräten
MiniCPM-V 4.7 35B-A3B
OpenBMB
34,7 Mrd.
davon 3 Mrd. aktiv
23,6 GB
Q4_K_M
245 von 740 Geräten
Thomson-1.0-Small
thomsonreuters
34,7 Mrd.
davon 3 Mrd. aktiv
23,6 GB
Q4_K_M
245 von 740 Geräten
Ornith 1.5 35B A3B
Ornith AI
35,5 Mrd.
davon 3 Mrd. aktiv
23,9 GB
Q4_K_M
245 von 740 Geräten
AesCode-32B
Microsoft
32,8 Mrd.24,0 GB
Q4_K_M
105 von 740 Geräten
BigBang-v1
The Endless Frontier
35,5 Mrd.
davon rund 3 Mrd. aktiv (gerechnet)
24,1 GB
Q4_K_M
222 von 740 Geräten
Apodex 1.1 mini
Apodex
35,5 Mrd.
davon rund 3 Mrd. aktiv (gerechnet)
24,1 GB
Q4_K_M
222 von 740 Geräten
K2-Horizon-32B
IFM (MBZUAI)
34,8 Mrd.24,4 GB
Q4_K_M
99 von 740 Geräten
Muse Glimmer 30B
meta-models
27,9 Mrd.24,4 GB
Q5_K_M
149 von 740 Geräten
Qwen3.6 35B A3B
Alibaba (Qwen)
34,7 Mrd.
davon 3 Mrd. aktiv
24,4 GB
Q4_K_M
222 von 740 Geräten
K2-Horizon-MoVA-36B-A4B
IFM (MBZUAI)
37,4 Mrd.
davon 4 Mrd. aktiv
24,4 GB
Q4_K_M
212 von 740 Geräten
Nex-N2.5 mini
Nex-AGI
34,7 Mrd.
davon rund 3,4 Mrd. aktiv (gerechnet)
24,5 GB
Q4_K_M
222 von 740 Geräten
Holo4-35B-A3B
H Company
34,7 Mrd.
davon rund 3 Mrd. aktiv (gerechnet)
24,5 GB
Q4_K_M
222 von 740 Geräten
Llama 3.3 70B
Meta
70,6 Mrd.45,5 GB
Q4_K_M
18 von 740 Geräten
Apertus 70B 2509
Swiss AI (ETH Zürich, EPFL)
70,6 Mrd.46,7 GB
Q4_K_M
18 von 740 Geräten
Qwen3-Coder-Next
Alibaba (Qwen)
79,7 Mrd.
davon 3 Mrd. aktiv
50,4 GB
Q4_K_M
94 von 740 Geräten
Kolibri 1
Aleph Alpha
78,1 Mrd.
davon 3,5 Mrd. aktiv
51,6 GB
Q4_K_M
94 von 740 Geräten
gpt-oss 120B
OpenAI
116,8 Mrd.
davon 5,1 Mrd. aktiv
65,0 GB
Q4_K_M
77 von 740 Geräten
NVIDIA Nemotron 3.5 Super VL 120B A12B
NVIDIA
123,6 Mrd.
davon 12 Mrd. aktiv
75,2 GB
Q4_0
66 von 740 Geräten
Qwen3.5 122B A10B
Alibaba (Qwen)
122,1 Mrd.
davon 10 Mrd. aktiv
79,0 GB
Q4_K_M
66 von 740 Geräten
Ling-3.0-flash
inclusionAI
127,5 Mrd.
davon 5,1 Mrd. aktiv
80,2 GB
Q4_K_M
66 von 740 Geräten
Ling-3.0-flash-VL
inclusionAI
124,4 Mrd.
davon 5,5 Mrd. aktiv
81,1 GB
Q4_K_M
66 von 740 Geräten
NVIDIA Nemotron 3.5 Bolt 74B A9B
NVIDIA
74 Mrd.
davon 9 Mrd. aktiv
81,3 GB
Q8_0
66 von 740 Geräten
Laguna S 2.1
poolside
117,6 Mrd.
davon 8 Mrd. aktiv
99,0 GB
Q4_K_M
25 von 740 Geräten
Ornith-1.5-122B
ornith-ai
124,6 Mrd.136,1 GB
Q8_0
7 von 740 Geräten
DeepSeek V4-Flash
DeepSeek
284,3 Mrd.
davon 13 Mrd. aktiv
159,2 GB
Q4_K_M
13 von 740 Geräten
Qwen3.8 Flash Next
Alibaba (Qwen)
176,9 Mrd.
davon 6 Mrd. aktiv
192,9 GB
Q8_0
9 von 740 Geräten
Inkling Small
Thinking Machines
263,7 Mrd.
davon 12 Mrd. aktiv
193,6 GB
Q4_K_M
9 von 740 Geräten
K2-Horizon-375B-A23B
IFM (MBZUAI)
379,2 Mrd.
davon 23 Mrd. aktiv
244,4 GB
Q4_K_M
9 von 740 Geräten
Ornith 1.5 397B
Ornith AI
402,9 Mrd.
davon rund 17,2 Mrd. aktiv (gerechnet)
251,1 GB
Q4_K_M
9 von 740 Geräten
Nex-N2.5 Pro
Nex-AGI
396,4 Mrd.
davon rund 17,2 Mrd. aktiv (gerechnet)
256,8 GB
Q4_K_M
2 von 740 Geräten
Intern-S2 397B
InternLM (Shanghai AI Laboratory)
403 Mrd.
davon rund 17,3 Mrd. aktiv (gerechnet)
260,6 GB
Q4_K_M
2 von 740 Geräten
GLM-5.3 Flash
Z.ai
320,8 Mrd.
davon 18 Mrd. aktiv
348,7 GB
Q8_0
2 von 740 Geräten
Ling-3.1-flash
inclusionAI
572,1 Mrd.
davon 25 Mrd. aktiv
366,0 GB
Q4_K_M
2 von 740 Geräten
Beam 1.0 501B A23B
Reflection
501,3 Mrd.
davon 23,4 Mrd. aktiv
544,5 GB
Q8_0
0 von 740 Geräten
GLM-5.3
Z.ai
753,9 Mrd.
davon rund 41,1 Mrd. aktiv (gerechnet)
818,6 GB
Q8_0
0 von 740 Geräten
Muse Spark Open 816B-A42B
meta-models
820 Mrd.
davon 42 Mrd. aktiv
890,5 GB
Q8_0
0 von 740 Geräten
Inkling
Thinking Machines
947 Mrd.
davon 41 Mrd. aktiv
971,7 GB
Q8_0
0 von 740 Geräten