Lokale KI · Grafikkarten und Macs an Messungen abgeglichen · auf Deutsch
Welche lokale KI läuft auf Ihrem Gerät?
welche.ai zeigt für 742 Geräte und 113 Sprachmodelle, was läuft, wie schnell und womit Sie es starten. Ohne Anmeldung, ohne Cookies.
Geräte nach Hersteller
- Apple216 Geräte
- Lenovo107 Geräte
- Dell101 Geräte
- ASUS84 Geräte
- HP82 Geräte
- Acer43 Geräte
- MSI34 Geräte
- Razer10 Geräte
- XMG10 Geräte
- GMKtec9 Geräte
- Geekom8 Geräte
- Gigabyte7 Geräte
- Microsoft5 Geräte
- OneXPlayer5 Geräte
- Minisforum4 Geräte
- Framework3 Geräte
- Acemagic2 Geräte
- Bosgame2 Geräte
- Corsair2 Geräte
- GPD2 Geräte
- Beelink1 Gerät
- Exxact1 Gerät
- Medion1 Gerät
- NVIDIA1 Gerät
- Supermicro1 Gerät
- Zotac1 Gerät
Wofür möchten Sie lokale KI nutzen?
Je Einsatzzweck: welche Modelle dafür gebaut sind, auf wie vielen Geräten sie flüssig laufen und welche Geräte es ab welchem Preis gibt.
Sprachmodelle
| Modell | Parameter | Speicherbedarf | Läuft flüssig auf (bei 4.096 Token) |
|---|---|---|---|
| LFM2.5 230M Liquid AI | 0,2 Mrd. | 1,0 GB Q4_K_M | 742 von 742 Geräten |
| LFM2.5-VL 450M Liquid AI | 0,4 Mrd. | 1,2 GB Q4_K_M | 742 von 742 Geräten |
| MiniCPM5 1B OpenBMB | 1,1 Mrd. | 1,6 GB Q4_K_M | 742 von 742 Geräten |
| K2-Horizon-0.9B IFM (MBZUAI) | 1,1 Mrd. | 1,7 GB Q4_K_M | 742 von 742 Geräten |
| Spark-X2.5 1.7B SparkLLM (XHToken) | 1,7 Mrd. | 2,0 GB Q4_K_M | 734 von 742 Geräten |
| LFM2.5-VL 1.6B Liquid AI | 1,2 Mrd. | 2,2 GB Q4_K_M | 734 von 742 Geräten |
| Hy-MT2 1.8B Tencent | 1,8 Mrd. | 2,2 GB Q4_K_M | 734 von 742 Geräten |
| EuroLLM 1.7B EuroLLM (utter-project) | 1,7 Mrd. | 2,3 GB Q4_K_M | 734 von 742 Geräten |
| EuroMoE 2.6B A0.6B EuroLLM (utter-project) | 2,6 Mrd. davon 0,6 Mrd. aktiv | 2,5 GB Q4_K_M | 734 von 742 Geräten |
| LFM2.5 2.6B Liquid AI | 2,7 Mrd. | 2,6 GB Q4_K_M | 730 von 742 Geräten |
| MiniCPM5 2B OpenBMB | 2,5 Mrd. | 2,6 GB Q4_K_M | 730 von 742 Geräten |
| MiniCPM-V 4.7 1B OpenBMB | 1 Mrd. | 2,6 GB Q4_K_M | 734 von 742 Geräten |
| Qwen3.5 2B Alibaba (Qwen) | 1,9 Mrd. | 2,8 GB Q4_K_M | 734 von 742 Geräten |
| Granite 4.2 3B IBM | 3,7 Mrd. | 3,4 GB Q4_K_M | 727 von 742 Geräten |
| Spark-X2.5 4B SparkLLM (XHToken) | 4,1 Mrd. | 3,7 GB Q4_K_M | 700 von 742 Geräten |
| UserRepGen-4B Microsoft | 4,2 Mrd. | 3,7 GB Q4_K_M | 700 von 742 Geräten |
| Qwen3 4B Alibaba (Qwen) | 4 Mrd. | 4,0 GB Q4_K_M | 700 von 742 Geräten |
| Jan-v3.5-4B Jan | 4,4 Mrd. | 4,2 GB Q4_K_M | 700 von 742 Geräten |
| Qwen3.5 4B Alibaba (Qwen) | 4,2 Mrd. | 4,4 GB Q4_K_M | 700 von 742 Geräten |
| Qwen3-VL 4B Instruct Alibaba (Qwen) | 4 Mrd. | 4,4 GB Q4_K_M | 700 von 742 Geräten |
| FrogNano-4B-2609 Microsoft | 4,3 Mrd. | 4,5 GB Q4_K_M | 700 von 742 Geräten |
| Spark-X2.6 4B SparkLLM (XHToken) | 4,5 Mrd. | 4,6 GB Q4_K_M | 700 von 742 Geräten |
| K2-Horizon-3.7B IFM (MBZUAI) | 5,1 Mrd. | 4,6 GB Q4_K_M | 700 von 742 Geräten |
| Gemma 4 E2B Google | 4,7 Mrd. | 5,0 GB Q4_K_M | 700 von 742 Geräten |
| Ling-3.0-tiny inclusionAI | 7,9 Mrd. davon 1,3 Mrd. aktiv | 5,8 GB Q4_K_M | 704 von 742 Geräten |
| Teuken 7B OpenGPT-X | 7,5 Mrd. | 6,1 GB Q4_K_M | 673 von 742 Geräten |
| Hy-MT2 7B Tencent | 7,5 Mrd. | 6,1 GB Q4_K_M | 673 von 742 Geräten |
| LFM2.5 8B A1B Liquid AI | 8,5 Mrd. davon 1,5 Mrd. aktiv | 6,1 GB Q4_K_M | 704 von 742 Geräten |
| Gemma 4 E4B Google | 7,5 Mrd. | 6,1 GB Q4_0 | 673 von 742 Geräten |
| Llama 3.1 8B Meta | 8 Mrd. | 6,4 GB Q4_K_M | 640 von 742 Geräten |
| Apertus 8B 2509 Swiss AI (ETH Zürich, EPFL) | 8,1 Mrd. | 6,5 GB Q4_K_M | 640 von 742 Geräten |
| Qwen3 8B Alibaba (Qwen) | 8,2 Mrd. | 6,5 GB Q4_K_M | 640 von 742 Geräten |
| LLM-jp-4 8B Thinking NII (LLM-jp) | 8,6 Mrd. | 6,7 GB Q4_K_M | 640 von 742 Geräten |
| Granite 4.2 8B IBM | 8,8 Mrd. | 6,9 GB Q4_K_M | 640 von 742 Geräten |
| K2-Horizon-7B IFM (MBZUAI) | 9 Mrd. | 7,1 GB Q4_K_M | 634 von 742 Geräten |
| NVIDIA Nemotron 3.5 Bolt E4B NVIDIA | 7,5 Mrd. | 7,2 GB Q4_K_M | 634 von 742 Geräten |
| EuroLLM 9B EuroLLM (utter-project) | 9,2 Mrd. | 7,2 GB Q4_K_M | 634 von 742 Geräten |
| Qwen3-VL 8B Instruct Alibaba (Qwen) | 8,2 Mrd. | 7,3 GB Q4_K_M | 508 von 742 Geräten |
| Qwen3.5 9B Alibaba (Qwen) | 9 Mrd. | 7,6 GB Q4_K_M | 508 von 742 Geräten |
| Ornith 1.5 9B Ornith AI | 9,2 Mrd. | 7,8 GB Q4_K_M | 502 von 742 Geräten |
| MiMo-V2.6-Distill-Qwen-9B Xiaomi | 9 Mrd. | 7,8 GB Q4_K_M | 502 von 742 Geräten |
| LensVLM-9B apple | 9 Mrd. | 7,8 GB Q4_K_M | 502 von 742 Geräten |
| AesCode-8B Microsoft | 8,2 Mrd. | 7,9 GB Q4_K_M | 508 von 742 Geräten |
| Granite Switch 4.1 8B ibm-granite | 9 Mrd. | 8,3 GB Q4_K_M | 476 von 742 Geräten |
| Gemma 4 12B Google | 11,9 Mrd. | 8,5 GB Q4_0 | 468 von 742 Geräten |
| TranslateGemma 12B Google | 11,8 Mrd. | 9,4 GB Q4_K_M | 443 von 742 Geräten |
| Mellum2.1 12B A2.5B Thinking JetBrains | 12,2 Mrd. davon 2,5 Mrd. aktiv | 9,9 GB Q4_K_M | 568 von 742 Geräten |
| Qwen3 14B Alibaba (Qwen) | 14,8 Mrd. | 10,7 GB Q4_K_M | 419 von 742 Geräten |
| Ministral 3 14B Mistral AI | 13,5 Mrd. | 10,8 GB Q4_K_M | 399 von 742 Geräten |
| HybridAgent 14B Agentic Together | 14,8 Mrd. | 11,0 GB Q4_K_M | 399 von 742 Geräten |
| gpt-oss 20B OpenAI | 20,9 Mrd. davon 3,6 Mrd. aktiv | 12,8 GB Q4_K_M | 429 von 742 Geräten |
| EuroLLM 22B EuroLLM (utter-project) | 22,6 Mrd. | 15,6 GB Q4_K_M | 257 von 742 Geräten |
| LFM2.5-24B-A2B Liquid AI | 24 Mrd. davon 2,5 Mrd. aktiv | 15,7 GB Q4_K_M | 371 von 742 Geräten |
| Mistral Small 3.2 24B Mistral AI | 23,6 Mrd. | 17,0 GB Q4_K_M | 240 von 742 Geräten |
| Qwen3.8 27B Alibaba (Qwen) | 27,3 Mrd. | 18,8 GB Q4_K_M | 232 von 742 Geräten |
| Salience 27B R6 vectionlabs | 27,3 Mrd. | 19,1 GB Q4_K_M | 232 von 742 Geräten |
| Qwen3.6 27B Alibaba (Qwen) | 26,9 Mrd. | 19,1 GB Q4_K_M | 232 von 742 Geräten |
| AREX-2 BAAI | 26,9 Mrd. | 19,5 GB Q4_K_M | 232 von 742 Geräten |
| Gemma 4 26B A4B Google | 25,2 Mrd. davon 3,8 Mrd. aktiv | 19,6 GB Q4_K_M | 310 von 742 Geräten |
| GLM-4.7-Flash Z.ai | 29,9 Mrd. davon 3 Mrd. aktiv | 19,7 GB Q4_K_M | 320 von 742 Geräten |
| Granite 4.2 30B IBM | 29,3 Mrd. | 19,9 GB Q4_K_M | 232 von 742 Geräten |
| NVIDIA Nemotron-3.5-Lightning-30B-A3B NVIDIA | 31,6 Mrd. davon 3 Mrd. aktiv | 20,1 GB Q4_0 | 320 von 742 Geräten |
| Qwen3 30B A3B 2507 Alibaba (Qwen) | 30,5 Mrd. davon 3,3 Mrd. aktiv | 20,1 GB Q4_K_M | 320 von 742 Geräten |
| Qwen3-Coder 30B A3B Alibaba (Qwen) | 30,5 Mrd. davon 3,3 Mrd. aktiv | 20,1 GB Q4_K_M | 320 von 742 Geräten |
| North Mini Code 1.0 Cohere | 30,5 Mrd. davon 3 Mrd. aktiv | 20,8 GB Q4_K_M | 320 von 742 Geräten |
| Laguna XS 2.1 poolside | 33,4 Mrd. davon 3 Mrd. aktiv | 21,7 GB Q4_K_M | 289 von 742 Geräten |
| Gemma 4 31B Google | 30,7 Mrd. | 21,9 GB Q4_K_M | 213 von 742 Geräten |
| Qwen2.5 32B Instruct Alibaba (Qwen) | 32,8 Mrd. | 22,1 GB Q4_K_M | 157 von 742 Geräten |
| LLM-jp-4 33B Thinking NII (LLM-jp) | 33,2 Mrd. | 22,4 GB Q4_K_M | 157 von 742 Geräten |
| KAT-Coder-V2.5-Dev Kwaipilot | 34,7 Mrd. davon 3 Mrd. aktiv | 22,7 GB Q4_K_M | 289 von 742 Geräten |
| Nanbeige4.3-33B Nanbeige | 33,1 Mrd. | 22,9 GB Q4_K_M | 149 von 742 Geräten |
| Occamy-1.0 Accio-Lab | 34,7 Mrd. davon 3 Mrd. aktiv | 23,4 GB Q4_K_M | 245 von 742 Geräten |
| Qwen-AgentWorld 35B A3B Alibaba (Qwen) | 34,7 Mrd. davon 3 Mrd. aktiv | 23,5 GB Q4_K_M | 245 von 742 Geräten |
| MiniCPM-V 4.7 35B-A3B OpenBMB | 34,7 Mrd. davon 3 Mrd. aktiv | 23,6 GB Q4_K_M | 245 von 742 Geräten |
| Thomson-1.0-Small thomsonreuters | 34,7 Mrd. davon 3 Mrd. aktiv | 23,6 GB Q4_K_M | 245 von 742 Geräten |
| MLExpert InternScience | 34,7 Mrd. davon rund 3 Mrd. aktiv (gerechnet) | 23,6 GB Q4_K_M | 245 von 742 Geräten |
| Ornith 1.5 35B A3B Ornith AI | 35,5 Mrd. davon 3 Mrd. aktiv | 23,9 GB Q4_K_M | 245 von 742 Geräten |
| AesCode-32B Microsoft | 32,8 Mrd. | 24,0 GB Q4_K_M | 105 von 742 Geräten |
| BigBang-v1 The Endless Frontier | 35,5 Mrd. davon rund 3 Mrd. aktiv (gerechnet) | 24,1 GB Q4_K_M | 222 von 742 Geräten |
| Apodex 1.1 mini Apodex | 35,5 Mrd. davon rund 3 Mrd. aktiv (gerechnet) | 24,1 GB Q4_K_M | 222 von 742 Geräten |
| K2-Horizon-32B IFM (MBZUAI) | 34,8 Mrd. | 24,4 GB Q4_K_M | 99 von 742 Geräten |
| Muse Glimmer 30B meta-models | 27,9 Mrd. | 24,4 GB Q5_K_M | 149 von 742 Geräten |
| Qwen3.6 35B A3B Alibaba (Qwen) | 34,7 Mrd. davon 3 Mrd. aktiv | 24,4 GB Q4_K_M | 222 von 742 Geräten |
| K2-Horizon-MoVA-36B-A4B IFM (MBZUAI) | 37,4 Mrd. davon 4 Mrd. aktiv | 24,4 GB Q4_K_M | 212 von 742 Geräten |
| Nex-N2.5 mini Nex-AGI | 34,7 Mrd. davon rund 3,4 Mrd. aktiv (gerechnet) | 24,5 GB Q4_K_M | 222 von 742 Geräten |
| Holo4-35B-A3B H Company | 34,7 Mrd. davon rund 3 Mrd. aktiv (gerechnet) | 24,5 GB Q4_K_M | 222 von 742 Geräten |
| Granite Switch 4.1 30B ibm-granite | 30,6 Mrd. | 25,4 GB Q4_K_M | 99 von 742 Geräten |
| Flint Recursive | 39,8 Mrd. davon 2,5 Mrd. aktiv | 26,5 GB Q4_K_M | 174 von 742 Geräten |
| Llama 3.3 70B Meta | 70,6 Mrd. | 45,5 GB Q4_K_M | 18 von 742 Geräten |
| Apertus 70B 2509 Swiss AI (ETH Zürich, EPFL) | 70,6 Mrd. | 46,7 GB Q4_K_M | 18 von 742 Geräten |
| Qwen3-Coder-Next Alibaba (Qwen) | 79,7 Mrd. davon 3 Mrd. aktiv | 50,4 GB Q4_K_M | 94 von 742 Geräten |
| Kolibri 1 Aleph Alpha | 78,1 Mrd. davon 3,5 Mrd. aktiv | 51,6 GB Q4_K_M | 94 von 742 Geräten |
| gpt-oss 120B OpenAI | 116,8 Mrd. davon 5,1 Mrd. aktiv | 65,0 GB Q4_K_M | 77 von 742 Geräten |
| NVIDIA Nemotron 3.5 Super VL 120B A12B NVIDIA | 123,6 Mrd. davon 12 Mrd. aktiv | 75,2 GB Q4_0 | 66 von 742 Geräten |
| Qwen3.5 122B A10B Alibaba (Qwen) | 122,1 Mrd. davon 10 Mrd. aktiv | 79,0 GB Q4_K_M | 66 von 742 Geräten |
| Ornith 1.5 122B Ornith AI | 124,6 Mrd. davon rund 10 Mrd. aktiv (gerechnet) | 79,2 GB Q4_K_M | 66 von 742 Geräten |
| Ling-3.0-flash inclusionAI | 127,5 Mrd. davon 5,1 Mrd. aktiv | 80,2 GB Q4_K_M | 66 von 742 Geräten |
| Ling-3.0-flash-VL inclusionAI | 124,4 Mrd. davon 5,5 Mrd. aktiv | 81,1 GB Q4_K_M | 66 von 742 Geräten |
| NVIDIA Nemotron 3.5 Bolt 74B A9B NVIDIA | 74 Mrd. davon 9 Mrd. aktiv | 81,3 GB Q8_0 | 66 von 742 Geräten |
| Laguna S 2.1 poolside | 117,6 Mrd. davon 8 Mrd. aktiv | 99,0 GB Q4_K_M | 25 von 742 Geräten |
| DeepSeek V4-Flash DeepSeek | 284,3 Mrd. davon 13 Mrd. aktiv | 159,2 GB Q4_K_M | 13 von 742 Geräten |
| Qwen3.8 Flash Next Alibaba (Qwen) | 176,9 Mrd. davon 6 Mrd. aktiv | 192,9 GB Q8_0 | 9 von 742 Geräten |
| Inkling Small Thinking Machines | 263,7 Mrd. davon 12 Mrd. aktiv | 193,6 GB Q4_K_M | 9 von 742 Geräten |
| K2-Horizon-375B-A23B IFM (MBZUAI) | 379,2 Mrd. davon 23 Mrd. aktiv | 244,4 GB Q4_K_M | 9 von 742 Geräten |
| Ornith 1.5 397B Ornith AI | 402,9 Mrd. davon rund 17,2 Mrd. aktiv (gerechnet) | 251,0 GB Q4_K_M | 9 von 742 Geräten |
| Nex-N2.5 Pro Nex-AGI | 396,4 Mrd. davon rund 17,2 Mrd. aktiv (gerechnet) | 256,8 GB Q4_K_M | 2 von 742 Geräten |
| Intern-S2 397B InternLM (Shanghai AI Laboratory) | 403 Mrd. davon rund 17,3 Mrd. aktiv (gerechnet) | 260,6 GB Q4_K_M | 2 von 742 Geräten |
| GLM-5.3 Flash Z.ai | 320,8 Mrd. davon 18 Mrd. aktiv | 348,7 GB Q8_0 | 2 von 742 Geräten |
| Ling-3.1-flash inclusionAI | 572,1 Mrd. davon 25 Mrd. aktiv | 366,0 GB Q4_K_M | 2 von 742 Geräten |
| Beam 1.0 501B A23B Reflection | 501,3 Mrd. davon 23,4 Mrd. aktiv | 544,5 GB Q8_0 | 0 von 742 Geräten |
| GLM-5.3 Z.ai | 753,9 Mrd. davon rund 41,1 Mrd. aktiv (gerechnet) | 818,6 GB Q8_0 | 0 von 742 Geräten |
| Muse Spark Open 816B-A42B meta-models | 820 Mrd. davon 42 Mrd. aktiv | 890,5 GB Q8_0 | 0 von 742 Geräten |
| Inkling Thinking Machines | 947 Mrd. davon 41 Mrd. aktiv | 971,7 GB Q8_0 | 0 von 742 Geräten |