Lokale KI · Grafikkarten und Macs an Messungen abgeglichen · auf Deutsch
Welche lokale KI läuft auf Ihrem Gerät?
welche.ai zeigt für 751 Geräte und 131 Sprachmodelle, was läuft, wie schnell und womit Sie es starten. Ohne Anmeldung, ohne Cookies.
Geräte nach Hersteller
- Apple224 Geräte
- Lenovo107 Geräte
- Dell101 Geräte
- ASUS84 Geräte
- HP82 Geräte
- Acer44 Geräte
- MSI34 Geräte
- Razer10 Geräte
- XMG10 Geräte
- GMKtec9 Geräte
- Geekom8 Geräte
- Gigabyte7 Geräte
- Microsoft5 Geräte
- OneXPlayer5 Geräte
- Minisforum4 Geräte
- Framework3 Geräte
- Acemagic2 Geräte
- Bosgame2 Geräte
- Corsair2 Geräte
- GPD2 Geräte
- Beelink1 Gerät
- Exxact1 Gerät
- Medion1 Gerät
- NVIDIA1 Gerät
- Supermicro1 Gerät
- Zotac1 Gerät
Wofür möchten Sie lokale KI nutzen?
Je Einsatzzweck: welche Modelle dafür gebaut sind, auf wie vielen Geräten sie flüssig laufen und welche Geräte es ab welchem Preis gibt.
Sprachmodelle
| Modell | Parameter | Speicherbedarf | Läuft flüssig auf (bei 4.096 Token) |
|---|---|---|---|
| LFM2.5 230M Liquid AI | 0,2 Mrd. | 1,0 GB Q4_K_M | 751 von 751 Geräten |
| LFM2.5-VL 450M Liquid AI | 0,4 Mrd. | 1,2 GB Q4_K_M | 751 von 751 Geräten |
| MiniCPM5 1B OpenBMB | 1,1 Mrd. | 1,6 GB Q4_K_M | 751 von 751 Geräten |
| K2-Horizon-0.9B IFM (MBZUAI) | 1,1 Mrd. | 1,7 GB Q4_K_M | 751 von 751 Geräten |
| Spark-X2.6 1.7B SparkLLM (XHToken) | 1,7 Mrd. | 2,0 GB Q4_K_M | 751 von 751 Geräten |
| Spark-X2.5 1.7B SparkLLM (XHToken) | 1,7 Mrd. | 2,0 GB Q4_K_M | 743 von 751 Geräten |
| LFM3-1.7B LiquidAI | 1,7 Mrd. | 2,1 GB Q4_K_M | 743 von 751 Geräten |
| LFM2.5-VL 1.6B Liquid AI | 1,2 Mrd. | 2,2 GB Q4_K_M | 743 von 751 Geräten |
| Hy-MT2 1.8B Tencent | 1,8 Mrd. | 2,2 GB Q4_K_M | 743 von 751 Geräten |
| EuroLLM 1.7B EuroLLM (utter-project) | 1,7 Mrd. | 2,3 GB Q4_K_M | 743 von 751 Geräten |
| LFM3-Audio-2B LiquidAI | 1,7 Mrd. | 2,3 GB Q4_K_M | 743 von 751 Geräten |
| LFM3-VL-2B LiquidAI | 1,7 Mrd. | 2,3 GB Q4_K_M | 743 von 751 Geräten |
| LFM3-Omni-2B LiquidAI | 1,7 Mrd. | 2,4 GB Q4_K_M | 743 von 751 Geräten |
| EuroMoE 2.6B A0.6B EuroLLM (utter-project) | 2,6 Mrd. davon 0,6 Mrd. aktiv | 2,5 GB Q4_K_M | 743 von 751 Geräten |
| LFM2.5 2.6B Liquid AI | 2,7 Mrd. | 2,6 GB Q4_K_M | 739 von 751 Geräten |
| MiniCPM5 2B OpenBMB | 2,5 Mrd. | 2,6 GB Q4_K_M | 739 von 751 Geräten |
| MiniCPM-V 4.7 1B OpenBMB | 1 Mrd. | 2,6 GB Q4_K_M | 743 von 751 Geräten |
| Qwen3.5 2B Alibaba (Qwen) | 1,9 Mrd. | 2,8 GB Q4_K_M | 743 von 751 Geräten |
| Granite 4.2 3B IBM | 3,7 Mrd. | 3,4 GB Q4_K_M | 736 von 751 Geräten |
| Spark-X2.5 4B SparkLLM (XHToken) | 4,1 Mrd. | 3,7 GB Q4_K_M | 709 von 751 Geräten |
| Spark-X2.6 4B SparkLLM (XHToken) | 4,1 Mrd. | 3,7 GB Q4_K_M | 709 von 751 Geräten |
| NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 NVIDIA | 4 Mrd. | 3,7 GB Q4_K_M | 736 von 751 Geräten |
| UserRepGen-4B Microsoft | 4,2 Mrd. | 3,7 GB Q4_K_M | 709 von 751 Geräten |
| Qwen3 4B Alibaba (Qwen) | 4 Mrd. | 4,0 GB Q4_K_M | 709 von 751 Geräten |
| Jan-v3.5-4B Jan | 4,4 Mrd. | 4,2 GB Q4_K_M | 709 von 751 Geräten |
| Qwen3.5 4B Alibaba (Qwen) | 4,2 Mrd. | 4,4 GB Q4_K_M | 709 von 751 Geräten |
| Qwen3-VL 4B Instruct Alibaba (Qwen) | 4 Mrd. | 4,4 GB Q4_K_M | 709 von 751 Geräten |
| FrogNano-4B-2609 Microsoft | 4,3 Mrd. | 4,5 GB Q4_K_M | 709 von 751 Geräten |
| K2-Horizon-3.7B IFM (MBZUAI) | 5,1 Mrd. | 4,6 GB Q4_K_M | 709 von 751 Geräten |
| Gemma 4 E2B Google | 4,7 Mrd. | 5,0 GB Q4_K_M | 709 von 751 Geräten |
| Occiglot 7B DE-EN Instruct occiglot | 7,2 Mrd. | 5,8 GB Q4_K_M | 682 von 751 Geräten |
| Qwen2.5 7B Instruct Alibaba (Qwen) | 7,6 Mrd. | 5,8 GB Q4_K_M | 682 von 751 Geräten |
| Ling-3.0-tiny inclusionAI | 7,9 Mrd. davon 1,3 Mrd. aktiv | 5,8 GB Q4_K_M | 713 von 751 Geräten |
| Teuken 7B OpenGPT-X | 7,5 Mrd. | 6,1 GB Q4_K_M | 682 von 751 Geräten |
| Hy-MT2 7B Tencent | 7,5 Mrd. | 6,1 GB Q4_K_M | 682 von 751 Geräten |
| LFM2.5 8B A1B Liquid AI | 8,5 Mrd. davon 1,5 Mrd. aktiv | 6,1 GB Q4_K_M | 713 von 751 Geräten |
| Gemma 4 E4B Google | 7,5 Mrd. | 6,1 GB Q4_0 | 682 von 751 Geräten |
| Llama 3.1 8B Meta | 8 Mrd. | 6,4 GB Q4_K_M | 649 von 751 Geräten |
| Apertus 8B 2509 Swiss AI (ETH Zürich, EPFL) | 8,1 Mrd. | 6,5 GB Q4_K_M | 649 von 751 Geräten |
| Qwen3 8B Alibaba (Qwen) | 8,2 Mrd. | 6,5 GB Q4_K_M | 649 von 751 Geräten |
| llm-jp-4 8B Thinking llm-jp (NII) | 8,6 Mrd. | 6,7 GB Q4_K_M | 649 von 751 Geräten |
| Granite 4.2 8B IBM | 8,8 Mrd. | 6,9 GB Q4_K_M | 649 von 751 Geräten |
| K2-Horizon-7B IFM (MBZUAI) | 9 Mrd. | 7,1 GB Q4_K_M | 643 von 751 Geräten |
| EuroLLM 9B EuroLLM (utter-project) | 9,2 Mrd. | 7,2 GB Q4_K_M | 643 von 751 Geräten |
| Qwen3-VL 8B Instruct Alibaba (Qwen) | 8,2 Mrd. | 7,3 GB Q4_K_M | 517 von 751 Geräten |
| Qwen3.5 9B Alibaba (Qwen) | 9 Mrd. | 7,6 GB Q4_K_M | 517 von 751 Geräten |
| Ornith 1.5 9B Ornith AI | 9,2 Mrd. | 7,8 GB Q4_K_M | 511 von 751 Geräten |
| MiMo-V2.6-Distill-Qwen-9B Xiaomi | 9 Mrd. | 7,8 GB Q4_K_M | 511 von 751 Geräten |
| LensVLM-9B apple | 9 Mrd. | 7,8 GB Q4_K_M | 511 von 751 Geräten |
| AesCode-8B Microsoft | 8,2 Mrd. | 7,9 GB Q4_K_M | 517 von 751 Geräten |
| Granite Switch 4.1 8B ibm-granite | 9 Mrd. | 8,3 GB Q4_K_M | 485 von 751 Geräten |
| Gemma 4 12B Google | 11,9 Mrd. | 8,5 GB Q4_0 | 477 von 751 Geräten |
| Smaug Humanizer Abacus.AI | 11,9 Mrd. | 8,7 GB Q4_K_M | 452 von 751 Geräten |
| NVIDIA Nemotron 3.5 Bolt E4B NVIDIA | 7,5 Mrd. | 9,1 GB Q8_0 | 452 von 751 Geräten |
| TranslateGemma 12B Google | 11,8 Mrd. | 9,4 GB Q4_K_M | 452 von 751 Geräten |
| Mellum2.1 12B A2.5B Thinking JetBrains | 12,2 Mrd. davon 2,5 Mrd. aktiv | 9,9 GB Q4_K_M | 577 von 751 Geräten |
| Qwen3 14B Alibaba (Qwen) | 14,8 Mrd. | 10,7 GB Q4_K_M | 428 von 751 Geräten |
| Ministral 3 14B Mistral AI | 13,5 Mrd. | 10,8 GB Q4_K_M | 405 von 751 Geräten |
| HybridAgent-14B-Agentic togethercomputer | 14,8 Mrd. | 11,0 GB Q4_K_M | 405 von 751 Geräten |
| gpt-oss 20B OpenAI | 20,9 Mrd. davon 3,6 Mrd. aktiv | 12,8 GB Q4_K_M | 434 von 751 Geräten |
| EuroLLM 22B EuroLLM (utter-project) | 22,6 Mrd. | 15,6 GB Q4_K_M | 257 von 751 Geräten |
| LFM2.5-24B-A2B Liquid AI | 24 Mrd. davon 2,5 Mrd. aktiv | 15,7 GB Q4_K_M | 376 von 751 Geräten |
| Mistral Small 3.2 24B Mistral AI | 23,6 Mrd. | 17,0 GB Q4_K_M | 240 von 751 Geräten |
| Devstral Small 2 24B Mistral AI | 23,6 Mrd. | 17,0 GB Q4_K_M | 240 von 751 Geräten |
| Qwen3.8 27B Alibaba (Qwen) | 27,3 Mrd. | 18,8 GB Q4_K_M | 232 von 751 Geräten |
| Hemmingway-1.5 HemmingwayAI | 27,3 Mrd. | 18,9 GB Q4_K_M | 232 von 751 Geräten |
| Salience 27B R6 vectionlabs | 27,3 Mrd. | 19,1 GB Q4_K_M | 232 von 751 Geräten |
| Qwen3.6 27B Alibaba (Qwen) | 26,9 Mrd. | 19,1 GB Q4_K_M | 232 von 751 Geräten |
| LBS-27B inclusionAI | 26,9 Mrd. | 19,5 GB Q4_K_M | 232 von 751 Geräten |
| SenseNova 6.8 Code2Video SenseTime | 26,9 Mrd. | 19,5 GB Q4_K_M | 232 von 751 Geräten |
| AREX-2 BAAI | 26,9 Mrd. | 19,5 GB Q4_K_M | 232 von 751 Geräten |
| Gemma 4 26B A4B Google | 25,2 Mrd. davon 3,8 Mrd. aktiv | 19,6 GB Q4_K_M | 312 von 751 Geräten |
| GLM-4.7-Flash Z.ai | 29,9 Mrd. davon 3 Mrd. aktiv | 19,7 GB Q4_K_M | 322 von 751 Geräten |
| DiscoveryRSI-27B Gen-Verse | 27,3 Mrd. | 19,8 GB Q4_K_M | 232 von 751 Geräten |
| Granite 4.2 30B IBM | 29,3 Mrd. | 19,9 GB Q4_K_M | 232 von 751 Geräten |
| NVIDIA Nemotron-3.5-Lightning-30B-A3B NVIDIA | 31,6 Mrd. davon 3 Mrd. aktiv | 20,1 GB Q4_0 | 322 von 751 Geräten |
| Qwen3 30B A3B 2507 Alibaba (Qwen) | 30,5 Mrd. davon 3,3 Mrd. aktiv | 20,1 GB Q4_K_M | 322 von 751 Geräten |
| Qwen3-Coder 30B A3B Alibaba (Qwen) | 30,5 Mrd. davon 3,3 Mrd. aktiv | 20,1 GB Q4_K_M | 322 von 751 Geräten |
| North Mini Code 1.0 Cohere | 30,5 Mrd. davon 3 Mrd. aktiv | 20,8 GB Q4_K_M | 322 von 751 Geräten |
| Laguna XS 2.1 poolside | 33,4 Mrd. davon 3 Mrd. aktiv | 21,7 GB Q4_K_M | 289 von 751 Geräten |
| Gemma 4 31B Google | 30,7 Mrd. | 21,9 GB Q4_K_M | 213 von 751 Geräten |
| Qwen2.5 32B Instruct Alibaba (Qwen) | 32,8 Mrd. | 22,1 GB Q4_K_M | 157 von 751 Geräten |
| llm-jp-4 33B Thinking llm-jp (NII) | 33,2 Mrd. | 22,4 GB Q4_K_M | 157 von 751 Geräten |
| KAT-Coder-V2.5-Dev Kwaipilot | 34,7 Mrd. davon 3 Mrd. aktiv | 22,7 GB Q4_K_M | 289 von 751 Geräten |
| Nanbeige4.3-33B Nanbeige | 33,1 Mrd. | 22,9 GB Q4_K_M | 149 von 751 Geräten |
| Apex-35B-V1.0 Apexintelligence-AI | 35,5 Mrd. | 23,0 GB Q4_K_M | 149 von 751 Geräten |
| Occamy-1.0 Accio-Lab | 34,7 Mrd. davon 3 Mrd. aktiv | 23,4 GB Q4_K_M | 245 von 751 Geräten |
| Qwen-AgentWorld 35B A3B Alibaba (Qwen) | 34,7 Mrd. davon 3 Mrd. aktiv | 23,5 GB Q4_K_M | 245 von 751 Geräten |
| MiniCPM-V 4.7 35B-A3B OpenBMB | 34,7 Mrd. davon 3 Mrd. aktiv | 23,6 GB Q4_K_M | 245 von 751 Geräten |
| Thomson-1.0-Small thomsonreuters | 34,7 Mrd. davon 3 Mrd. aktiv | 23,6 GB Q4_K_M | 245 von 751 Geräten |
| MLExpert InternScience | 34,7 Mrd. | 23,6 GB Q4_K_M | 105 von 751 Geräten |
| Ornith 1.5 35B A3B Ornith AI | 35,5 Mrd. davon 3 Mrd. aktiv | 23,9 GB Q4_K_M | 245 von 751 Geräten |
| AesCode-32B Microsoft | 32,8 Mrd. | 24,0 GB Q4_K_M | 105 von 751 Geräten |
| BigBang-v1 The Endless Frontier | 35,5 Mrd. davon rund 3 Mrd. aktiv (gerechnet) | 24,1 GB Q4_K_M | 222 von 751 Geräten |
| Apodex 1.1 mini Apodex | 35,5 Mrd. davon rund 3 Mrd. aktiv (gerechnet) | 24,1 GB Q4_K_M | 222 von 751 Geräten |
| K2-Horizon-32B IFM (MBZUAI) | 34,8 Mrd. | 24,4 GB Q4_K_M | 99 von 751 Geräten |
| Muse Glimmer 30B meta-models | 27,9 Mrd. | 24,4 GB Q5_K_M | 149 von 751 Geräten |
| Qwen3.6 35B A3B Alibaba (Qwen) | 34,7 Mrd. davon 3 Mrd. aktiv | 24,4 GB Q4_K_M | 222 von 751 Geräten |
| K2-Horizon-MoVA-36B-A4B IFM (MBZUAI) | 37,4 Mrd. davon 4 Mrd. aktiv | 24,4 GB Q4_K_M | 212 von 751 Geräten |
| Nex-N2.5 mini Nex-AGI | 34,7 Mrd. davon rund 3,4 Mrd. aktiv (gerechnet) | 24,5 GB Q4_K_M | 222 von 751 Geräten |
| Holo4-35B-A3B H Company | 34,7 Mrd. davon rund 3 Mrd. aktiv (gerechnet) | 24,5 GB Q4_K_M | 222 von 751 Geräten |
| Granite Switch 4.1 30B ibm-granite | 30,6 Mrd. | 25,4 GB Q4_K_M | 99 von 751 Geräten |
| Flint RecursiveSI | 39,8 Mrd. davon 2,5 Mrd. aktiv | 26,8 GB Q4_K_M | 174 von 751 Geräten |
| Llama 3.3 70B Meta | 70,6 Mrd. | 45,5 GB Q4_K_M | 18 von 751 Geräten |
| Apertus 70B 2509 Swiss AI (ETH Zürich, EPFL) | 70,6 Mrd. | 46,7 GB Q4_K_M | 18 von 751 Geräten |
| Qwen3-Coder-Next Alibaba (Qwen) | 79,7 Mrd. davon 3 Mrd. aktiv | 50,4 GB Q4_K_M | 94 von 751 Geräten |
| Kolibri 1 Aleph Alpha | 78,1 Mrd. davon 3,5 Mrd. aktiv | 51,6 GB Q4_K_M | 94 von 751 Geräten |
| gpt-oss 120B OpenAI | 116,8 Mrd. davon 5,1 Mrd. aktiv | 65,0 GB Q4_K_M | 77 von 751 Geräten |
| NVIDIA Nemotron 3.5 Super VL 120B A12B NVIDIA | 123,6 Mrd. davon 12 Mrd. aktiv | 75,2 GB Q4_0 | 66 von 751 Geräten |
| Devstral 2 123B Mistral AI | 125 Mrd. | 78,7 GB Q4_K_M | 7 von 751 Geräten |
| Qwen3.5 122B A10B Alibaba (Qwen) | 122,1 Mrd. davon 10 Mrd. aktiv | 79,0 GB Q4_K_M | 66 von 751 Geräten |
| Ornith 1.5 122B Ornith AI | 124,6 Mrd. davon rund 10 Mrd. aktiv (gerechnet) | 79,2 GB Q4_K_M | 66 von 751 Geräten |
| Ling-3.0-flash inclusionAI | 127,5 Mrd. davon 5,1 Mrd. aktiv | 80,2 GB Q4_K_M | 66 von 751 Geräten |
| Ling-3.0-flash-VL inclusionAI | 124,4 Mrd. davon 5,5 Mrd. aktiv | 81,1 GB Q4_K_M | 66 von 751 Geräten |
| NVIDIA Nemotron 3.5 Bolt 74B A9B NVIDIA | 74 Mrd. davon 9 Mrd. aktiv | 81,3 GB Q8_0 | 66 von 751 Geräten |
| Laguna S 2.1 poolside | 117,6 Mrd. davon 8 Mrd. aktiv | 99,0 GB Q4_K_M | 25 von 751 Geräten |
| DeepSeek V4-Flash DeepSeek | 284,3 Mrd. davon 13 Mrd. aktiv | 159,2 GB Q4_K_M | 13 von 751 Geräten |
| Qwen3.8 Flash Next Alibaba (Qwen) | 176,9 Mrd. davon 6 Mrd. aktiv | 192,9 GB Q8_0 | 9 von 751 Geräten |
| Inkling Small Thinking Machines | 263,7 Mrd. davon 12 Mrd. aktiv | 193,6 GB Q4_K_M | 9 von 751 Geräten |
| K2-Horizon-375B-A23B IFM (MBZUAI) | 379,2 Mrd. davon 23 Mrd. aktiv | 244,4 GB Q4_K_M | 9 von 751 Geräten |
| Ornith 1.5 397B Ornith AI | 402,9 Mrd. davon rund 17,2 Mrd. aktiv (gerechnet) | 251,0 GB Q4_K_M | 9 von 751 Geräten |
| Nex-N2.5 Pro Nex-AGI | 396,4 Mrd. davon rund 17,2 Mrd. aktiv (gerechnet) | 256,8 GB Q4_K_M | 2 von 751 Geräten |
| Intern-S2 397B InternLM (Shanghai AI Laboratory) | 403 Mrd. davon rund 17,3 Mrd. aktiv (gerechnet) | 260,6 GB Q4_K_M | 2 von 751 Geräten |
| GLM-5.3 Flash Z.ai | 320,8 Mrd. davon 18 Mrd. aktiv | 348,7 GB Q8_0 | 2 von 751 Geräten |
| Ling-3.1-flash inclusionAI | 572,1 Mrd. davon 25 Mrd. aktiv | 366,0 GB Q4_K_M | 2 von 751 Geräten |
| DeepSeek V4.1-Flash-1017 DeepSeek | 748,5 Mrd. davon 16 Mrd. aktiv | 511,5 GB Q4_K_M | 0 von 751 Geräten |
| Beam 1.0 501B A23B Reflection | 501,3 Mrd. davon 23,4 Mrd. aktiv | 544,5 GB Q8_0 | 0 von 751 Geräten |
| Mistral Large 4 1T A52B Mistral AI | 1.049,4 Mrd. davon 49 Mrd. aktiv | 648,6 GB Q4_K_M | 0 von 751 Geräten |
| GLM-5.3 Z.ai | 753,9 Mrd. davon rund 41,1 Mrd. aktiv (gerechnet) | 818,6 GB Q8_0 | 0 von 751 Geräten |
| Muse Spark Open 816B-A42B meta-models | 820 Mrd. davon 42 Mrd. aktiv | 890,5 GB Q8_0 | 0 von 751 Geräten |
| Inkling Thinking Machines | 947 Mrd. davon 41 Mrd. aktiv | 971,7 GB Q8_0 | 0 von 751 Geräten |