Lokale KI für Agenten und automatisierte Abläufe

Ein Agent ruft Werkzeuge auf und arbeitet in mehreren Schritten, dafür braucht er viel Kontext. Hier stehen die Modelle, die ihr Anbieter dafür nennt, und die Geräte, auf denen sie flüssig laufen.

Gerechnet mit 65.536 Token Kontext, der Annahme für diesen Einsatzzweck. Speicherbedarf und Tempo sind berechnet und an veröffentlichten und eigenen Messungen abgeglichen, nicht auf jedem Gerät gemessen. Ausgenommen sind die mit * markierten Werte: sie sind nicht abgeglichen und deshalb unsicher.

Modelle, die der Anbieter dafür nennt

Nur Modelle, deren Modellkarte diesen Zweck ausdrücklich nennt. Das Zitat steht daneben, mit Quelle und Lesedatum; es ist eine Selbstaussage des Anbieters, kein Urteil von uns.

  • Laut Anbieter dafür gebaut

    LFM2.5 230M

    Liquid AI

    „Built for agentic tasks: Distilled from LFM2.5-350M and refined with multi-stage reinforcement learning, making it well-suited for tool use and data extraction.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 740 von 740 Geräten bei 65.536 Token Kontext · ab 4 GB Speicher

  • Laut Anbieter dafür gebaut

    LFM2.5 2.6B

    Liquid AI

    „Post-training then turns the base model into an agent in four stages: supervised fine-tuning (two rounds), per-domain teacher specialization, multi-domain on-policy distillation, and agentic reinforcement learning.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 725 von 740 Geräten bei 65.536 Token Kontext · ab 6 GB Speicher

  • Laut Anbieter dafür gebaut

    MiMo-V2.6-Distill-Qwen-9B

    Xiaomi

    „MiMo-V2.6-Distill-Qwen-9B is a 9B agentic model developed by Xiaomi MiMo“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 476 von 740 Geräten bei 65.536 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter dafür gebaut

    LFM2.5-24B-A2B

    Liquid AI

    „LFM2.5-24B-A2B is a 24B-parameter reasoning model with only 2B active parameters, built for fast, private agents on-device.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 331 von 740 Geräten bei 65.536 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter dafür gebaut

    AREX-2

    BAAI

    „AREX-2 is a 27B-parameter long-horizon agent model from the Beijing Academy of Artificial Intelligence (BAAI).“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 176 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter dafür gebaut

    Occamy-1.0

    Accio-Lab

    „Occamy-1.0 is a compact agentic model purpose-built for real-world co-work: long-horizon, stateful tasks that require coordinated use of search, code, tools, files, structured APIs, and productivity software.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 222 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter dafür gebaut

    Muse Glimmer 30B

    meta-models

    „purpose-built for autonomous agentic tasks on consumer hardware.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 149 von 740 Geräten bei 65.536 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter dafür gebaut

    Nex-N2.5 mini

    Nex-AGI

    „A next-generation family of agentic models built for long-horizon tasks in real-world environments.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 212 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter dafür gebaut

    Holo4-35B-A3B

    H Company

    „Holo4-35B-A3B is a vision-language model (VLM) for Computer Use“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 222 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter dafür gebaut

    NVIDIA Nemotron 3.5 Bolt 74B A9B

    NVIDIA

    „NVIDIA Nemotron 3.5 Bolt 74B-A9B is a vision-language model (VLM) designed to run everyday agentic tasks locally.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 66 von 740 Geräten bei 65.536 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter dafür gebaut

    Nex-N2.5 Pro

    Nex-AGI

    „A next-generation family of agentic models built for long-horizon tasks in real-world environments.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 2 von 740 Geräten bei 65.536 Token Kontext · ab 512 GB Speicher

  • Laut Anbieter geeignet

    Spark-X2.5 1.7B

    SparkLLM (XHToken)

    „including conversation, writing, translation, reasoning, coding, tool use, and agentic workflows“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 728 von 740 Geräten bei 65.536 Token Kontext · ab 4 GB Speicher

  • Laut Anbieter geeignet

    MiniCPM5 1B

    OpenBMB

    „It is designed for local assistants, coding agents, tool-use workflows, and reasoning scenarios where a compact model is preferred.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 732 von 740 Geräten bei 65.536 Token Kontext · ab 4 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.5 2B

    Alibaba (Qwen)

    „Qwen3.5 excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 725 von 740 Geräten bei 65.536 Token Kontext · ab 6 GB Speicher

  • Laut Anbieter geeignet

    MiniCPM5 2B

    OpenBMB

    „It is designed for local assistants, coding agents, tool-use workflows, and reasoning scenarios where a compact model is preferred.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 689 von 740 Geräten bei 65.536 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    Gemma 4 E2B

    Google

    „Function Calling – Native support for structured tool use, enabling agentic workflows.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 671 von 740 Geräten bei 65.536 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    Spark-X2.5 4B

    SparkLLM (XHToken)

    „including conversation, writing, translation, reasoning, coding, tool use, and agentic workflows“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 671 von 740 Geräten bei 65.536 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    Ling-3.0-tiny

    inclusionAI

    „It is designed to deliver strong reasoning and agentic capabilities at low inference cost, making advanced model capabilities more accessible for local and resource-constrained deployment.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 702 von 740 Geräten bei 65.536 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.5 4B

    Alibaba (Qwen)

    „Qwen3.5 excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 671 von 740 Geräten bei 65.536 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    LFM2.5 8B A1B

    Liquid AI

    „We recommend using LFM2.5-8B-A1B for agentic workflows, tool use, structured outputs, multilingual assistants, and on-device personal-assistant applications.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 702 von 740 Geräten bei 65.536 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    Gemma 4 E4B

    Google

    „Function Calling – Native support for structured tool use, enabling agentic workflows.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 671 von 740 Geräten bei 65.536 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    Granite 4.2 3B

    IBM

    „Reasoning, Code Generation, Tool Calling, Agentic Workflows, Multilingual Dialog“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 541 von 740 Geräten bei 65.536 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Gemma 4 12B

    Google

    „Function Calling – Native support for structured tool use, enabling agentic workflows.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 443 von 740 Geräten bei 65.536 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.5 9B

    Alibaba (Qwen)

    „Qwen3.5 excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 499 von 740 Geräten bei 65.536 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Ornith 1.5 9B

    Ornith AI

    „Ornith-1.5-9B exposes an OpenAI-compatible endpoint with tool calling, it works out of the box with standard agent frameworks.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 464 von 740 Geräten bei 65.536 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Mellum2.1 12B A2.5B Thinking

    JetBrains

    „Use it for complex agentic tasks, such as working in a repository, running commands, and calling tools, and for hard non-agentic problems in coding, math, and reasoning.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 487 von 740 Geräten bei 65.536 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Qwen3 4B

    Alibaba (Qwen)

    „Expertise in agent capabilities, enabling precise integration with external tools in both thinking and unthinking modes and achieving leading performance among open-source models in complex agent-based tasks.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Für diesen Zweck zu kurz: das Modell verarbeitet höchstens 40.960 Token Kontext, gerechnet wird hier mit 65.536.

  • Laut Anbieter geeignet

    Qwen3-VL 4B Instruct

    Alibaba (Qwen)

    „Visual Agent: Operates PC/mobile GUIs—recognizes elements, understands functions, invokes tools, completes tasks.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 375 von 740 Geräten bei 65.536 Token Kontext · ab 16 GB Speicher

  • Laut Anbieter geeignet

    gpt-oss 20B

    OpenAI

    „designed for powerful reasoning, agentic tasks, and versatile developer use cases.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 413 von 740 Geräten bei 65.536 Token Kontext · ab 16 GB Speicher

  • Laut Anbieter geeignet

    Qwen3 8B

    Alibaba (Qwen)

    „Expertise in agent capabilities, enabling precise integration with external tools in both thinking and unthinking modes and achieving leading performance among open-source models in complex agent-based tasks.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Für diesen Zweck zu kurz: das Modell verarbeitet höchstens 40.960 Token Kontext, gerechnet wird hier mit 65.536.

  • Laut Anbieter geeignet

    Qwen3-VL 8B Instruct

    Alibaba (Qwen)

    „Visual Agent: Operates PC/mobile GUIs—recognizes elements, understands functions, invokes tools, completes tasks.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 254 von 740 Geräten bei 65.536 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Granite 4.2 8B

    IBM

    „Reasoning, Code Generation, Tool Calling, Agentic Workflows, Multilingual Dialog“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 248 von 740 Geräten bei 65.536 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Qwen3 14B

    Alibaba (Qwen)

    „Expertise in agent capabilities, enabling precise integration with external tools in both thinking and unthinking modes and achieving leading performance among open-source models in complex agent-based tasks.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Für diesen Zweck zu kurz: das Modell verarbeitet höchstens 40.960 Token Kontext, gerechnet wird hier mit 65.536.

  • Laut Anbieter geeignet

    Ministral 3 14B

    Mistral AI

    „Agentic: Offers best-in-class agentic capabilities with native function calling and JSON outputting.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 245 von 740 Geräten bei 65.536 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Gemma 4 26B A4B

    Google

    „Function Calling – Native support for structured tool use, enabling agentic workflows.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 310 von 740 Geräten bei 65.536 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.8 27B

    Alibaba (Qwen)

    „Agent Execution: Stronger autonomous planning and better handling of environment feedback, leading to more reliable end-to-end task completion.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 220 von 740 Geräten bei 65.536 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.6 27B

    Alibaba (Qwen)

    „Qwen3.6 excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 220 von 740 Geräten bei 65.536 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Salience 27B R6

    vectionlabs

    „Terminal & agentic work — multi-step planning, tool orchestration, long-horizon execution.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 176 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Thomson-1.0-Small

    thomsonreuters

    „Agentic Deep Research: a full research harness with reward structures designed to incentivise faithful tool use and accurate citation patterns, vital to reducing hallucinations in high-stakes settings.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 222 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Ornith 1.5 35B A3B

    Ornith AI

    „Ornith-1.5-35B-A3B excels in tool-calling and agentic coding.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 222 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Apodex 1.1 mini

    Apodex

    „Beyond searching and writing reports, it works directly with files, data, code, and tools to complete tasks from input to verifiable deliverables.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 222 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.6 35B A3B

    Alibaba (Qwen)

    „Qwen3.6 excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 222 von 740 Geräten bei 65.536 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Qwen3 30B A3B 2507

    Alibaba (Qwen)

    „Qwen3 excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 174 von 740 Geräten bei 65.536 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter geeignet

    Qwen3-Coder 30B A3B

    Alibaba (Qwen)

    „Qwen3-Coder excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 174 von 740 Geräten bei 65.536 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter geeignet

    Gemma 4 31B

    Google

    „Function Calling – Native support for structured tool use, enabling agentic workflows.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 99 von 740 Geräten bei 65.536 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter geeignet

    Mistral Small 3.2 24B

    Mistral AI

    „Mistral-Small-3.2-24B-Instruct-2506 is excellent at function / tool calling tasks via vLLM.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 156 von 740 Geräten bei 65.536 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter geeignet

    Granite 4.2 30B

    IBM

    „Reasoning, Code Generation, Tool Calling, Agentic Workflows, Multilingual Dialog“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 68 von 740 Geräten bei 65.536 Token Kontext · ab 64 GB Speicher

  • Laut Anbieter geeignet

    Qwen3-Coder-Next

    Alibaba (Qwen)

    „Qwen3-Coder-Next excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 94 von 740 Geräten bei 65.536 Token Kontext · ab 64 GB Speicher

  • Laut Anbieter geeignet

    Kolibri 1

    Aleph Alpha

    „| Best for | Multi-step reasoning, retrieval-augmented generation, agentic tool calling, coding, German- and English-language assistant |“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 94 von 740 Geräten bei 65.536 Token Kontext · ab 64 GB Speicher

  • Laut Anbieter geeignet

    gpt-oss 120B

    OpenAI

    „designed for powerful reasoning, agentic tasks, and versatile developer use cases.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 77 von 740 Geräten bei 65.536 Token Kontext · ab 96 GB Speicher

  • Laut Anbieter geeignet

    NVIDIA Nemotron 3.5 Super VL 120B A12B

    NVIDIA

    „a vision-language model for reasoning, coding, tool use, document understanding, and video understanding.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 66 von 740 Geräten bei 65.536 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.5 122B A10B

    Alibaba (Qwen)

    „Qwen3.5 excels in tool calling capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 66 von 740 Geräten bei 65.536 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter geeignet

    Ling-3.0-flash

    inclusionAI

    „Comprehensive Agentic Evolution: Tailored for real-world productivity workflows, the model incorporates 10,000+ interactive training environments to achieve end-to-end closed-loop execution across Coding, General, and Deep Research Agent tasks.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 66 von 740 Geräten bei 65.536 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter geeignet

    Ling-3.0-flash-VL

    inclusionAI

    „The architecture of Ling-3.0-flash-VL is designed to integrate visual information into real-world reasoning and agentic workflows.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 66 von 740 Geräten bei 65.536 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter geeignet

    Ornith-1.5-122B

    ornith-ai

    „Ornith-1.5-122B exposes an OpenAI-compatible endpoint with tool calling, it works out of the box with standard agent frameworks.“

    Quelle: huggingface.co, gelesen am 20. Oktober 2026

    Aus der Modellkarte automatisch übernommen und von uns noch nicht gegengelesen.

    Läuft flüssig auf 7 von 740 Geräten bei 65.536 Token Kontext · ab 748 GB Speicher

  • Laut Anbieter geeignet

    DeepSeek V4-Flash

    DeepSeek

    „DeepSeek-V4-Flash-0731 is the official release of DeepSeek-V4-Flash, superseding the preview version, with substantially enhanced agentic capabilities.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 13 von 740 Geräten bei 65.536 Token Kontext · ab 256 GB Speicher

  • Laut Anbieter geeignet

    Ornith 1.5 397B

    Ornith AI

    „Ornith-1.5-397B excels in tool-calling and agentic coding.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 2 von 740 Geräten bei 65.536 Token Kontext · ab 512 GB Speicher

  • Laut Anbieter geeignet

    Intern-S2 397B

    InternLM (Shanghai AI Laboratory)

    „our most capable multimodal foundation model for scientific intelligence and long-horizon agents.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 2 von 740 Geräten bei 65.536 Token Kontext · ab 512 GB Speicher

  • Laut Anbieter geeignet

    Ling-3.1-flash

    inclusionAI

    „Ling-3.1-flash shows improvements across a range of real-world tasks, including general-purpose agents, search, office productivity, and software engineering.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft flüssig auf 2 von 740 Geräten bei 65.536 Token Kontext · ab 512 GB Speicher

  • Laut Anbieter geeignet

    Beam 1.0 501B A23B

    Reflection

    „Beam models are designed to deliver strong performance for areas such as agentic tool use, coding and general reasoning with an emphasis on token efficient usage.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft auf keinem geführten Gerät flüssig

  • Laut Anbieter geeignet

    Inkling Small

    Thinking Machines

    „The model is designed to be used by developers building AI-powered applications, including agentic and tool-use systems, coding assistants, chatbots, and retrieval-augmented generation systems“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft auf keinem geführten Gerät flüssig

  • Laut Anbieter geeignet

    Muse Spark Open 816B-A42B

    meta-models

    „Built for coding and agentic work, Muse Spark Open is natively multimodal.“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft auf keinem geführten Gerät flüssig

  • Laut Anbieter geeignet

    Inkling

    Thinking Machines

    „The model is designed to be used by developers building AI-powered applications, including agentic and tool-use systems, coding assistants, chatbots, and retrieval-augmented generation systems“

    Quelle: huggingface.co, gelesen am 18. Oktober 2026

    Läuft auf keinem geführten Gerät flüssig

Alle Modelle für diesen Einsatzzweck

Zuerst die vom Anbieter für den Zweck genannten Modelle, dann alle anderen nach Speicherbedarf. „Ab Speicher“ ist der kleinste Arbeits- bzw. Grafikspeicher, auf dem das Modell flüssig läuft.

Was Ihr Budget schafft

Je Preisgrenze das stärkste Modell, das bei 65.536 Token Kontext flüssig läuft, und das günstigste Gerät dafür. Vorrang hat ein Modell, das laut Anbieter für diesen Zweck gebaut ist. Gezählt sind nur Geräte, für die ein Händler gerade einen Preis meldet. Die Preise stammen aus den Produktdaten der Händler; auf den Geräteseiten stehen die Angebote als Partnerlinks. Kaufen Sie über einen davon, erhalten wir eine Provision. Der Preis für Sie bleibt gleich, und die Einstufungen hängen nicht davon ab.

In der Liste darunter grenzen „Preis“ und „Gerätetyp“ die Geräte ein; die Spalte „Stationär“ fasst Mini-PC, Schreibtischrechner und Arbeitsstation zusammen.

Geräte nach Preis

Geräte mit aktuellem Angebot aus den Händler-Feeds, günstigstes zuerst, mit dem Modell, das darauf für diesen Zweck flüssig läuft. Die Angebote selbst stehen als Partnerlinks auf der Geräteseite; kaufen Sie über einen davon, erhalten wir eine Provision, die Einstufung hängt nicht davon ab.

Mehr zu diesem Einsatzzweck

Ein Agent beantwortet nicht nur eine Frage, er arbeitet eine Aufgabe in mehreren Schritten ab. Er ruft ein Werkzeug auf, etwa eine Dateisuche, einen Befehl oder einen Schritt in einem Ablauf mit n8n, liest dessen Antwort und entscheidet danach über den nächsten Schritt. Dafür muss das Modell Werkzeuge aufrufen können; ein Modell ohne diese Fähigkeit bleibt beim Chat. Bei Modellen ohne Angabe nennt die Modellkarte keinen solchen Zweck.

Im Kontext sammelt sich dabei alles: Ihre Aufgabe, die Beschreibung der Werkzeuge, jede Antwort, die zurückkommt. Deshalb rechnet diese Seite mit einem deutlich längeren Kontext als die Seite zum Ausprobieren. Ollama empfiehlt für Agenten ausdrücklich einen großen Kontext, stellt ihn von sich aus aber erst bei sehr viel Grafikspeicher so groß ein. Was nicht mehr hineinpasst, sieht das Modell nicht. Der Kontext belegt außerdem Speicher, und der fehlt dann dem Modell selbst; manches Modell, das zum Ausprobieren flüssig läuft, passt hier nicht mehr.

Agenten-Programme wie OpenClaw und Hermes Agent vergleicht der Ratgeber KI-Agenten mit lokalem Modell; dort steht auch, wie Sie den Kontext von Hand einstellen. Wenn Sie nicht wissen, wie viel Speicher Ihr Gerät hat, hilft die Anleitung Welches Gerät habe ich?