Lokale KI zum Programmieren

Beim Programmieren liest das Modell ganze Dateien mit. Hier stehen die Modelle, die dafür gebaut sind, und die Geräte, auf denen sie flüssig laufen.

Gerechnet mit 16.384 Token Kontext, der Annahme für diesen Einsatzzweck. Speicherbedarf und Tempo sind berechnet und an veröffentlichten und eigenen Messungen abgeglichen, nicht auf jedem Gerät gemessen. Ausgenommen sind die mit * markierten Werte: sie sind nicht abgeglichen und deshalb unsicher.

Modelle, die der Anbieter dafür nennt

Nur Modelle, deren Modellkarte diesen Zweck ausdrücklich nennt. Das Zitat steht daneben, mit Quelle und Lesedatum; es ist eine Selbstaussage des Anbieters, kein Urteil von uns.

  • Laut Anbieter dafür gebaut

    North Mini Code 1.0

    Cohere

    „North Mini Code is an open weights research release of a 30B-A3B parameter model optimized for code generation, agentic software engineering, and terminal tasks.“

    Quelle: huggingface.co, gelesen am 29. September 2026

    Läuft flüssig auf 351 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter dafür gebaut

    Qwen3-Coder 30B A3B

    Alibaba (Qwen)

    „Significant Performance among open models on Agentic Coding, Agentic Browser-Use, and other foundational coding tasks.“

    Quelle: huggingface.co, gelesen am 21. September 2026

    Läuft flüssig auf 308 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter dafür gebaut

    Laguna XS 2.1

    poolside

    „Laguna XS 2.1 is a 33B total parameter Mixture-of-Experts model with 3B activated parameters per token designed for agentic coding and long-horizon work on a local machine.“

    Quelle: huggingface.co, gelesen am 21. September 2026

    Läuft flüssig auf 318 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter dafür gebaut

    Laguna S 2.1

    poolside

    „Laguna S 2.1 is a 118B total parameter Mixture-of-Experts model with 8B activated parameters per token, designed for agentic coding and long-horizon work.“

    Quelle: huggingface.co, gelesen am 21. September 2026

    Läuft flüssig auf 25 von 891 Geräten bei 16.384 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter geeignet

    MiniCPM5 1B

    OpenBMB

    „It is designed for local assistants, coding agents, tool-use workflows, and reasoning scenarios where a compact model is preferred.“

    Quelle: huggingface.co, gelesen am 5. Oktober 2026

    Läuft flüssig auf 891 von 891 Geräten bei 16.384 Token Kontext · ab 4 GB Speicher

  • Laut Anbieter geeignet

    MiniCPM5 2B

    OpenBMB

    „It is designed for local assistants, coding agents, tool-use workflows, and reasoning scenarios where a compact model is preferred.“

    Quelle: huggingface.co, gelesen am 23. September 2026

    Läuft flüssig auf 879 von 891 Geräten bei 16.384 Token Kontext · ab 4 GB Speicher

  • Laut Anbieter geeignet

    Granite 4.2 3B

    IBM

    „Reasoning, Code Generation, Tool Calling, Agentic Workflows, Multilingual Dialog“

    Quelle: huggingface.co, gelesen am 10. Oktober 2026

    Läuft flüssig auf 846 von 891 Geräten bei 16.384 Token Kontext · ab 6 GB Speicher

  • Laut Anbieter geeignet

    FrogNano-4B-2609

    Microsoft

    „FrogNano is a compact repository-level coding agent derived from Qwen/Qwen3.5-4B.“

    Quelle: huggingface.co, gelesen am 3. Oktober 2026

    Läuft flüssig auf 846 von 891 Geräten bei 16.384 Token Kontext · ab 6 GB Speicher

  • Laut Anbieter geeignet

    Qwen3 4B Instruct 2507

    Alibaba (Qwen)

    „instruction following, logical reasoning, text comprehension, mathematics, science, coding and tool usage“

    Quelle: huggingface.co, gelesen am 8. November 2026

    Läuft flüssig auf 818 von 891 Geräten bei 16.384 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    Ling-3.0-tiny

    inclusionAI

    „It delivers balanced performance across general agent tasks, coding, mathematical and scientific reasoning, and instruction following.“

    Quelle: huggingface.co, gelesen am 12. Oktober 2026

    Läuft flüssig auf 849 von 891 Geräten bei 16.384 Token Kontext · ab 8 GB Speicher

  • Laut Anbieter geeignet

    Ornith 1.5 9B

    Ornith AI

    „Ornith-1.5-9B is optimized for terminal-based coding agents.“

    Quelle: huggingface.co, gelesen am 28. September 2026

    Läuft flüssig auf 576 von 891 Geräten bei 16.384 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Gemma 4 12B

    Google

    „Coding – Code generation, completion, and correction.“

    Quelle: huggingface.co, gelesen am 11. Oktober 2026

    Läuft flüssig auf 542 von 891 Geräten bei 16.384 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Granite 4.2 8B

    IBM

    „Reasoning, Code Generation, Tool Calling, Agentic Workflows, Multilingual Dialog“

    Quelle: huggingface.co, gelesen am 12. Oktober 2026

    Läuft flüssig auf 573 von 891 Geräten bei 16.384 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Ministral 3 8B Reasoning

    Mistral AI

    „This model is the reasoning post-trained version, trained for reasoning tasks, making it ideal for math, coding and stem related use cases.“

    Quelle: huggingface.co, gelesen am 9. November 2026

    Läuft flüssig auf 573 von 891 Geräten bei 16.384 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Mellum2.1 12B A2.5B Thinking

    JetBrains

    „Mellum2.1 is a thinking model. Use it for complex agentic tasks, such as working in a repository, running commands, and calling tools, and for hard non-agentic problems in coding, math, and reasoning.“

    Quelle: huggingface.co, gelesen am 8. Oktober 2026

    Läuft flüssig auf 598 von 891 Geräten bei 16.384 Token Kontext · ab 12 GB Speicher

  • Laut Anbieter geeignet

    Ministral 3 14B Reasoning

    Mistral AI

    „This model is the reasoning post-trained version, trained for reasoning tasks, making it ideal for math, coding and stem related use cases.“

    Quelle: huggingface.co, gelesen am 9. November 2026

    Läuft flüssig auf 390 von 891 Geräten bei 16.384 Token Kontext · ab 16 GB Speicher

  • Laut Anbieter geeignet

    Devstral Small 2 24B

    Mistral AI

    „AI Code Assistants, Agentic Coding, and Software Engineering Tasks. Leveraging advanced AI capabilities for complex tool integration and deep codebase understanding in coding environments.“

    Quelle: huggingface.co, gelesen am 29. Oktober 2026

    Läuft flüssig auf 261 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.8 27B

    Alibaba (Qwen)

    „Built on the architectural foundation of Qwen3.5, Qwen3.8 delivers substantial gains across coding, professional work, research, and long-horizon agentic tasks.“

    Quelle: huggingface.co, gelesen am 28. September 2026

    Läuft flüssig auf 261 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Gemma 4 26B A4B

    Google

    „Enhanced Coding & Agentic Capabilities – Achieves notable improvements in coding benchmarks alongside native function-calling support, powering highly capable autonomous agents.“

    Quelle: huggingface.co, gelesen am 29. September 2026

    Läuft flüssig auf 341 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Salience 27B R6

    vectionlabs

    „Salience 27B is a 27-billion-parameter dense vision-language model built for hard, practical engineering work: writing and debugging real code, repo-scale edits, multi-step terminal agency, and quantitative reasoning — with native vision and 1,048,576 tokens of context.“

    Quelle: huggingface.co, gelesen am 14. Oktober 2026

    Läuft flüssig auf 261 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.6 27B

    Alibaba (Qwen)

    „Agentic Coding: the model now handles frontend workflows and repository-level reasoning with greater fluency and precision.“

    Quelle: huggingface.co, gelesen am 29. September 2026

    Läuft flüssig auf 261 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    AREX-2

    BAAI

    „AREX-2 is trained on machine-learning and algorithmic-programming tasks with verifiable feedback, together with the existing AREX deep-research data.“

    Quelle: huggingface.co, gelesen am 2. Oktober 2026

    Läuft flüssig auf 261 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Qwen3 30B A3B 2507

    Alibaba (Qwen)

    „Significant improvements in general capabilities, including instruction following, logical reasoning, text comprehension, mathematics, science, coding and tool usage.“

    Quelle: huggingface.co, gelesen am 15. Oktober 2026

    Läuft flüssig auf 308 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Gemma 4 31B

    Google

    „Enhanced Coding & Agentic Capabilities – Achieves notable improvements in coding benchmarks alongside native function-calling support, powering highly capable autonomous agents.“

    Quelle: huggingface.co, gelesen am 29. September 2026

    Läuft flüssig auf 242 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    KAT-Coder-V2.5-Dev

    Kwaipilot

    „Through SFT/RL training, KAT-Coder-V2.5-Dev achieves SOTA results in the field of Agentic Coding among models with similar parameter scales.“

    Quelle: huggingface.co, gelesen am 28. September 2026

    Läuft flüssig auf 318 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Granite 4.2 30B

    IBM

    „Reasoning, Code Generation, Tool Calling, Agentic Workflows, Multilingual Dialog“

    Quelle: huggingface.co, gelesen am 23. September 2026

    Läuft flüssig auf 242 von 891 Geräten bei 16.384 Token Kontext · ab 24 GB Speicher

  • Laut Anbieter geeignet

    Apex-35B-V1.0

    Apex Intelligence

    „Covers everyday coding, question answering, search, and agentic tasks, alongside scientific and engineering research workflows.“

    Quelle: huggingface.co, gelesen am 6. November 2026

    Läuft flüssig auf 263 von 891 Geräten bei 16.384 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Occamy-1.0

    Accio-Lab

    „long-horizon, stateful tasks that require coordinated use of search, code, tools, files, structured APIs, and productivity software“

    Quelle: huggingface.co, gelesen am 28. September 2026

    Läuft flüssig auf 263 von 891 Geräten bei 16.384 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    MLExpert

    InternScience

    „It organizes experiments, writes and revises code, and improves solutions through sustained interaction with execution environments.“

    Quelle: huggingface.co, gelesen am 29. Oktober 2026

    Läuft flüssig auf 118 von 891 Geräten bei 16.384 Token Kontext · ab 36 GB Speicher

  • Laut Anbieter geeignet

    Ornith 1.5 35B A3B

    Ornith AI

    „Ornith-1.5-35B-A3B excels in tool-calling and agentic coding.“

    Quelle: huggingface.co, gelesen am 28. September 2026

    Läuft flüssig auf 236 von 891 Geräten bei 16.384 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    BigBang-v1

    The Endless Frontier

    „Despite the modest data scale, BigBang substantially outperforms its base model across scientific research, reasoning, coding, and tool-use benchmarks“

    Quelle: huggingface.co, gelesen am 29. September 2026

    Läuft flüssig auf 236 von 891 Geräten bei 16.384 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Muse Glimmer 30B

    meta-models

    „which measure its ability to work within scaffolds, write and debug code, and resolve multi-turn requests from start to finish.“

    Quelle: huggingface.co, gelesen am 28. September 2026

    Läuft flüssig auf 163 von 891 Geräten bei 16.384 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter geeignet

    Qwen3.6 35B A3B

    Alibaba (Qwen)

    „Built on direct feedback from the community, Qwen3.6 prioritizes stability and real-world utility, offering developers a more intuitive, responsive, and genuinely productive coding experience.“

    Quelle: huggingface.co, gelesen am 11. Oktober 2026

    Läuft flüssig auf 236 von 891 Geräten bei 16.384 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Nex-N2.5 mini

    Nex-AGI

    „The models can operate computers and browsers, as well as autonomously execute and test programs.“

    Quelle: huggingface.co, gelesen am 23. September 2026

    Läuft flüssig auf 236 von 891 Geräten bei 16.384 Token Kontext · ab 32 GB Speicher

  • Laut Anbieter geeignet

    Qwen2.5 32B Instruct

    Alibaba (Qwen)

    „Significantly more knowledge and has greatly improved capabilities in coding and mathematics, thanks to our specialized expert models in these domains.“

    Quelle: huggingface.co, gelesen am 14. Oktober 2026

    Läuft flüssig auf 110 von 891 Geräten bei 16.384 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter geeignet

    Nanbeige4.3-33B

    Nanbeige

    „Delivering state-of-the-art agentic performance among open models in the ~30B parameter class, Nanbeige4.3-33B excels at complex coding and professional cowork tasks.“

    Quelle: huggingface.co, gelesen am 6. November 2026

    Läuft flüssig auf 110 von 891 Geräten bei 16.384 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter geeignet

    Flint

    RecursiveSI

    „It is designed to investigate codebases, fix bugs, implement features, and write tests.“

    Quelle: huggingface.co, gelesen am 6. November 2026

    Läuft flüssig auf 188 von 891 Geräten bei 16.384 Token Kontext · ab 48 GB Speicher

  • Laut Anbieter geeignet

    Qwen3-Coder-Next

    Alibaba (Qwen)

    „an open-weight language model designed specifically for coding agents and local development“

    Quelle: huggingface.co, gelesen am 13. Oktober 2026

    Läuft flüssig auf 97 von 891 Geräten bei 16.384 Token Kontext · ab 64 GB Speicher

  • Laut Anbieter geeignet

    Kolibri 1

    Aleph Alpha

    „Multi-step reasoning, retrieval-augmented generation, agentic tool calling, coding, German- and English-language assistant“

    Quelle: huggingface.co, gelesen am 5. Oktober 2026

    Läuft flüssig auf 97 von 891 Geräten bei 16.384 Token Kontext · ab 64 GB Speicher

  • Laut Anbieter geeignet

    NVIDIA Nemotron 3.5 Super VL 120B A12B

    NVIDIA

    „NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 is the full-precision release of NVIDIA Nemotron 3.5 Super VL, a vision-language model for reasoning, coding, tool use, document understanding, and video understanding.“

    Quelle: huggingface.co, gelesen am 16. Oktober 2026

    Läuft flüssig auf 69 von 891 Geräten bei 16.384 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter geeignet

    Ornith 1.5 122B

    Ornith AI

    „Ornith-1.5-122B is optimized for terminal-based coding agents.“

    Quelle: huggingface.co, gelesen am 21. Oktober 2026

    Läuft flüssig auf 69 von 891 Geräten bei 16.384 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter geeignet

    Ling-3.0-flash

    inclusionAI

    „Tailored for real-world productivity workflows, the model incorporates 10,000+ interactive training environments to achieve end-to-end closed-loop execution across Coding, General, and Deep Research Agent tasks.“

    Quelle: huggingface.co, gelesen am 10. Oktober 2026

    Läuft flüssig auf 69 von 891 Geräten bei 16.384 Token Kontext · ab 128 GB Speicher

  • Laut Anbieter geeignet

    Devstral 2 123B

    Mistral AI

    „AI Code Assistants, Agentic Coding, and Software Engineering Tasks. Leveraging advanced AI capabilities for complex tool integration and deep codebase understanding in coding environments.“

    Quelle: huggingface.co, gelesen am 29. Oktober 2026

    Läuft flüssig auf 7 von 891 Geräten bei 16.384 Token Kontext · ab 748 GB Speicher

  • Laut Anbieter geeignet

    Nex-N2.6

    Nex-AGI

    „It is designed for computer use, coding, and long-horizon tasks involving tools.“

    Quelle: huggingface.co, gelesen am 16. November 2026

    Läuft flüssig auf 7 von 891 Geräten bei 16.384 Token Kontext · ab 748 GB Speicher

  • Laut Anbieter geeignet

    MiniMax-M2.7

    MiniMax

    Nur für nicht-kommerzielle Zwecke: Die Lizenz (eigene Lizenz des Anbieters) schließt den geschäftlichen Einsatz aus.

    „M2.7 delivers outstanding real-world programming capabilities spanning log analysis, bug troubleshooting, refactoring, code security, and machine learning.“

    Quelle: huggingface.co, gelesen am 6. November 2026

    Läuft flüssig auf 8 von 891 Geräten bei 16.384 Token Kontext · ab 512 GB Speicher

  • Laut Anbieter geeignet

    Ornith 1.5 397B

    Ornith AI

    „Ornith-1.5-397B is optimized for terminal-based coding agents.“

    Quelle: huggingface.co, gelesen am 11. Oktober 2026

    Läuft flüssig auf 9 von 891 Geräten bei 16.384 Token Kontext · ab 512 GB Speicher

  • Laut Anbieter geeignet

    Nex-N2.5 Pro

    Nex-AGI

    „The models can operate computers and browsers, as well as autonomously execute and test programs.“

    Quelle: huggingface.co, gelesen am 23. September 2026

    Läuft flüssig auf 2 von 891 Geräten bei 16.384 Token Kontext · ab 512 GB Speicher

  • Laut Anbieter geeignet

    Inkling Small

    Thinking Machines

    „The model is designed to be used by developers building AI-powered applications, including agentic and tool-use systems, coding assistants, chatbots, and retrieval-augmented generation systems, and is suitable for general-purpose conversational use, instruction-following, and other natural language and multimodal tasks.“

    Quelle: huggingface.co, gelesen am 21. September 2026

    Läuft auf keinem geführten Gerät flüssig

  • Laut Anbieter geeignet

    Ling-3.1-flash

    inclusionAI

    „With stronger real-world capabilities, Ling-3.1-flash shows improvements across a range of real-world tasks, including general-purpose agents, search, office productivity, and software engineering.“

    Quelle: huggingface.co, gelesen am 17. Oktober 2026

    Läuft flüssig auf 2 von 891 Geräten bei 16.384 Token Kontext · ab 512 GB Speicher

  • Laut Anbieter geeignet

    Beam 1.0 501B A23B

    Reflection

    „Resolves real-world GitHub issues, operates in CLI and DevOps environments, and integrates directly with agentic coding harnesses. Code generation supported across languages.“

    Quelle: huggingface.co, gelesen am 17. Oktober 2026

    Läuft auf keinem geführten Gerät flüssig

  • Laut Anbieter geeignet

    Mistral Large 4 1T A52B

    Mistral AI

    „Mistral Large 4 delivers frontier coding performance with significantly fewer tokens, making sophisticated coding agents more economical to run at scale.“

    Quelle: huggingface.co, gelesen am 29. Oktober 2026

    Läuft auf keinem geführten Gerät flüssig

  • Laut Anbieter geeignet

    GLM-5.3

    Z.ai

    „GLM-5.3 is the most capable open-weights model for coding, with a 50% improvement over GLM-5.2 on our in-house Z.ai Code Bench.“

    Quelle: huggingface.co, gelesen am 23. September 2026

    Läuft auf keinem geführten Gerät flüssig

  • Laut Anbieter geeignet

    Muse Spark Open 816B-A42B

    meta-models

    „Meta trained Muse Spark Open for agentic coding: reading a codebase, writing and debugging code, and calling tools.“

    Quelle: huggingface.co, gelesen am 16. Oktober 2026

    Läuft auf keinem geführten Gerät flüssig

  • Laut Anbieter geeignet

    Inkling

    Thinking Machines

    „The model is designed to be used by developers building AI-powered applications, including agentic and tool-use systems, coding assistants, chatbots, and retrieval-augmented generation systems, and is suitable for general-purpose conversational use, instruction-following, and other natural language and multimodal tasks.“

    Quelle: huggingface.co, gelesen am 21. September 2026

    Läuft auf keinem geführten Gerät flüssig

Alle Modelle für diesen Einsatzzweck

Zuerst die vom Anbieter für den Zweck genannten Modelle. Dann alle anderen: zuerst die, die auf mindestens einem Gerät flüssig laufen, die größten oben; am Ende die, die auf keinem Gerät flüssig laufen. Größe heißt hier: Zahl der Parameter, bei Mixture-of-Experts-Modellen ein Mittel aus allen und den aktiven Parametern. Größe ist dabei kein Urteil über die Eignung für den Zweck. „Ab Speicher“ ist der kleinste Arbeits- bzw. Grafikspeicher, auf dem das Modell flüssig läuft.

Was Ihr Budget schafft

Je Preisgrenze das größte Modell, das bei 16.384 Token Kontext flüssig läuft, und das günstigste Gerät dafür. Vorrang hat ein Modell, das laut Anbieter für diesen Zweck gebaut ist; sonst zählt nur die Größe, kein Urteil über die Eignung für den Zweck. Größe heißt hier: Zahl der Parameter, bei Mixture-of-Experts-Modellen ein Mittel aus allen und den aktiven Parametern. Gezählt sind nur Geräte, für die ein Händler gerade einen Preis meldet. Die Preise stammen aus den Produktdaten der Händler; auf den Geräteseiten stehen die Angebote als Partnerlinks. Kaufen Sie über einen davon, erhalten wir eine Provision. Der Preis für Sie bleibt gleich, und die Einstufungen hängen nicht davon ab.

In der Liste darunter grenzen „Preis“ und „Gerätetyp“ die Geräte ein; die Spalte „Stationär“ fasst Mini-PC, Schreibtischrechner und Arbeitsstation zusammen.

Geräte nach Preis

Geräte mit aktuellem Angebot aus den Händler-Feeds, günstigstes zuerst, mit dem größten Modell, das darauf flüssig läuft. Größe heißt hier: Zahl der Parameter, bei Mixture-of-Experts-Modellen ein Mittel aus allen und den aktiven Parametern. Die Angebote selbst stehen als Partnerlinks auf der Geräteseite; kaufen Sie über einen davon, erhalten wir eine Provision, die Einstufung hängt nicht davon ab.

Mehr zu diesem Einsatzzweck

Beim Programmieren liest ein Modell nicht nur Ihre Frage, sondern ganze Dateien, Fehlermeldungen und oft mehrere Quelltexte auf einmal. Diese Seite rechnet deshalb mit einem deutlich längeren Kontext als die Seite zum Ausprobieren, und das hat eine Folge: Es passen weniger Modelle auf dasselbe Gerät. Der Kontext belegt Speicher, und dieser Speicher fehlt dann dem Modell selbst.

Die Abschnitte oben zeigen zuerst die Modelle, deren Modellkarte Code als Zweck nennt, dann alle Modelle mit der Zahl der Geräte, auf denen sie mit diesem Kontext flüssig laufen, und die Geräte mit aktuellem Angebot, nach Preis sortiert.

Für die Wahl zählt beim Programmieren neben dem Speicher das Tempo. Ein Modell, das Vorschläge zeilenweise liefert, muss schneller antworten als eines, das einen Brief schreibt. Modelle der Bauart Mixture of Experts rechnen je Textstück nur mit einem Teil ihrer Parameter und antworten deshalb auf derselben Hardware meist deutlich schneller als dichte Modelle ähnlicher Größe; warum das so ist, erklärt der Ratgeber gpt-oss. Wie Sie den Speicher Ihres Geräts richtig lesen, steht im Ratgeber Lokale KI-Modelle; ob Ihr Gerät reicht, zeigt seine Seite im Katalog unter dem Anwendungsfall Programmieren.

Gerechnet ist hier mit 16.384 Token Kontext, der Annahme für den Chat über Ihren Code. Ein Programmier-Agent, der selbst Dateien öffnet, Befehle ausführt und deren Ausgaben liest, braucht mehr: Ollama nennt in seiner Anleitung zur Kontextlänge für solche Werkzeuge mindestens 64.000 Token. Mit 65.536 Token rechnet die Seite Lokale KI für Agenten und automatisierte Abläufe. Welche Agenten-Werkzeuge mit einem lokalen Modell arbeiten, zeigt der Ratgeber KI-Agenten mit lokalem Modell.