KI auf dem eigenen PC installieren: Reicht Ihr Rechner, oder müssen Sie etwas kaufen?

Zum Ausprobieren brauchen Sie in aller Regel keinen neuen Rechner und keine einzige Zeile im Terminal. Es gibt kostenlose Programme mit Oberfläche, die Sie installieren wie einen Browser, und kleinere Sprachmodelle laufen auch auf gewöhnlichen Notebooks.

Ob ein Modell auf Ihren Rechner passt, entscheidet der Speicher, den er ihm geben kann; wie flüssig es antwortet, vor allem die Geschwindigkeit dieses Speichers.

1Wie viel Speicher Ihr Rechner für ein Modell hergibt

Ein Sprachmodell wird zum Arbeiten in den Speicher geladen, und damit es zügig rechnet, muss es dort ganz hineinpassen. Wie viel Speicher bei Ihnen dafür frei ist, hängt von der Bauart ab, und welche.ai rechnet so:

• Mac mit Apple-Chip: bis 36 GB Arbeitsspeicher zwei Drittel davon, darüber drei Viertel, weil macOS der Grafik nur einen Teil freigibt.
• Rechner mit eigener Grafikkarte: der Grafikspeicher der Karte, abzüglich 0,8 GB.
• Rechner, deren eingebaute Grafik als KI-Beschleuniger zählt, etwa mit AMD Ryzen AI Max oder NVIDIA GB10: drei Viertel des Arbeitsspeichers, sofern der Hersteller keine feste Zuteilung nennt.
• Übrige Rechner ohne eigene Grafikkarte, also die meisten Büro-Notebooks, auch mit eingebauter Grafik: der Arbeitsspeicher abzüglich 6 GB für Betriebssystem und geöffnete Programme. Die eingebaute Grafik zählt dabei nicht mit.

Die Herleitung steht auf der Seite Methodik. Wo Sie Arbeitsspeicher und Grafikkarte auf Ihrem Gerät nachsehen, zeigt die Anleitung Welches Gerät habe ich? Mit diesen Angaben finden Sie Ihr Gerät in der Suche auf welche.ai; seine Seite nennt unter „Davon für Modelle nutzbar“ die Zahl und im Satz „Die Grenze dieses Geräts“ das größte Modell, das noch flüssig läuft.

2Was mit 8 und 16 GB läuft

Vier Geräte aus dem Katalog zeigen, wie weit die Spanne reicht. Die letzte Spalte zählt die Sprachmodelle, deren verbreitete Variante bei kurzem Kontext (4.096 Token) in den nutzbaren Speicher passt, von 103 geführten.

Mit 8 GB bleibt es bei kleinen Modellen. Auf dem MacBook Air mit 8 GB läuft nach der Rechnung von welche.ai ein Modell mit gut 5 Milliarden Parametern flüssig, eines mit 7,5 Milliarden passt nicht mehr hinein. LM Studio sagt es ähnlich:

„You may still be able to use LM Studio on 8GB Macs, but stick to smaller models and modest context sizes.“

Auf einem Windows-Notebook mit 8 GB und ohne eigene Grafikkarte bleiben nach Abzug des Systems 2 GB. Das reicht nur für die allerkleinsten Modelle, und LM Studio, Jan und GPT4All empfehlen unter Windows 16 GB.

Mit 16 GB reicht es für mittlere Modelle. Auf dem MacBook Air mit 16 GB läuft ein Modell mit fast 12 Milliarden Parametern knapp flüssig, auf dem ThinkPad ohne Grafikkarte voraussichtlich eines mit 9 Milliarden; der Wert für das ThinkPad ist aus der Speicherbandbreite gerechnet und nicht an Messungen abgeglichen. „Knapp flüssig“ heißt bei welche.ai: In der Mitte der berechneten Spanne schafft das Modell mindestens 10 Token je Sekunde, am unteren Ende weniger. Auf dem ThinkPad bremst eher das Tempo als der Speicher: Ein Modell mit fast 12 Milliarden Parametern passt noch hinein, kommt nach der Rechnung aber nur auf rund 8 Token je Sekunde, und schon das mit 9 Milliarden schafft am unteren Ende nur rund 5.

Für lange Dokumente braucht es mehr. Je mehr Text das Modell auf einmal im Blick behalten soll, desto mehr Speicher kostet das. Für den Einsatzzweck Dokumente auswerten rechnet welche.ai mit 32.768 Token statt 4.096; auf dem Dell mit 8 GB bleiben dann nur noch Modelle mit unter einer Milliarde Parametern.

3Programme mit Oberfläche und was sie kosten

Vier verbreitete Programme laden Modelle über eine Oberfläche herunter und lassen Sie wie in einem Chat schreiben:

Zwei Stellen, an denen Einsteiger hängen bleiben: Die Download-Seite von LM Studio bietet zuerst ein zweites Programm namens „Bionic“ an; das Programm „LM Studio“ steht darunter. Auf der Download-Seite von Ollama stehen oben Befehle; die Anwendung bekommen Sie über „Download manually“.

Auf einem älteren Mac mit Intel-Prozessor läuft Ollama, laut Hersteller dort nur auf dem Prozessor; LM Studio und Jan unterstützen Intel-Macs nicht. Unter Windows auf Intel- und AMD-Prozessoren verlangen LM Studio und Jan den Befehlssatz AVX2; Jan nennt dafür Intel ab 2013 und AMD ab 2015. Unter Linux braucht die Installation meist doch einen Befehl.

LM Studio ist auch im Beruf kostenlos; die bezahlten Tarife des Herstellers gehören zu Bionic und betreffen vor allem Modelle in seiner Cloud. Bei Ollama kostet nur, was in der Cloud des Anbieters läuft, etwa über ein Abo für 20 US-Dollar im Monat. Jan bindet auf Wunsch Cloud-Anbieter über einen eigenen Schlüssel an, und seine Websuche ist ab Werk eingeschaltet. Was über diese Wege läuft, verlässt Ihren Rechner.

4Wann sich ein Kauf lohnt

Erst ausprobieren, dann kaufen. Die Programme kosten nichts, und ein Versuch mit Ihren eigenen Texten zeigt schneller als jede Tabelle, ob ein kleines Modell für Ihre Aufgabe reicht.

Ein Kauf lohnt sich, wenn die Aufgabe nachweislich mehr braucht. Etwa wenn Sie lange Dokumente auswerten wollen und Ihr Gerät dafür nur Kleinstmodelle trägt, oder wenn die Antworten ohne Grafikkarte zu langsam kommen. Wählen Sie dann zuerst das Modell und danach das Gerät, auf dem es läuft. Beim Mac entscheidet der Arbeitsspeicher, nachzulesen im Ratgeber Mac mini für lokale KI; beim PC der Grafikspeicher, nachzulesen unter Grafikkarte für KI. Ob sich das gegenüber einem Abo rechnet, zeigt der Ratgeber ChatGPT-Kosten gegen eigene Hardware.

Das Etikett „KI-PC“ ist kein Kaufgrund. Microsoft beschreibt Copilot+ PCs so:

„Copilot+ PCs sind eine neue Klasse von Windows 11-PCs, die von einem leistungsstarken 40+ TOPS Neuralprozessor (NPU) angetrieben werden.“

Für Copilot+ PCs verlangt Microsoft außerdem mindestens 16 GB Arbeitsspeicher, und das ist für lokale Sprachmodelle der nützliche Teil. Den Neuralprozessor nennen die Programme nicht: LM Studio, Jan und GPT4All nennen in ihren Systemanforderungen Arbeitsspeicher, Prozessor und Grafikkarte, Ollama Prozessor und Grafikkarte; eine NPU nennt keines der vier.

5Der nächste Schritt

Wenn Sie jetzt loslegen wollen: Die Einrichtung Schritt für Schritt steht im Ratgeber KI lokal betreiben, ohne Terminal.

Wenn Sie zwischen den Programmen schwanken: Worin sich die zwei verbreitetsten unterscheiden, vergleicht der Ratgeber Ollama oder LM Studio.

Wenn Sie wissen wollen, was ein lokales Modell kann und was nicht: Das ordnet der Ratgeber Lokale KI ein; was die Kürzel hinter einem Modellnamen bedeuten, erklärt Lokale KI-Modelle.

6Quellen

Alle gelesen am 14. Oktober 2026; die Gerätewerte stammen aus dem Katalog von welche.ai mit demselben Stand.

• LM Studio: Systemanforderungen, kostenlos auch im Beruf
• Ollama: macOS, Preise
• Jan: Installation unter Windows
• GPT4All: Systemanforderungen
• Microsoft: Spezifikationen für Windows 11 und Copilot+ PCs
• OpenAI: gpt-oss-20b, Modellkarte