Geekom Air12 Lite (2024), N150 mit einem DDR4-3200-Modul, 8 GB

Vergleichen

Ja. Auf diesem Gerät läuft MiniCPM5 1B flüssig, mit rund 11 bis 32 Token pro Sekunde (nicht an Messungen abgeglichen).

Die Grenze dieses Geräts: MiniCPM5 1B läuft noch, Spark-X2.5 1.7B nicht mehr. Dafür fehlen 0,1 GB nutzbarer Speicher.

Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Ohne eigene Grafikkarte rechnen wir mit Prozessor und Arbeitsspeicher, die eingebaute Grafik zählt nicht mit. Die Tempowerte sind aus der Speicherbandbreite gerechnet, die am Speicherausbau hängt, und nicht an Messungen abgeglichen.

„Läuft“ heißt: das Modell passt und antwortet so schnell wie angegeben. Ob die Antwort stimmt, sagt das nicht. Ein lokales Modell kann sich irren und ist keine Nachschlagequelle; prüfen Sie jede Zusammenfassung und jeden Entwurf gegen das Original, bevor Sie ihn verwenden. Was lokale Modelle gut und schlecht können

Wofür möchten Sie das Gerät nutzen?
Mehr zu diesem Einsatzzweck: Modelle und Geräte nach Preis

Stärkstes Modell, das flüssig läuft

MiniCPM5 1B

Q4_K_M · 11 bis 32 Token/s

Dieses Tempo ist auf diesem Gerät nicht an Messungen abgeglichen und deshalb unsicher.

So starten Sie es mit Ollama:

$ ollama run hf.co/openbmb/MiniCPM5-1B-GGUF:Q4_K_M

Oder mit llama.cpp, mit dem Kontext dieser Seite (lädt das Modell von Hugging Face):

$ llama-server -hf openbmb/MiniCPM5-1B-GGUF:Q4_K_M -c 4096

Modelle auf diesem Gerät

Die Tempowerte sind berechnet, nicht auf dem Gerät gemessen, und an veröffentlichten und eigenen Messungen abgeglichen. Ausgenommen sind die mit * markierten Werte: sie sind nicht abgeglichen und deshalb unsicher.

Mit anderer Kontextlänge rechnen

Die Tabelle oben rechnet mit der Kontextlänge des gewählten Anwendungsfalls. Hier wählen Sie die Länge selbst, etwa 65.536 Token für lange Dokumente oder Agenten. Mehr Kontext braucht mehr Speicher und macht langsamer.

Gerätedaten

Prozessorreihe
N150 mit einem DDR4-3200-Modul
Prozessor
Intel N150
Arbeitsspeicher
8 GB
Davon für Modelle nutzbar
2,0 GB
Speicherbandbreite
25,6 GB/s
Rechenschnittstelle
CPU

Bildmodelle auf diesem Gerät

Ob ein Bildmodell in den Speicher passt, für ein Bild mit 1024 × 1024 Pixeln. Eine Zeit je Bild rechnen wir nicht.

ModellStandardstufeGrößte StufeSpeicher
Qwen-Image-2.1
Qwen Research License
passt nicht (Q4_K)12,1 von 2,0 GB
Qwen-Image-2512
Apache 2.0
passt nicht (Q4_K_M)20,4 von 2,0 GB

Weitere Ratgeber