Framework Desktop für lokale KI
Der Framework Desktop mit AMD Ryzen AI Max und 32 bis 128 GB gemeinsamem Speicher: welche KI-Modelle darauf flüssig laufen, bis hin zu Qwen3.5 122B.
Im Katalog steht von Framework der Framework Desktop in drei Ausstattungen: mit Ryzen AI Max 385 und 32 GB sowie mit Ryzen AI Max+ 395 und 64 oder 128 GB. Prozessor und Grafik teilen sich den Speicher; davon rechnen wir drei Viertel als nutzbar, also 24, 48 oder 96 GB. Der Speicher ist fest verlötet, die Ausstattung beim Kauf entscheidet also, welche Modelle später laufen.
Mit 32 GB läuft Gemma 4 31B flüssig, Qwen3.6 35B A3B passt nicht mehr hinein. Mit 64 GB passt auch Llama 3.3 70B, läuft aber nur eingeschränkt, bei rund 5 Token je Sekunde. Erst 128 GB tragen gpt-oss 120B und Qwen3.5 122B A10B flüssig; gpt-oss 120B läuft auf 1 von 3 Ausstattungen. Zum Vergleich: Die größte Spielegrafikkarte, die GeForce RTX 5090, hat 32 GB.
Welche Ausstattung mit gemeinsamem Speicher wofür reicht, zeigt die Übersicht aller Geräte.
Geräte
Die Tempowerte sind berechnet, nicht auf dem Gerät gemessen, und an veröffentlichten und eigenen Messungen abgeglichen. Ausgenommen sind die mit * markierten Werte: sie sind nicht abgeglichen und deshalb unsicher.