Laguna XS 2.1
Laguna XS 2.1 braucht mit der Variante Q4_K_M rund 24,9 GB Speicher und läuft auf 138 von 527 geführten Geräten flüssig.
Mit dem wenigsten Speicher schafft es: Apple MacBook Pro 16 Zoll (2026), M5 Max mit 40-Kern-GPU, 48 GB.
Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
- Anbieter
- poolside
- Parameter
- 33,4 Mrd., davon 3 Mrd. aktiv
- Längster Kontext
- 262.144 Token
- Lizenz
- openmdw-1.1
So starten Sie es mit Ollama:
$ ollama run hf.co/poolside/Laguna-XS-2.1-GGUF:Q4_K_MGeräte, auf denen es flüssig läuft
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
und 128 weitere
Grafikkarten, in die es ganz passt
| Grafikkarte | Urteil | Tempo | Speicher |
|---|---|---|---|
| NVIDIA GeForce RTX 5090, 32 GB | Läuft gut | 180 bis 269 Token/s | 32 GB davon 31,2 GB nutzbar |
| NVIDIA RTX PRO 4500 Blackwell, 32 GB | Läuft gut | 113 bis 169 Token/s | 32 GB davon 31,2 GB nutzbar |
| AMD Radeon AI PRO R9700, 32 GB | Läuft gut | 101 bis 176 Token/s * | 32 GB davon 31,2 GB nutzbar |
| AMD Radeon PRO W7800, 32 GB | Läuft gut | 91 bis 158 Token/s * | 32 GB davon 31,2 GB nutzbar |
| NVIDIA RTX 5000 Ada Generation, 32 GB | Läuft gut | 80 bis 119 Token/s | 32 GB davon 31,2 GB nutzbar |
| NVIDIA RTX PRO 5000 Blackwell, 48 GB | Läuft gut | 150 bis 225 Token/s | 48 GB davon 47,2 GB nutzbar |
| AMD Radeon PRO W7900, 48 GB | Läuft gut | 132 bis 231 Token/s * | 48 GB davon 47,2 GB nutzbar |
| NVIDIA RTX 6000 Ada Generation, 48 GB | Läuft gut | 119 bis 178 Token/s | 48 GB davon 47,2 GB nutzbar |
| NVIDIA RTX A6000, 48 GB | Läuft gut | 100 bis 150 Token/s | 48 GB davon 47,2 GB nutzbar |
| NVIDIA RTX PRO 6000 Blackwell, 96 GB | Läuft gut | 180 bis 269 Token/s | 96 GB davon 95,2 GB nutzbar |
Alle Geräte und Grafikkarten für Laguna XS 2.1
Varianten
| Variante | Datei | Speicherbedarf | Startbefehl |
|---|---|---|---|
| Q4_K_M | 20,3 GB | 24,9 GB | ollama run hf.co/poolside/Laguna-XS-2.1-GGUF:Q4_K_M |
| BF16 | 66,9 GB | 72,5 GB | ollama run hf.co/poolside/Laguna-XS-2.1-GGUF:BF16 |