LFM2.5 8B A1B
LFM2.5 8B A1B braucht mit der Variante Q4_K_M rund 6,9 GB Speicher und läuft auf 509 von 527 geführten Geräten flüssig.
Mit dem wenigsten Speicher schafft es: Lenovo ThinkPad P1 16 Zoll (2025), RTX PRO 1000 Blackwell Laptop GPU, 32 GB.
Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
- Anbieter
- Liquid AI
- Parameter
- 8,5 Mrd., davon 1,5 Mrd. aktiv
- Längster Kontext
- 128.000 Token
- Lizenz
- other
So starten Sie es mit Ollama:
$ ollama run hf.co/LiquidAI/LFM2.5-8B-A1B-GGUF:Q4_K_MGeräte, auf denen es flüssig läuft
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
und 499 weitere
Grafikkarten, in die es ganz passt
| Grafikkarte | Urteil | Tempo | Speicher |
|---|---|---|---|
| NVIDIA GeForce RTX 3070 Ti, 8 GB | Läuft gut | 206 bis 309 Token/s | 8 GB davon 7,2 GB nutzbar |
| NVIDIA GeForce RTX 5060, 8 GB | Läuft gut | 162 bis 243 Token/s | 8 GB davon 7,2 GB nutzbar |
| NVIDIA GeForce RTX 5060 Ti, 8 GB | Läuft gut | 162 bis 243 Token/s | 8 GB davon 7,2 GB nutzbar |
| NVIDIA GeForce RTX 3060 Ti, 8 GB | Läuft gut | 162 bis 243 Token/s | 8 GB davon 7,2 GB nutzbar |
| NVIDIA GeForce RTX 3070, 8 GB | Läuft gut | 162 bis 243 Token/s | 8 GB davon 7,2 GB nutzbar |
| AMD Radeon RX 9060 XT, 8 GB | Läuft gut | 135 bis 235 Token/s * | 8 GB davon 7,2 GB nutzbar |
| NVIDIA GeForce RTX 4060 Ti, 8 GB | Läuft gut | 111 bis 167 Token/s | 8 GB davon 7,2 GB nutzbar |
| NVIDIA GeForce RTX 4060, 8 GB | Läuft gut | 106 bis 159 Token/s | 8 GB davon 7,2 GB nutzbar |
| NVIDIA GeForce RTX 3080, 10 GB | Läuft gut | 244 bis 365 Token/s | 10 GB davon 9,2 GB nutzbar |
| Intel Arc B570, 10 GB | Läuft gut | 158 bis 275 Token/s * | 10 GB davon 9,2 GB nutzbar |
und 50 weitere
Alle Geräte und Grafikkarten für LFM2.5 8B A1B
Varianten
| Variante | Datei | Speicherbedarf | Startbefehl |
|---|---|---|---|
| Q4_0 | 4,8 GB | 6,6 GB | ollama run hf.co/LiquidAI/LFM2.5-8B-A1B-GGUF:Q4_0 |
| Q4_K_M | 5,2 GB | 6,9 GB | ollama run hf.co/LiquidAI/LFM2.5-8B-A1B-GGUF:Q4_K_M |
| Q5_K_M | 6,0 GB | 7,8 GB | ollama run hf.co/LiquidAI/LFM2.5-8B-A1B-GGUF:Q5_K_M |
| Q6_K | 7,0 GB | 8,8 GB | ollama run hf.co/LiquidAI/LFM2.5-8B-A1B-GGUF:Q6_K |
| Q8_0 | 9,0 GB | 10,9 GB | ollama run hf.co/LiquidAI/LFM2.5-8B-A1B-GGUF:Q8_0 |
| BF16 | 16,9 GB | 19,0 GB | ollama run hf.co/LiquidAI/LFM2.5-8B-A1B-GGUF:BF16 |
| F16 | 16,9 GB | 19,0 GB | ollama run hf.co/LiquidAI/LFM2.5-8B-A1B-GGUF:F16 |