Geheugen bij elke precisie
| Versie | Gewichten | Met context | Kleinste Mac |
|---|---|---|---|
| 8 bits | 595 GB | 643 GB | meer dan elke Mac |
| 6 bits | 455 GB | 491 GB | meer dan elke Mac |
| 4 bits | 315 GB | 340 GB | 512 GB |
| 3 bits lagere kwaliteit | 245 GB | 265 GB | 512 GB |
| 2 bits lagere kwaliteit | 175 GB | 189 GB | 256 GB |
Op elke Apple-chip
Per chip de kleinste geheugengrootte die Ling 3.1 Flash draait, de beste versie die erin past en de schrijfsnelheid die je kunt verwachten.
| Chip | Nodig | Versie | Tokens/s |
|---|---|---|---|
| M6 | geen grootte past | Te groot | – |
| M5 Ultra | 512 GB | 4 bits Draait goed | 38–68 |
| M5 Max | geen grootte past | Te groot | – |
| M5 Pro | geen grootte past | Te groot | – |
| M5 | geen grootte past | Te groot | – |
| M4 Max | geen grootte past | Te groot | – |
| M4 Pro | geen grootte past | Te groot | – |
| M4 | geen grootte past | Te groot | – |
| M3 Ultra | 512 GB | 4 bits Draait goed | 26–46 |
| M3 Max | geen grootte past | Te groot | – |
| M3 Pro | geen grootte past | Te groot | – |
| M3 | geen grootte past | Te groot | – |
| M2 Ultra | geen grootte past | Te groot | – |
| M2 Max | geen grootte past | Te groot | – |
| M2 Pro | geen grootte past | Te groot | – |
| M2 | geen grootte past | Te groot | – |
| M1 Ultra | geen grootte past | Te groot | – |
| M1 Max | geen grootte past | Te groot | – |
| M1 Pro | geen grootte past | Te groot | – |
| M1 | geen grootte past | Te groot | – |
Zo draai je het
- In Terminal, met Apples MLX: Er is nog geen MLX-build, en de gewone mlx-lm kan de officiële gewichten nog niet omzetten (bailing_moe_v3.py).
Stap voor stap: LLM's downloaden en draaien op een Mac · zo gebruik je MLX Harness · MLX vs Ollama vs llama.cpp
Over Ling 3.1 Flash
| Gemaakt door | inclusionAI |
|---|---|
| Parameters | 560B totaal · 25B actief (mixture-of-experts) |
| Context | 256K tokens |
| Licentie | MIT |
| Uitgebracht | 2026-10 |
| Invoer | Tekst |
| Intelligentie | 41,1 op de Artificial Analysis Intelligence Index |
| Gewichten | inclusionAI/Ling-3.1-flash |
Vragen
- Hoeveel geheugen heeft Ling 3.1 Flash nodig?
- Ongeveer 315 GB aan gewichten op 4 bits, plus ruimte voor de context: 340 GB in totaal. Op een Mac betekent dat 512 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.
- Hoe snel is Ling 3.1 Flash op een Mac?
- De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 512 GB, met ongeveer 38–68 tokens per seconde (4 bits). De kleinste Mac die het draait, met 512 GB, haalt ongeveer 38–68 op een M5 Ultra.
- Waarom draait Ling 3.1 Flash sneller dan je op basis van de grootte zou verwachten?
- Het is een mixture-of-expertsmodel: het houdt 560B parameters in het geheugen, maar leest per token maar 25B, dus het schrijft zo snel als een veel kleiner model.
Vergelijkbare modellen
Voor je modelkaart of README
Toont de kleinste Mac die Ling 3.1 Flash goed draait en linkt naar deze pagina.
[](https://mlx.app/run/ling-3.1-flash)Zo is het berekend
Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.
Open data: mlx.app/data (JSON, CSV)