Memory sa bawat precision
| Bersyon | Weights | Kasama ang context | Pinakamaliit na Mac |
|---|---|---|---|
| 8-bit | 595 GB | 643 GB | higit sa anumang Mac |
| 6-bit | 455 GB | 491 GB | higit sa anumang Mac |
| 4-bit | 315 GB | 340 GB | 512 GB |
| 3-bit mas mababang kalidad | 245 GB | 265 GB | 512 GB |
| 2-bit mas mababang kalidad | 175 GB | 189 GB | 256 GB |
Sa bawat Apple chip
Ang pinakamaliit na memory size ng bawat chip na kaya ang Ling 3.1 Flash, ang pinakamagandang bersyong kasya rito, at ang bilis ng pagsusulat na maaasahan mo.
| Chip | Kailangan | Bersyon | Token/s |
|---|---|---|---|
| M6 | walang kasyang size | Masyadong malaki | – |
| M5 Ultra | 512 GB | 4-bit Maayos | 38–68 |
| M5 Max | walang kasyang size | Masyadong malaki | – |
| M5 Pro | walang kasyang size | Masyadong malaki | – |
| M5 | walang kasyang size | Masyadong malaki | – |
| M4 Max | walang kasyang size | Masyadong malaki | – |
| M4 Pro | walang kasyang size | Masyadong malaki | – |
| M4 | walang kasyang size | Masyadong malaki | – |
| M3 Ultra | 512 GB | 4-bit Maayos | 26–46 |
| M3 Max | walang kasyang size | Masyadong malaki | – |
| M3 Pro | walang kasyang size | Masyadong malaki | – |
| M3 | walang kasyang size | Masyadong malaki | – |
| M2 Ultra | walang kasyang size | Masyadong malaki | – |
| M2 Max | walang kasyang size | Masyadong malaki | – |
| M2 Pro | walang kasyang size | Masyadong malaki | – |
| M2 | walang kasyang size | Masyadong malaki | – |
| M1 Ultra | walang kasyang size | Masyadong malaki | – |
| M1 Max | walang kasyang size | Masyadong malaki | – |
| M1 Pro | walang kasyang size | Masyadong malaki | – |
| M1 | walang kasyang size | Masyadong malaki | – |
Paano ito patakbuhin
- Sa Terminal gamit ang MLX ng Apple: Wala pang MLX build, at hindi pa kayang i-convert ng karaniwang mlx-lm ang opisyal na weights (bailing_moe_v3.py).
Hakbang-hakbang: mag-download at magpatakbo ng LLM sa Mac · paano gamitin ang MLX Harness · MLX vs Ollama vs llama.cpp
Tungkol sa Ling 3.1 Flash
| Gawa ng | inclusionAI |
|---|---|
| Mga parameter | 560B kabuuan · 25B aktibo (mixture of experts) |
| Context | 256K token |
| Lisensya | MIT |
| Inilabas | 2026-10 |
| Input | Text |
| Intelligence | 41.1 sa Artificial Analysis Intelligence Index |
| Weights | inclusionAI/Ling-3.1-flash |
Mga tanong
- Gaano karaming memory ang kailangan ng Ling 3.1 Flash?
- Mga 315 GB ng weights sa 4-bit, dagdag ang espasyo para sa context: 340 GB lahat-lahat. Sa Mac, ibig sabihin nito ay 512 GB na unified memory o higit pa, dahil bilang default, mga 75% nito ang ipinapagamit ng macOS sa GPU.
- Gaano kabilis ang Ling 3.1 Flash sa Mac?
- Nakadepende sa memory bandwidth ang bilis ng pagsusulat. Ang pinakamabilis na Mac para dito ay M5 Ultra na may 512 GB, sa mga 38–68 token bawat segundo (4-bit). Ang pinakamaliit na Mac na kaya ito, na may 512 GB, ay umaabot sa mga 38–68 sa M5 Ultra.
- Bakit mas mabilis ang Ling 3.1 Flash kaysa sa inaasahan sa laki nito?
- Isa itong mixture-of-experts na model: may 560B na parameter ito sa memory pero 25B lang ang binabasa nito sa bawat token, kaya nagsusulat ito sa bilis ng mas maliit na model.
Mga katulad na model
Para sa model card o README mo
Ipinapakita ang pinakamaliit na Mac na maayos na nagpapatakbo ng Ling 3.1 Flash at nagli-link dito.
[](https://mlx.app/run/ling-3.1-flash)Paano ito kinuwenta
Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.
Open data: mlx.app/data (JSON, CSV)