Memory sa bawat precision
| Bersyon | Weights | Kasama ang context | Pinakamaliit na Mac |
|---|---|---|---|
| 8-bit | 31.9 GB | 34.5 GB | 48 GB |
| 6-bit | 24.4 GB | 26.4 GB | 36 GB |
| 4-bit | 16.9 GB | 18.4 GB | 32 GB |
| 3-bit mas mababang kalidad | 13.1 GB | 14.6 GB | 24 GB |
| 2-bit mas mababang kalidad | 9.4 GB | 10.9 GB | 16 GB |
Sa bawat Apple chip
Ang pinakamaliit na memory size ng bawat chip na kaya ang Granite 4.2 30B, ang pinakamagandang bersyong kasya rito, at ang bilis ng pagsusulat na maaasahan mo.
| Chip | Kailangan | Bersyon | Token/s |
|---|---|---|---|
| M6 | 32 GB | 4-bit Mabagal | 5–8 |
| M5 Ultra | 96 GB | 8-bit Maayos | 17–30 |
| M5 Max | 36 GB | 4-bit Maayos | 12–22 |
| M5 Pro | 48 GB | 8-bit Mabagal | 4–8 |
| M5 | 32 GB | 4-bit Mabagal | 4–7 |
| M4 Max | 36 GB | 4-bit Maayos | 11–19 |
| M4 Pro | 48 GB | 8-bit Mabagal | 4–7 |
| M4 | 32 GB | 4-bit Mabagal | 3–6 |
| M3 Ultra | 96 GB | 8-bit Maayos | 12–21 |
| M3 Max | 36 GB | 6-bit Mabagal | 6–10 |
| M3 Pro | 36 GB | 6-bit Mabagal | 3–5 |
| M3 | 16 GB | 2-bit Mabagal | 5–9 |
| M2 Ultra | 64 GB | 8-bit Maayos | 11–20 |
| M2 Max | 32 GB | 4-bit Maayos | 11–19 |
| M2 Pro | 32 GB | 4-bit Mabagal | 5–9 |
| M2 | 16 GB | 2-bit Mabagal | 5–9 |
| M1 Ultra | 64 GB | 8-bit Maayos | 11–20 |
| M1 Max | 32 GB | 4-bit Maayos | 11–19 |
| M1 Pro | 32 GB | 4-bit Mabagal | 5–9 |
| M1 | 16 GB | 2-bit Mabagal | 3–6 |
Paano ito patakbuhin
- Ang madaling paraan: i-download ang MLX Harness, libre at open source. Hanapin ang Granite 4.2 30B, i-download ang bersyong kasya sa Mac mo, at mag-chat. Ibinibigay rin nito ang model sa iba mo pang app sa pamamagitan ng API na compatible sa OpenAI.I-download ang MLX HarnessLibre · Apple Silicon · macOS 14.5 o mas bago
- Sa Terminal gamit ang MLX ng Apple: Wala pang MLX build mula sa community, kaya gumawa ng isa mula sa opisyal na weights:
pip install mlx-lmmlx_lm.convert --hf-path ibm-granite/granite-4.2-30b -q
Hakbang-hakbang: mag-download at magpatakbo ng LLM sa Mac · paano gamitin ang MLX Harness · MLX vs Ollama vs llama.cpp
Tungkol sa Granite 4.2 30B
| Gawa ng | IBM |
|---|---|
| Mga parameter | 30B (dense) |
| Context | 128K token |
| Lisensya | Apache-2.0 |
| Inilabas | 2026-08 |
| Input | Text |
| Intelligence | 12.7 sa Artificial Analysis Intelligence Index |
| Weights | ibm-granite/granite-4.2-30b |
Mga tanong
- Gaano karaming memory ang kailangan ng Granite 4.2 30B?
- Mga 16.9 GB ng weights sa 4-bit, dagdag ang espasyo para sa context: 18.4 GB lahat-lahat. Sa Mac, ibig sabihin nito ay 32 GB na unified memory o higit pa, dahil bilang default, mga 75% nito ang ipinapagamit ng macOS sa GPU.
- Gaano kabilis ang Granite 4.2 30B sa Mac?
- Nakadepende sa memory bandwidth ang bilis ng pagsusulat. Ang pinakamabilis na Mac para dito ay M5 Ultra na may 96 GB, sa mga 17–30 token bawat segundo (8-bit). Ang pinakamaliit na Mac na kaya ito, na may 32 GB, ay umaabot sa mga 11–19 sa M2 Max.
- Nakakasama ba ang quantization sa Granite 4.2 30B?
- Sa 4 bit, nananatiling malapit sa orihinal na kalidad ang karamihan ng model; sa ilalim ng 4 bit, mas mabilis bumaba ang kalidad. Piliin ang pinakamataas na precision na kasya sa Mac mo nang may sobrang espasyo.
Mga katulad na model
Para sa model card o README mo
Ipinapakita ang pinakamaliit na Mac na maayos na nagpapatakbo ng Granite 4.2 30B at nagli-link dito.
[](https://mlx.app/run/granite-4.2-30b)Paano ito kinuwenta
Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.