Gaano karaming memory ang kailangan ng GLM-4.5 Air?

Mga 59.6 GB ng weights sa 4-bit, dagdag ang espasyo para sa context: 64.4 GB lahat-lahat. Sa Mac, ibig sabihin nito ay 96 GB na unified memory o higit pa, dahil bilang default, mga 75% nito ang ipinapagamit ng macOS sa GPU.

Gaano kabilis ang GLM-4.5 Air sa Mac?

Nakadepende sa memory bandwidth ang bilis ng pagsusulat. Ang pinakamabilis na Mac para dito ay M5 Ultra na may 96 GB, sa mga 79–141 token bawat segundo (4-bit). Ang pinakamaliit na Mac na kaya ito, na may 96 GB, ay umaabot sa mga 79–141 sa M5 Ultra.

Bakit mas mabilis ang GLM-4.5 Air kaysa sa inaasahan sa laki nito?

Isa itong mixture-of-experts na model: may 106B na parameter ito sa memory pero 12B lang ang binabasa nito sa bawat token, kaya nagsusulat ito sa bilis ng mas maliit na model.

Kaya ba ng Mac ang GLM-4.5 Air? Memory at bilis

Memory sa bawat precision

Bersyon	Weights	Kasama ang context	Pinakamaliit na Mac
8-bit	113 GB	122 GB	192 GB
6-bit	86.1 GB	93 GB	128 GB
4-bit	59.6 GB	64.4 GB	96 GB
3-bit mas mababang kalidad	46.4 GB	50.1 GB	96 GB
2-bit mas mababang kalidad	33.1 GB	35.7 GB	48 GB

Sa bawat Apple chip

Ang pinakamaliit na memory size ng bawat chip na kaya ang GLM-4.5 Air, ang pinakamagandang bersyong kasya rito, at ang bilis ng pagsusulat na maaasahan mo.

Chip	Kailangan	Bersyon	Token/s
M6	walang kasyang size	Masyadong malaki	–
M5 Ultra	96 GB	4-bit Maayos	79–141
M5 Max	128 GB	6-bit Maayos	28–50
M5 Pro	48 GB	2-bit Maayos	36–65
M5	walang kasyang size	Masyadong malaki	–
M4 Max	128 GB	6-bit Maayos	25–45
M4 Pro	48 GB	2-bit Maayos	32–57
M4	walang kasyang size	Masyadong malaki	–
M3 Ultra	96 GB	4-bit Maayos	54–96
M3 Max	96 GB	4-bit Maayos	20–35
M3 Pro	walang kasyang size	Masyadong malaki	–
M3	walang kasyang size	Masyadong malaki	–
M2 Ultra	128 GB	6-bit Maayos	37–65
M2 Max	96 GB	4-bit Maayos	26–47
M2 Pro	walang kasyang size	Masyadong malaki	–
M2	walang kasyang size	Masyadong malaki	–
M1 Ultra	128 GB	6-bit Maayos	37–65
M1 Max	64 GB	2-bit Maayos	47–84
M1 Pro	walang kasyang size	Masyadong malaki	–
M1	walang kasyang size	Masyadong malaki	–

Paano ito patakbuhin

Ang madaling paraan: i-download ang MLX Harness, libre at open source. Hanapin ang GLM-4.5 Air, i-download ang bersyong kasya sa Mac mo, at mag-chat. Ibinibigay rin nito ang model sa iba mo pang app sa pamamagitan ng API na compatible sa OpenAI.I-download ang MLX HarnessLibre · Apple Silicon · macOS 14.5 o mas bago
Sa Terminal gamit ang MLX ng Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.5-Air-4bitBuild: mlx-community/GLM-4.5-Air-4bit sa Hugging Face. Katabi nito ang ibang precision.

Hakbang-hakbang: mag-download at magpatakbo ng LLM sa Mac · paano gamitin ang MLX Harness · MLX vs Ollama vs llama.cpp

Tungkol sa GLM-4.5 Air

Gawa ng	Z.ai (Zhipu)
Mga parameter	106B kabuuan · 12B aktibo (mixture of experts)
Context	128K token
Lisensya	MIT
Inilabas	2025-07
Input	Text
Weights	zai-org/GLM-4.5-Air

Mga tanong

Gaano karaming memory ang kailangan ng GLM-4.5 Air?: Mga 59.6 GB ng weights sa 4-bit, dagdag ang espasyo para sa context: 64.4 GB lahat-lahat. Sa Mac, ibig sabihin nito ay 96 GB na unified memory o higit pa, dahil bilang default, mga 75% nito ang ipinapagamit ng macOS sa GPU.
Gaano kabilis ang GLM-4.5 Air sa Mac?: Nakadepende sa memory bandwidth ang bilis ng pagsusulat. Ang pinakamabilis na Mac para dito ay M5 Ultra na may 96 GB, sa mga 79–141 token bawat segundo (4-bit). Ang pinakamaliit na Mac na kaya ito, na may 96 GB, ay umaabot sa mga 79–141 sa M5 Ultra.
Bakit mas mabilis ang GLM-4.5 Air kaysa sa inaasahan sa laki nito?: Isa itong mixture-of-experts na model: may 106B na parameter ito sa memory pero 12B lang ang binabasa nito sa bawat token, kaya nagsusulat ito sa bilis ng mas maliit na model.

Mga katulad na model

Bawat model · Bawat Mac · Ihambing ang Mac mo

Para sa model card o README mo

Ipinapakita ang pinakamaliit na Mac na maayos na nagpapatakbo ng GLM-4.5 Air at nagli-link dito.

[![Runs on a Mac](https://mlx.app/badge/run/glm-4.5-air.svg)](https://mlx.app/run/glm-4.5-air)

Paano ito kinuwenta

Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.