Berapakah memori yang diperlukan oleh GLM-4.5 Air?

Kira-kira 59.6 GB pemberat pada 4-bit, serta ruang untuk konteks: 64.4 GB kesemuanya. Pada Mac, ini bermakna 96 GB memori bersatu atau lebih, kerana secara lalai macOS membenarkan GPU menggunakan kira-kira 75% daripadanya.

Sepantas mana GLM-4.5 Air pada Mac?

Kelajuan menulis bergantung pada lebar jalur memori. Mac terpantas untuknya di sini ialah M5 Ultra dengan 96 GB, kira-kira 79–141 token sesaat (4-bit). Mac terkecil yang menjalankannya, dengan 96 GB, mencapai kira-kira 79–141 pada M5 Ultra.

Mengapakah GLM-4.5 Air berjalan lebih pantas daripada saiznya?

Ia model mixture-of-experts: ia menyimpan 106B parameter dalam memori tetapi hanya membaca 12B bagi setiap token, jadi ia menulis sepantas model yang jauh lebih kecil.

Bolehkah Mac jalankan GLM-4.5 Air? RAM, kelajuan

Memori pada setiap kepersisan

Versi	Pemberat	Dengan konteks	Mac terkecil
8-bit	113 GB	122 GB	192 GB
6-bit	86.1 GB	93 GB	128 GB
4-bit	59.6 GB	64.4 GB	96 GB
3-bit kualiti lebih rendah	46.4 GB	50.1 GB	96 GB
2-bit kualiti lebih rendah	33.1 GB	35.7 GB	48 GB

Pada setiap cip Apple

Saiz memori terkecil setiap cip yang menjalankan GLM-4.5 Air, versi terbaik yang muat, dan kelajuan menulis yang boleh anda jangkakan.

Cip	Perlu	Versi	Token/s
M6	tiada saiz yang muat	Terlalu besar	–
M5 Ultra	96 GB	4-bit Berjalan baik	79–141
M5 Max	128 GB	6-bit Berjalan baik	28–50
M5 Pro	48 GB	2-bit Berjalan baik	36–65
M5	tiada saiz yang muat	Terlalu besar	–
M4 Max	128 GB	6-bit Berjalan baik	25–45
M4 Pro	48 GB	2-bit Berjalan baik	32–57
M4	tiada saiz yang muat	Terlalu besar	–
M3 Ultra	96 GB	4-bit Berjalan baik	54–96
M3 Max	96 GB	4-bit Berjalan baik	20–35
M3 Pro	tiada saiz yang muat	Terlalu besar	–
M3	tiada saiz yang muat	Terlalu besar	–
M2 Ultra	128 GB	6-bit Berjalan baik	37–65
M2 Max	96 GB	4-bit Berjalan baik	26–47
M2 Pro	tiada saiz yang muat	Terlalu besar	–
M2	tiada saiz yang muat	Terlalu besar	–
M1 Ultra	128 GB	6-bit Berjalan baik	37–65
M1 Max	64 GB	2-bit Berjalan baik	47–84
M1 Pro	tiada saiz yang muat	Terlalu besar	–
M1	tiada saiz yang muat	Terlalu besar	–

Cara menjalankannya

Cara mudah: muat turun MLX Harness, percuma dan sumber terbuka. Cari GLM-4.5 Air, muat turun versi yang sesuai dengan Mac anda, dan mula bersembang. Ia juga menyediakan model kepada aplikasi anda yang lain melalui API yang serasi dengan OpenAI.Muat turun MLX HarnessPercuma · Apple Silicon · macOS 14.5 atau lebih baharu
Dalam Terminal dengan MLX daripada Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.5-Air-4bitBinaan: mlx-community/GLM-4.5-Air-4bit di Hugging Face. Kepersisan lain ada di sebelahnya.

Langkah demi langkah: muat turun dan jalankan LLM pada Mac · cara menggunakan MLX Harness · MLX vs Ollama vs llama.cpp

Tentang GLM-4.5 Air

Dibuat oleh	Z.ai (Zhipu)
Parameter	106B jumlah · 12B aktif (mixture of experts)
Konteks	128K token
Lesen	MIT
Dikeluarkan	2025-07
Input	Teks
Pemberat	zai-org/GLM-4.5-Air

Soalan

Berapakah memori yang diperlukan oleh GLM-4.5 Air?: Kira-kira 59.6 GB pemberat pada 4-bit, serta ruang untuk konteks: 64.4 GB kesemuanya. Pada Mac, ini bermakna 96 GB memori bersatu atau lebih, kerana secara lalai macOS membenarkan GPU menggunakan kira-kira 75% daripadanya.
Sepantas mana GLM-4.5 Air pada Mac?: Kelajuan menulis bergantung pada lebar jalur memori. Mac terpantas untuknya di sini ialah M5 Ultra dengan 96 GB, kira-kira 79–141 token sesaat (4-bit). Mac terkecil yang menjalankannya, dengan 96 GB, mencapai kira-kira 79–141 pada M5 Ultra.
Mengapakah GLM-4.5 Air berjalan lebih pantas daripada saiznya?: Ia model mixture-of-experts: ia menyimpan 106B parameter dalam memori tetapi hanya membaca 12B bagi setiap token, jadi ia menulis sepantas model yang jauh lebih kecil.

Model serupa

Semua model · Semua Mac · Bandingkan Mac anda

Untuk kad model atau README anda

Menunjukkan Mac terkecil yang menjalankan GLM-4.5 Air dengan baik dan memaut ke sini.

[![Runs on a Mac](https://mlx.app/badge/run/glm-4.5-air.svg)](https://mlx.app/run/glm-4.5-air)

Cara ia dikira

Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.