Bisakah Mac menjalankan GLM-4.5 Air?

Ya, dengan memori terpadu 96 GB atau lebih. GLM-4.5 Air punya 106B parameter, 12B di antaranya aktif untuk setiap token; berikut memori yang dibutuhkan di setiap presisi dan seberapa cepat setiap chip Apple menjalankannya.

Memori pada 4-bit64,4 GBbobot 59,6 GB + konteks
Mac terkecil96 GB4-bit · 28 konfigurasi Mac
Mac tercepat79–141token/s · M5 Ultra 96 GB (perkiraan)

Memori di setiap presisi

VersiBobotDengan konteksMac terkecil
8-bit113 GB122 GB192 GB
6-bit86,1 GB93 GB128 GB
4-bit59,6 GB64,4 GB96 GB
3-bit kualitas lebih rendah46,4 GB50,1 GB96 GB
2-bit kualitas lebih rendah33,1 GB35,7 GB48 GB

Di setiap chip Apple

Ukuran memori terkecil setiap chip yang bisa menjalankan GLM-4.5 Air, versi terbaik yang muat, dan kecepatan menulis yang bisa Anda harapkan.

ChipButuhVersiToken/s
M6tidak ada ukuran yang muatTerlalu besar–
M5 Ultra96 GB4-bit Berjalan baik79–141
M5 Max128 GB6-bit Berjalan baik28–50
M5 Pro48 GB2-bit Berjalan baik36–65
M5tidak ada ukuran yang muatTerlalu besar–
M4 Max128 GB6-bit Berjalan baik25–45
M4 Pro48 GB2-bit Berjalan baik32–57
M4tidak ada ukuran yang muatTerlalu besar–
M3 Ultra96 GB4-bit Berjalan baik54–96
M3 Max96 GB4-bit Berjalan baik20–35
M3 Protidak ada ukuran yang muatTerlalu besar–
M3tidak ada ukuran yang muatTerlalu besar–
M2 Ultra128 GB6-bit Berjalan baik37–65
M2 Max96 GB4-bit Berjalan baik26–47
M2 Protidak ada ukuran yang muatTerlalu besar–
M2tidak ada ukuran yang muatTerlalu besar–
M1 Ultra128 GB6-bit Berjalan baik37–65
M1 Max64 GB2-bit Berjalan baik47–84
M1 Protidak ada ukuran yang muatTerlalu besar–
M1tidak ada ukuran yang muatTerlalu besar–

Cara menjalankannya

  1. Cara mudah: unduh MLX Harness, gratis dan open source. Cari GLM-4.5 Air, unduh versi yang cocok untuk Mac Anda, lalu mulai chat. Aplikasi ini juga menyajikan model ke aplikasi Anda yang lain melalui API yang kompatibel dengan OpenAI.Unduh MLX HarnessGratis · Apple Silicon · macOS 14.5 atau lebih baru
  2. Di Terminal dengan MLX dari Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.5-Air-4bitBuild: mlx-community/GLM-4.5-Air-4bit di Hugging Face. Presisi lain ada di sebelahnya.

Langkah demi langkah: unduh dan jalankan LLM di Mac · cara memakai MLX Harness · MLX vs Ollama vs llama.cpp

Tentang GLM-4.5 Air

Dibuat olehZ.ai (Zhipu)
Parameter106B total · 12B aktif (mixture of experts)
Konteks128K token
LisensiMIT
Dirilis2025-07
InputTeks
Bobotzai-org/GLM-4.5-Air

Pertanyaan

Berapa memori yang dibutuhkan GLM-4.5 Air?
Sekitar 59,6 GB untuk bobot pada 4-bit, ditambah ruang untuk konteks: total 64,4 GB. Di Mac artinya memori terpadu 96 GB atau lebih, karena secara bawaan macOS mengizinkan GPU memakai sekitar 75% darinya.
Seberapa cepat GLM-4.5 Air di Mac?
Kecepatan menulis bergantung pada bandwidth memori. Mac tercepat untuknya di sini adalah M5 Ultra dengan 96 GB, sekitar 79–141 token per detik (4-bit). Mac terkecil yang bisa menjalankannya, dengan 96 GB, mencapai sekitar 79–141 pada M5 Ultra.
Mengapa GLM-4.5 Air berjalan lebih cepat daripada ukurannya?
Ini model mixture-of-experts: ia menyimpan 106B parameter di memori tetapi hanya membaca 12B untuk setiap token, sehingga menulis secepat model yang jauh lebih kecil.

Model serupa

Semua model · Semua Mac · Bandingkan Mac Anda

Untuk kartu model atau README Anda

Runs on a Mac: GLM-4.5 Air Menampilkan Mac terkecil yang menjalankan GLM-4.5 Air dengan baik dan menautkan ke sini.

[![Runs on a Mac](https://mlx.app/badge/run/glm-4.5-air.svg)](https://mlx.app/run/glm-4.5-air)

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.

Bisakah Mac menjalankan GLM-4.5 Air? RAM, kecepatan