Чи запуститься GLM-4.5 Air на Mac?

Так, із 96 ГБ об’єднаної пам’яті або більше. У GLM-4.5 Air 106B параметрів, з них 12B активні для кожного токена. Нижче — скільки пам’яті їй потрібно за кожної точності і з якою швидкістю її запускає кожен чип Apple.

Пам’ять (4 біт)64,4 ГБваги 59,6 ГБ + контекст
Мінімальний Mac96 ГБ4 біт · конфігурацій Mac: 28
Найшвидший Mac79–141токенів/с · M5 Ultra 96 ГБ (оцінка)

Пам’ять за кожної точності

ВерсіяВагиЗ контекстомМінімальний Mac
8 біт113 ГБ122 ГБ192 ГБ
6 біт86,1 ГБ93 ГБ128 ГБ
4 біт59,6 ГБ64,4 ГБ96 ГБ
3 біт нижча якість46,4 ГБ50,1 ГБ96 ГБ
2 біт нижча якість33,1 ГБ35,7 ГБ48 ГБ

На кожному чипі Apple

Мінімальний обсяг пам’яті кожного чипа, на якому запускається GLM-4.5 Air, найкраща версія, що вміщується, і очікувана швидкість генерації.

ЧипПотрібноВерсіяТокенів/с
M6жоден обсяг не підходитьЗавелика–
M5 Ultra96 ГБ4 біт Працює добре79–141
M5 Max128 ГБ6 біт Працює добре28–50
M5 Pro48 ГБ2 біт Працює добре36–65
M5жоден обсяг не підходитьЗавелика–
M4 Max128 ГБ6 біт Працює добре25–45
M4 Pro48 ГБ2 біт Працює добре32–57
M4жоден обсяг не підходитьЗавелика–
M3 Ultra96 ГБ4 біт Працює добре54–96
M3 Max96 ГБ4 біт Працює добре20–35
M3 Proжоден обсяг не підходитьЗавелика–
M3жоден обсяг не підходитьЗавелика–
M2 Ultra128 ГБ6 біт Працює добре37–65
M2 Max96 ГБ4 біт Працює добре26–47
M2 Proжоден обсяг не підходитьЗавелика–
M2жоден обсяг не підходитьЗавелика–
M1 Ultra128 ГБ6 біт Працює добре37–65
M1 Max64 ГБ2 біт Працює добре47–84
M1 Proжоден обсяг не підходитьЗавелика–
M1жоден обсяг не підходитьЗавелика–

Як запустити

  1. Найпростіший спосіб: завантажте MLX Harness — безкоштовно і з відкритим кодом. Знайдіть GLM-4.5 Air, завантажте версію, яка підходить вашому Mac, і спілкуйтеся. Застосунок також віддає модель іншим вашим програмам через API, сумісний з OpenAI.Завантажити MLX HarnessБезкоштовно · Apple Silicon · macOS 14.5 або новіша
  2. У Терміналі з MLX від Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.5-Air-4bitЗбірка: mlx-community/GLM-4.5-Air-4bit на Hugging Face. Поруч лежать версії з іншою точністю.

Покроково: завантажити й запустити LLM на Mac · як користуватися MLX Harness · MLX, Ollama і llama.cpp

Про модель GLM-4.5 Air

РозробникZ.ai (Zhipu)
Параметри106B усього · 12B активних (mixture of experts)
Контексттокенів: 128K
ЛіцензіяMIT
Випуск2025-07
Вхідні даніТекст
Вагиzai-org/GLM-4.5-Air

Запитання

Скільки пам’яті потрібно моделі GLM-4.5 Air?
Близько 59,6 ГБ на ваги (4 біт) плюс місце для контексту: загалом 64,4 ГБ. На Mac це означає 96 ГБ об’єднаної пам’яті або більше, адже за замовчуванням macOS дає GPU близько 75% пам’яті.
Наскільки швидко GLM-4.5 Air працює на Mac?
Швидкість генерації залежить від пропускної здатності пам’яті. Найшвидший Mac для неї тут — M5 Ultra із 96 ГБ: близько 79–141 токенів за секунду (4 біт). Мінімальний Mac, що її запускає, — M5 Ultra із 96 ГБ — видає близько 79–141.
Чому GLM-4.5 Air працює швидше, ніж можна очікувати з її розміру?
Це модель mixture-of-experts: вона тримає в пам’яті 106B параметрів, але на кожен токен читає лише 12B, тож пише зі швидкістю значно меншої моделі.

Схожі моделі

Усі моделі · Усі Mac · Порівняти свій Mac

Для картки моделі або README

Runs on a Mac: GLM-4.5 Air Показує мінімальний Mac, на якому GLM-4.5 Air добре працює, і веде сюди.

[![Runs on a Mac](https://mlx.app/badge/run/glm-4.5-air.svg)](https://mlx.app/run/glm-4.5-air)

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.

Чи потягне Mac GLM-4.5 Air? Пам’ять і швидкість