Чи підходить Mac Studio із чипом M5 Max для локальних LLM?

Із 128 ГБ він добре запускає 47 з 73 відкритих моделей, аж до Qwen3.5 122B A10B, і генерує близько 145–259 токенів за секунду із gpt-oss-20b. M5 Max читає пам’ять зі швидкістю 614 ГБ/с — від цього залежить швидкість генерації.

Mac Studio із чипом M5 Max: скільки пам’яті потрібно для ШІ?

Відкритих моделей, що працюють добре: 38 із 36 ГБ і 47 із 128 ГБ, аж до Qwen3.5 122B A10B. Обсяг пам’яті визначає, які моделі вмістяться, і збільшити його потім не можна.

Mac Studio M5 Max для локального ШІ: LLM за обсягом пам’яті

За обсягом пам’яті

Пам’ять	Працюють добре	Найбільша з тих, що працюють добре	gpt-oss-20b
36 ГБ460 ГБ/с	38	Qwen3.6 35B A3B	109–194 tok/s
48 ГБ614 ГБ/с	38	Qwen3.6 35B A3B	145–259 tok/s
64 ГБ614 ГБ/с	39	Nemotron 3.5 Bolt 74B A9B	145–259 tok/s
128 ГБ614 ГБ/с	47	Qwen3.5 122B A10B	145–259 tok/s

Моделі: Mac Studio (M5 Max or M5 Ultra). Не кожен обсяг пам’яті доступний у кожній моделі; що пропонується для кожної, вказано в технічних характеристиках Apple.

Запитання

Чи підходить Mac Studio із чипом M5 Max для локальних LLM?: Із 128 ГБ він добре запускає 47 з 73 відкритих моделей, аж до Qwen3.5 122B A10B, і генерує близько 145–259 токенів за секунду із gpt-oss-20b. M5 Max читає пам’ять зі швидкістю 614 ГБ/с — від цього залежить швидкість генерації.
Mac Studio із чипом M5 Max: скільки пам’яті потрібно для ШІ?: Відкритих моделей, що працюють добре: 38 із 36 ГБ і 47 із 128 ГБ, аж до Qwen3.5 122B A10B. Обсяг пам’яті визначає, які моделі вмістяться, і збільшити його потім не можна.

Інші Mac

Mac Studio з іншими чипами:

Інші Mac із чипом M5 Max:

MacBook Pro M5 Max

Віч-на-віч:

Проти ПК і відеокарт:

M5 Max для локального ШІ · Найкращий Mac для локальних LLM · Усі Mac

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.