Яка LLM найкраще підходить для M1 Max із 64 ГБ?

Серед моделей з опублікованим Intelligence Index найвищу оцінку з тих, що тут добре працюють, має Qwen3.8 27B: 4 біт, близько 12–21 токенів за секунду. Найбільша з тих, що працюють добре, — Nemotron 3.5 Bolt 74B A9B.

Чи запустить M1 Max із 64 ГБ Llama 3.3 70B?

Так, але повільно: 4 біт, близько 5–8 токенів за секунду.

Наскільки швидко gpt-oss-20b працює на M1 Max?

Близько 95–168 токенів за секунду (нативні 4,25 біт) за пропускної здатності пам’яті чипа 400 ГБ/с.

Які LLM запустить M1 Max із 64 ГБ? Усі моделі та швидкість

Працюють добре 47

Вміщується із запасом для контексту, 10 і більше токенів за секунду.

Модель	Версія	Пам’ять	Токенів/с
Qwen3.8 27B27B · Інтелект 33,7	4 біт	15,2 ГБ	12–21
Nemotron 3.5 Bolt 74B A9B74B · активних: 9B · Інтелект 21,4	4 біт	41,6 ГБ	35–63
Qwen3.6 35B A3B35B · активних: 3B · Інтелект 18,2	8 біт	37,2 ГБ	56–100
Muse Glimmer 30B29,6B · Інтелект 17,5	4 біт	16,7 ГБ	11–19
Gemma 4 31B30,7B · Інтелект 14,7	4 біт	17,3 ГБ	10–18
Nemotron 3.5 Lightning 30B A3B30B · активних: 3B · Інтелект 12,9	8 біт	31,9 ГБ	56–100
Granite 4.2 30B30B · Інтелект 12,7	4 біт	16,9 ГБ	11–19
MiniCPM5 2B2,52B · Інтелект 12,5	8 біт	2,7 ГБ	67–119
Qwen3.5 9B9B · Інтелект 11,2	8 біт	9,6 ГБ	19–33
Granite 4.2 8B8B · Інтелект 11,1	8 біт	8,5 ГБ	21–38
Granite 4.2 3B3B · Інтелект 9,1	8 біт	3,2 ГБ	56–100
gpt-oss-20b21B · активних: 3,6B · Інтелект 9	нативні 4,25 біт	13,8 ГБ	95–168
Nemotron 3 Nano 30B A3B30B · активних: 3,5B · Інтелект 8,9	8 біт	31,9 ГБ	49–86
Gemma 4 E4B8B · Інтелект 8,9	8 біт	8,5 ГБ	38–67
Ministral 3 8B8,9B · Інтелект 5,5	8 біт	9,5 ГБ	19–34
Nemotron 3 Nano 4B3,97B · Інтелект 4,8	8 біт	4,2 ГБ	43–76
Qwen3 Coder 30B A3B Instruct30,5B · активних: 3,3B	8 біт	32,4 ГБ	51–91
GLM-4.7 Flash30B · активних: 3B	8 біт	31,9 ГБ	56–100
Qwen3.6 27B27B	4 біт	15,2 ГБ	12–21
Gemma 4 26B A4B25,2B · активних: 3,8B	8 біт	26,8 ГБ	45–80
Devstral Small 2 (24B)24B	4 біт	13,5 ГБ	13–24
Magistral Small 1.2 (2509)24B	4 біт	13,5 ГБ	13–24
Mistral Small 3.2 (24B)24B	4 біт	13,5 ГБ	13–24
LFM2.5 24B A2B24B · активних: 2B	8 біт	25,5 ГБ	86–152
Phi-4 Reasoning Vision 15B15B	8 біт	15,9 ГБ	11–20
Phi-4 (14B)14B	8 біт	14,9 ГБ	12–21
Gemma 4 12B Unified12B	8 біт	12,7 ГБ	14–25
Qwen3 8B8,2B	8 біт	8,7 ГБ	21–37
Llama 3.1 8B Instruct8B	8 біт	8,5 ГБ	21–38
Gemma 4 E2B5,1B	8 біт	5,4 ГБ	75–133
Qwen3.5 4B4B	8 біт	4,3 ГБ	42–74
Phi-4 mini instruct3,8B	8 біт	4 ГБ	45–80
Llama 3.2 3B Instruct3,21B	8 біт	3,4 ГБ	53–94
SmolLM3 3B3B	8 біт	3,2 ГБ	56–100
LFM2.5 2.6B2,69B	8 біт	2,9 ГБ	62–110
Qwen3.5 2B2B	8 біт	2,1 ГБ	86–152
Llama 3.2 1B Instruct1,23B	8 біт	1,3 ГБ	138–246
Qwen3.5 0.8B0,8B	8 біт	0,9 ГБ	200–356
Qwen3 0.6B0,6B	8 біт	0,6 ГБ	300–533
Qwen3.5 122B A10B122B · активних: 10B · Інтелект 15,6	2 біт нижча якість	38,1 ГБ	58–103
gpt-oss-120b117B · активних: 5,1B · Інтелект 11,6	2 біт нижча якість	36,6 ГБ	113–200
Mistral Small 4 (119B)119B · активних: 6,5B · Інтелект 11,3	2 біт нижча якість	37,2 ГБ	90–160
Qwen3 Coder Next80B · активних: 3B · Інтелект 9,2	3 біт нижча якість	35 ГБ	138–246
Llama 4 Scout 17B-16E Instruct109B · активних: 17B · Інтелект 6,5	2 біт нижча якість	34,1 ГБ	34–60
Ornith 1.5 122B122B · активних: 10B	2 біт нижча якість	38,1 ГБ	58–103
Nemotron 3 Super 120B A12B120B · активних: 12B	2 біт нижча якість	37,5 ГБ	47–84
GLM-4.5 Air106B · активних: 12B	2 біт нижча якість	33,1 ГБ	47–84

Працюють, але повільно 3

Вміщується, але менше 10 токенів за секунду: годиться для пакетних задач, для чату повільно.

Модель	Версія	Пам’ять	Токенів/с
Llama 3.3 70B Instruct70B	4 біт	39,4 ГБ	5–8
Mistral Medium 3.5 (128B)128B · Інтелект 14,2	2 біт нижча якість	40 ГБ	5–8
Devstral 2 (123B)123B	2 біт нижча якість	38,4 ГБ	5–8

Інші Mac

Усі Mac із 64 ГБ, на будь-якому чипі.

M1 Max з іншим обсягом пам’яті:

32 ГБпрацюють добре: 38

Сусідні чипи:

Віч-на-віч:

Порівняти з будь-яким Mac або GPU · M1 Max для локального ШІ · Найкращий Mac для локальних LLM · Усі Mac

Запитання

Яка LLM найкраще підходить для M1 Max із 64 ГБ?: Серед моделей з опублікованим Intelligence Index найвищу оцінку з тих, що тут добре працюють, має Qwen3.8 27B: 4 біт, близько 12–21 токенів за секунду. Найбільша з тих, що працюють добре, — Nemotron 3.5 Bolt 74B A9B.
Чи запустить M1 Max із 64 ГБ Llama 3.3 70B?: Так, але повільно: 4 біт, близько 5–8 токенів за секунду.
Наскільки швидко gpt-oss-20b працює на M1 Max?: Близько 95–168 токенів за секунду (нативні 4,25 біт) за пропускної здатності пам’яті чипа 400 ГБ/с.

Запускайте їх у MLX Harness (безкоштовно, відкритий код) або через mlx-lm від Apple у Терміналі: покроково.

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.

Що запустить M1 Max із 64 ГБ?