За обсягом пам’яті
| Пам’ять | Працюють добре | Найбільша з тих, що працюють добре | gpt-oss-20b |
|---|---|---|---|
| 36 ГБ300 ГБ/с | 33 | Qwen3.6 35B A3B | 71–126 tok/s |
| 48 ГБ400 ГБ/с | 38 | Qwen3.6 35B A3B | 95–168 tok/s |
| 64 ГБ400 ГБ/с | 39 | Nemotron 3.5 Bolt 74B A9B | 95–168 tok/s |
| 96 ГБ300 ГБ/с | 38 | gpt-oss-120b | 71–126 tok/s |
| 128 ГБ400 ГБ/с | 47 | Qwen3.5 122B A10B | 95–168 tok/s |
Моделі: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023). Не кожен обсяг пам’яті доступний у кожній моделі; що пропонується для кожної, вказано в технічних характеристиках Apple.
Запитання
- Чи підходить MacBook Pro із чипом M3 Max для локальних LLM?
- Із 128 ГБ він добре запускає 47 з 73 відкритих моделей, аж до Qwen3.5 122B A10B, і генерує близько 95–168 токенів за секунду із gpt-oss-20b. M3 Max читає пам’ять зі швидкістю 400 ГБ/с — від цього залежить швидкість генерації.
- MacBook Pro із чипом M3 Max: скільки пам’яті потрібно для ШІ?
- Відкритих моделей, що працюють добре: 33 із 36 ГБ і 47 із 128 ГБ, аж до Qwen3.5 122B A10B. Обсяг пам’яті визначає, які моделі вмістяться, і збільшити його потім не можна.
Інші Mac
MacBook Pro з іншими чипами:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Віч-на-віч:
M3 Max для локального ШІ · Найкращий Mac для локальних LLM · Усі Mac
Як це розраховано
Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.