УвійтиСтворити гаманець

MacBook Pro із чипом M3 Pro для локального ШІ.

M3 Pro читає пам’ять зі швидкістю 150 ГБ/с — від цього залежить швидкість генерації. Обсяг пам’яті визначає, які моделі вмістяться, і збільшити його потім не можна, тож обирайте обсяг тут.

18 ГБМоделей, що працюють добре: 20Gemma 4 12B Unified · 10–18 tok/s36 ГБМоделей, що працюють добре: 28Qwen3.6 35B A3B · 40–71 tok/s

За обсягом пам’яті

Пам’ятьПрацюють добреНайбільша з тих, що працюють добреgpt-oss-20b
18 ГБ150 ГБ/с20Gemma 4 12B Unified36–63 tok/s
36 ГБ150 ГБ/с28Qwen3.6 35B A3B36–63 tok/s

Моделі: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023). Не кожен обсяг пам’яті доступний у кожній моделі; що пропонується для кожної, вказано в технічних характеристиках Apple.

Запитання

Чи підходить MacBook Pro із чипом M3 Pro для локальних LLM?
Із 36 ГБ він добре запускає 28 з 73 відкритих моделей, аж до Qwen3.6 35B A3B, і генерує близько 36–63 токенів за секунду із gpt-oss-20b. M3 Pro читає пам’ять зі швидкістю 150 ГБ/с — від цього залежить швидкість генерації.
MacBook Pro із чипом M3 Pro: скільки пам’яті потрібно для ШІ?
Відкритих моделей, що працюють добре: 20 із 18 ГБ і 28 із 36 ГБ, аж до Qwen3.6 35B A3B. Обсяг пам’яті визначає, які моделі вмістяться, і збільшити його потім не можна.

Інші Mac

MacBook Pro з іншими чипами:

Віч-на-віч:

M3 Pro для локального ШІ · Найкращий Mac для локальних LLM · Усі Mac

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.

MacBook Pro M3 Pro для локального ШІ: LLM за обсягом пам’яті