Пам’ять за кожної точності
| Версія | Ваги | З контекстом | Мінімальний Mac |
|---|---|---|---|
| 8 біт | 717 ГБ | 775 ГБ | більше, ніж має будь-який Mac |
| 6 біт | 548 ГБ | 592 ГБ | більше, ніж має будь-який Mac |
| 4 біт | 380 ГБ | 410 ГБ | більше, ніж має будь-який Mac |
| 3 біт нижча якість | 295 ГБ | 319 ГБ | 512 ГБ |
| 2 біт нижча якість | 211 ГБ | 228 ГБ | 512 ГБ |
На кожному чипі Apple
Мінімальний обсяг пам’яті кожного чипа, на якому запускається Mistral Large 3 (675B), найкраща версія, що вміщується, і очікувана швидкість генерації.
| Чип | Потрібно | Версія | Токенів/с |
|---|---|---|---|
| M6 | жоден обсяг не підходить | Завелика | – |
| M5 Ultra | 512 ГБ | 3 біт Працює добре | 30–54 |
| M5 Max | жоден обсяг не підходить | Завелика | – |
| M5 Pro | жоден обсяг не підходить | Завелика | – |
| M5 | жоден обсяг не підходить | Завелика | – |
| M4 Max | жоден обсяг не підходить | Завелика | – |
| M4 Pro | жоден обсяг не підходить | Завелика | – |
| M4 | жоден обсяг не підходить | Завелика | – |
| M3 Ultra | 512 ГБ | 3 біт Працює добре | 21–37 |
| M3 Max | жоден обсяг не підходить | Завелика | – |
| M3 Pro | жоден обсяг не підходить | Завелика | – |
| M3 | жоден обсяг не підходить | Завелика | – |
| M2 Ultra | жоден обсяг не підходить | Завелика | – |
| M2 Max | жоден обсяг не підходить | Завелика | – |
| M2 Pro | жоден обсяг не підходить | Завелика | – |
| M2 | жоден обсяг не підходить | Завелика | – |
| M1 Ultra | жоден обсяг не підходить | Завелика | – |
| M1 Max | жоден обсяг не підходить | Завелика | – |
| M1 Pro | жоден обсяг не підходить | Завелика | – |
| M1 | жоден обсяг не підходить | Завелика | – |
Як запустити
- Найпростіший спосіб: завантажте MLX Harness — безкоштовно і з відкритим кодом. Знайдіть Mistral Large 3 (675B), завантажте версію, яка підходить вашому Mac, і спілкуйтеся. Застосунок також віддає модель іншим вашим програмам через API, сумісний з OpenAI.Завантажити MLX HarnessБезкоштовно · Apple Silicon · macOS 14.5 або новіша
- У Терміналі з MLX від Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bitЗбірка: mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bit на Hugging Face. Поруч лежать версії з іншою точністю.
Покроково: завантажити й запустити LLM на Mac · як користуватися MLX Harness · MLX, Ollama і llama.cpp
Про модель Mistral Large 3 (675B)
| Розробник | Mistral AI |
|---|---|
| Параметри | 675B усього · 41B активних (mixture of experts) |
| Контекст | токенів: 256K |
| Ліцензія | Apache-2.0 |
| Випуск | 2025-11 |
| Вхідні дані | Текст і зображення |
| Ваги | mistralai/Mistral-Large-3-675B-Instruct-2512 |
Запитання
- Скільки пам’яті потрібно моделі Mistral Large 3 (675B)?
- Близько 380 ГБ на ваги (4 біт) плюс місце для контексту: загалом 410 ГБ. Це більше, ніж сьогодні має будь-який Mac.
- Наскільки швидко Mistral Large 3 (675B) працює на Mac?
- Швидкість генерації залежить від пропускної здатності пам’яті. Найшвидший Mac для неї тут — M5 Ultra із 512 ГБ: близько 30–54 токенів за секунду (3 біт). Мінімальний Mac, що її запускає, — M5 Ultra із 512 ГБ — видає близько 30–54.
- Чому Mistral Large 3 (675B) працює швидше, ніж можна очікувати з її розміру?
- Це модель mixture-of-experts: вона тримає в пам’яті 675B параметрів, але на кожен токен читає лише 41B, тож пише зі швидкістю значно меншої моделі.
Схожі моделі
Для картки моделі або README
Показує мінімальний Mac, на якому Mistral Large 3 (675B) добре працює, і веде сюди.
[](https://mlx.app/run/mistral-large-3)Як це розраховано
Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.