Пам’ять за кожної точності
| Версія | Ваги | З контекстом | Мінімальний Mac |
|---|---|---|---|
| 8 біт | 2,6 ТБ | 2,8 ТБ | більше, ніж має будь-який Mac |
| 6 біт | 2 ТБ | 2,1 ТБ | більше, ніж має будь-який Mac |
| 4 біт | 1,4 ТБ | 1,5 ТБ | більше, ніж має будь-який Mac |
| 3 біт нижча якість | 1,1 ТБ | 1,1 ТБ | більше, ніж має будь-який Mac |
| 2 біт нижча якість | 750 ГБ | 810 ГБ | більше, ніж має будь-який Mac |
На кожному чипі Apple
Мінімальний обсяг пам’яті кожного чипа, на якому запускається Qwen3.8 2.4T A95B, найкраща версія, що вміщується, і очікувана швидкість генерації.
| Чип | Потрібно | Версія | Токенів/с |
|---|---|---|---|
| M6 | жоден обсяг не підходить | Завелика | – |
| M5 Ultra | жоден обсяг не підходить | Завелика | – |
| M5 Max | жоден обсяг не підходить | Завелика | – |
| M5 Pro | жоден обсяг не підходить | Завелика | – |
| M5 | жоден обсяг не підходить | Завелика | – |
| M4 Max | жоден обсяг не підходить | Завелика | – |
| M4 Pro | жоден обсяг не підходить | Завелика | – |
| M4 | жоден обсяг не підходить | Завелика | – |
| M3 Ultra | жоден обсяг не підходить | Завелика | – |
| M3 Max | жоден обсяг не підходить | Завелика | – |
| M3 Pro | жоден обсяг не підходить | Завелика | – |
| M3 | жоден обсяг не підходить | Завелика | – |
| M2 Ultra | жоден обсяг не підходить | Завелика | – |
| M2 Max | жоден обсяг не підходить | Завелика | – |
| M2 Pro | жоден обсяг не підходить | Завелика | – |
| M2 | жоден обсяг не підходить | Завелика | – |
| M1 Ultra | жоден обсяг не підходить | Завелика | – |
| M1 Max | жоден обсяг не підходить | Завелика | – |
| M1 Pro | жоден обсяг не підходить | Завелика | – |
| M1 | жоден обсяг не підходить | Завелика | – |
Як запустити
Жоден Mac не вміщує її повністю. Менші моделі нижче працюють добре, а посібник про кластери з Mac розповідає, як розподілити модель на кілька Mac.
Покроково: завантажити й запустити LLM на Mac · як користуватися MLX Harness · MLX, Ollama і llama.cpp
Про модель Qwen3.8 2.4T A95B
| Розробник | Qwen (Alibaba) |
|---|---|
| Параметри | 2 400B усього · 95B активних (mixture of experts) |
| Контекст | токенів: 256K |
| Ліцензія | Qwen3.8-Max license (qwen3.8-max) |
| Випуск | 2026-08 |
| Вхідні дані | Текст |
| Інтелект | 39,9 в Artificial Analysis Intelligence Index |
| Ваги | Qwen/Qwen3.8-2.4T-A95B |
Запитання
- Скільки пам’яті потрібно моделі Qwen3.8 2.4T A95B?
- Близько 1,4 ТБ на ваги (4 біт) плюс місце для контексту: загалом 1,5 ТБ. Це більше, ніж сьогодні має будь-який Mac.
- Чи може якийсь Mac запустити Qwen3.8 2.4T A95B?
- Сам по собі — ні: навіть за 2 біт їй потрібно більше пам’яті, ніж має найбільший Mac. Візьміть меншу модель або розподіліть її на кілька Mac за допомогою кластерного середовища.
- Чому Qwen3.8 2.4T A95B працює швидше, ніж можна очікувати з її розміру?
- Це модель mixture-of-experts: вона тримає в пам’яті 2 400B параметрів, але на кожен токен читає лише 95B, тож пише зі швидкістю значно меншої моделі.
Схожі моделі
Для картки моделі або README
Показує мінімальний Mac, на якому Qwen3.8 2.4T A95B добре працює, і веде сюди.
[](https://mlx.app/run/qwen3.8-2.4t-a95b)Як це розраховано
Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.