Пам’ять за кожної точності
| Версія | Ваги | З контекстом | Мінімальний Mac |
|---|---|---|---|
| 8 біт | 595 ГБ | 643 ГБ | більше, ніж має будь-який Mac |
| 6 біт | 455 ГБ | 491 ГБ | більше, ніж має будь-який Mac |
| 4 біт | 315 ГБ | 340 ГБ | 512 ГБ |
| 3 біт нижча якість | 245 ГБ | 265 ГБ | 512 ГБ |
| 2 біт нижча якість | 175 ГБ | 189 ГБ | 256 ГБ |
На кожному чипі Apple
Мінімальний обсяг пам’яті кожного чипа, на якому запускається Ling 3.1 Flash, найкраща версія, що вміщується, і очікувана швидкість генерації.
| Чип | Потрібно | Версія | Токенів/с |
|---|---|---|---|
| M6 | жоден обсяг не підходить | Завелика | – |
| M5 Ultra | 512 ГБ | 4 біт Працює добре | 38–68 |
| M5 Max | жоден обсяг не підходить | Завелика | – |
| M5 Pro | жоден обсяг не підходить | Завелика | – |
| M5 | жоден обсяг не підходить | Завелика | – |
| M4 Max | жоден обсяг не підходить | Завелика | – |
| M4 Pro | жоден обсяг не підходить | Завелика | – |
| M4 | жоден обсяг не підходить | Завелика | – |
| M3 Ultra | 512 ГБ | 4 біт Працює добре | 26–46 |
| M3 Max | жоден обсяг не підходить | Завелика | – |
| M3 Pro | жоден обсяг не підходить | Завелика | – |
| M3 | жоден обсяг не підходить | Завелика | – |
| M2 Ultra | жоден обсяг не підходить | Завелика | – |
| M2 Max | жоден обсяг не підходить | Завелика | – |
| M2 Pro | жоден обсяг не підходить | Завелика | – |
| M2 | жоден обсяг не підходить | Завелика | – |
| M1 Ultra | жоден обсяг не підходить | Завелика | – |
| M1 Max | жоден обсяг не підходить | Завелика | – |
| M1 Pro | жоден обсяг не підходить | Завелика | – |
| M1 | жоден обсяг не підходить | Завелика | – |
Як запустити
- У Терміналі з MLX від Apple: Збірки MLX поки немає, а звичайний mlx-lm поки не вміє конвертувати офіційні ваги (bailing_moe_v3.py).
Покроково: завантажити й запустити LLM на Mac · як користуватися MLX Harness · MLX, Ollama і llama.cpp
Про модель Ling 3.1 Flash
| Розробник | inclusionAI |
|---|---|
| Параметри | 560B усього · 25B активних (mixture of experts) |
| Контекст | токенів: 256K |
| Ліцензія | MIT |
| Випуск | 2026-10 |
| Вхідні дані | Текст |
| Інтелект | 41,1 в Artificial Analysis Intelligence Index |
| Ваги | inclusionAI/Ling-3.1-flash |
Запитання
- Скільки пам’яті потрібно моделі Ling 3.1 Flash?
- Близько 315 ГБ на ваги (4 біт) плюс місце для контексту: загалом 340 ГБ. На Mac це означає 512 ГБ об’єднаної пам’яті або більше, адже за замовчуванням macOS дає GPU близько 75% пам’яті.
- Наскільки швидко Ling 3.1 Flash працює на Mac?
- Швидкість генерації залежить від пропускної здатності пам’яті. Найшвидший Mac для неї тут — M5 Ultra із 512 ГБ: близько 38–68 токенів за секунду (4 біт). Мінімальний Mac, що її запускає, — M5 Ultra із 512 ГБ — видає близько 38–68.
- Чому Ling 3.1 Flash працює швидше, ніж можна очікувати з її розміру?
- Це модель mixture-of-experts: вона тримає в пам’яті 560B параметрів, але на кожен токен читає лише 25B, тож пише зі швидкістю значно меншої моделі.
Схожі моделі
Для картки моделі або README
Показує мінімальний Mac, на якому Ling 3.1 Flash добре працює, і веде сюди.
[](https://mlx.app/run/ling-3.1-flash)Як це розраховано
Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.
Відкриті дані: mlx.app/data (JSON, CSV)