Память при каждой точности
| Версия | Веса | С контекстом | Минимальный Mac |
|---|---|---|---|
| нативные 4 бит | 595 ГБ | 643 ГБ | больше, чем у любого Mac |
| 3 бит ниже качество | 438 ГБ | 473 ГБ | больше, чем у любого Mac |
| 2 бит ниже качество | 313 ГБ | 338 ГБ | 512 ГБ |
На каждом чипе Apple
Минимальный объем памяти каждого чипа, на котором запускается Kimi K2.6, лучшая версия, которая помещается, и ожидаемая скорость генерации.
| Чип | Нужно | Версия | Токенов/с |
|---|---|---|---|
| M6 | ни один объем не подходит | Слишком большая | – |
| M5 Ultra | 512 ГБ | 2 бит Работает хорошо | 54–96 |
| M5 Max | ни один объем не подходит | Слишком большая | – |
| M5 Pro | ни один объем не подходит | Слишком большая | – |
| M5 | ни один объем не подходит | Слишком большая | – |
| M4 Max | ни один объем не подходит | Слишком большая | – |
| M4 Pro | ни один объем не подходит | Слишком большая | – |
| M4 | ни один объем не подходит | Слишком большая | – |
| M3 Ultra | 512 ГБ | 2 бит Работает хорошо | 37–66 |
| M3 Max | ни один объем не подходит | Слишком большая | – |
| M3 Pro | ни один объем не подходит | Слишком большая | – |
| M3 | ни один объем не подходит | Слишком большая | – |
| M2 Ultra | ни один объем не подходит | Слишком большая | – |
| M2 Max | ни один объем не подходит | Слишком большая | – |
| M2 Pro | ни один объем не подходит | Слишком большая | – |
| M2 | ни один объем не подходит | Слишком большая | – |
| M1 Ultra | ни один объем не подходит | Слишком большая | – |
| M1 Max | ни один объем не подходит | Слишком большая | – |
| M1 Pro | ни один объем не подходит | Слишком большая | – |
| M1 | ни один объем не подходит | Слишком большая | – |
Как запустить
- Самый простой способ: скачайте MLX Harness — бесплатно и с открытым кодом. Найдите Kimi K2.6, скачайте версию, которая подходит вашему Mac, и общайтесь. Приложение также отдает модель другим вашим программам через API, совместимый с OpenAI.Скачать MLX HarnessБесплатно · Apple Silicon · macOS 14.5 или новее
- В Терминале с MLX от Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/Kimi-K2.6-mlx-DQ3_K_M-q8Сборка: mlx-community/Kimi-K2.6-mlx-DQ3_K_M-q8 на Hugging Face. Рядом лежат версии с другой точностью.
Пошагово: скачать и запустить LLM на Mac · как пользоваться MLX Harness · MLX, Ollama и llama.cpp
О модели Kimi K2.6
| Разработчик | Moonshot AI |
|---|---|
| Параметры | 1 000B всего · 32B активных (mixture of experts) |
| Контекст | токенов: 256K |
| Лицензия | Modified MIT |
| Выпуск | 2026-04 |
| Ввод | Текст и изображения |
| Веса | moonshotai/Kimi-K2.6 |
Вопросы
- Сколько памяти нужно модели Kimi K2.6?
- Около 595 ГБ на веса (нативные 4 бит) плюс место для контекста: всего 643 ГБ. Это больше, чем есть сегодня у любого Mac.
- Насколько быстро Kimi K2.6 работает на Mac?
- Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M5 Ultra с 512 ГБ: около 54–96 токенов в секунду (2 бит). Минимальный Mac, который ее запускает, — M5 Ultra с 512 ГБ — выдает около 54–96.
- Почему Kimi K2.6 работает быстрее, чем можно ожидать по размеру?
- Это модель mixture-of-experts: она держит в памяти 1 000B параметров, но на каждый токен читает только 32B, поэтому пишет со скоростью гораздо меньшей модели.
Похожие модели
Для карточки модели или README
Показывает минимальный Mac, на котором Kimi K2.6 хорошо работает, и ведет сюда.
[](https://mlx.app/run/kimi-k2.6)Как это рассчитано
Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.