Сколько памяти нужно модели Ornith 1.5 122B?

Около 68,6 ГБ на веса (4 бит) плюс место для контекста: всего 74,1 ГБ. На Mac это значит 128 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.

Насколько быстро Ornith 1.5 122B работает на Mac?

Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M2 Ultra с 128 ГБ: около 64–114 токенов в секунду (4 бит). Минимальный Mac, который ее запускает, — M2 Ultra с 128 ГБ — выдает около 64–114.

Почему Ornith 1.5 122B работает быстрее, чем можно ожидать по размеру?

Это модель mixture-of-experts: она держит в памяти 122B параметров, но на каждый токен читает только 10B, поэтому пишет со скоростью гораздо меньшей модели.

Запустится ли Ornith 1.5 122B на Mac? Память, скорость

Память при каждой точности

Версия	Веса	С контекстом	Минимальный Mac
8 бит	130 ГБ	140 ГБ	192 ГБ
6 бит	99,1 ГБ	107 ГБ	192 ГБ
4 бит	68,6 ГБ	74,1 ГБ	128 ГБ
3 бит ниже качество	53,4 ГБ	57,7 ГБ	96 ГБ
2 бит ниже качество	38,1 ГБ	41,1 ГБ	64 ГБ

На каждом чипе Apple

Минимальный объем памяти каждого чипа, на котором запускается Ornith 1.5 122B, лучшая версия, которая помещается, и ожидаемая скорость генерации.

Чип	Нужно	Версия	Токенов/с
M6	ни один объем не подходит	Слишком большая	–
M5 Ultra	256 ГБ	8 бит Работает хорошо	51–91
M5 Max	128 ГБ	4 бит Работает хорошо	49–88
M5 Pro	64 ГБ	2 бит Работает хорошо	45–79
M5	ни один объем не подходит	Слишком большая	–
M4 Max	128 ГБ	4 бит Работает хорошо	44–78
M4 Pro	64 ГБ	2 бит Работает хорошо	40–70
M4	ни один объем не подходит	Слишком большая	–
M3 Ultra	256 ГБ	8 бит Работает хорошо	35–62
M3 Max	128 ГБ	4 бит Работает хорошо	32–57
M3 Pro	ни один объем не подходит	Слишком большая	–
M3	ни один объем не подходит	Слишком большая	–
M2 Ultra	128 ГБ	4 бит Работает хорошо	64–114
M2 Max	64 ГБ	2 бит Работает хорошо	58–103
M2 Pro	ни один объем не подходит	Слишком большая	–
M2	ни один объем не подходит	Слишком большая	–
M1 Ultra	128 ГБ	4 бит Работает хорошо	64–114
M1 Max	64 ГБ	2 бит Работает хорошо	58–103
M1 Pro	ни один объем не подходит	Слишком большая	–
M1	ни один объем не подходит	Слишком большая	–

Как запустить

Самый простой способ: скачайте MLX Harness — бесплатно и с открытым кодом. Найдите Ornith 1.5 122B, скачайте версию, которая подходит вашему Mac, и общайтесь. Приложение также отдает модель другим вашим программам через API, совместимый с OpenAI.Скачать MLX HarnessБесплатно · Apple Silicon · macOS 14.5 или новее
В Терминале с MLX от Apple: Готовой сборки MLX от сообщества пока нет, поэтому создайте ее из официальных весов:pip install mlx-lmmlx_lm.convert --hf-path ornith-ai/Ornith-1.5-122B -q

Пошагово: скачать и запустить LLM на Mac · как пользоваться MLX Harness · MLX, Ollama и llama.cpp

О модели Ornith 1.5 122B

Разработчик	Ornith AI
Параметры	122B всего · 10B активных (mixture of experts)
Контекст	токенов: 256K
Лицензия	MIT
Выпуск	2026-10
Ввод	Текст и изображения
Веса	ornith-ai/Ornith-1.5-122B

Вопросы

Сколько памяти нужно модели Ornith 1.5 122B?: Около 68,6 ГБ на веса (4 бит) плюс место для контекста: всего 74,1 ГБ. На Mac это значит 128 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти.
Насколько быстро Ornith 1.5 122B работает на Mac?: Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M2 Ultra с 128 ГБ: около 64–114 токенов в секунду (4 бит). Минимальный Mac, который ее запускает, — M2 Ultra с 128 ГБ — выдает около 64–114.
Почему Ornith 1.5 122B работает быстрее, чем можно ожидать по размеру?: Это модель mixture-of-experts: она держит в памяти 122B параметров, но на каждый токен читает только 10B, поэтому пишет со скоростью гораздо меньшей модели.

Для карточки модели или README

Показывает минимальный Mac, на котором Ornith 1.5 122B хорошо работает, и ведет сюда.

[![Runs on a Mac](https://mlx.app/badge/run/ornith-1.5-122b.svg)](https://mlx.app/run/ornith-1.5-122b)

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.