Запустится ли Recursive Flint на Mac?

Да, с 36 ГБ объединенной памяти или больше. У Recursive Flint 39,8B параметров, из них 2,5B активны для каждого токена. Ниже — сколько памяти ей нужно при каждой точности и с какой скоростью ее запускает каждый чип Apple. Собственному движку Recursive, Rec, нужен M4 Pro, M5 Pro или M5 Max минимум с 48 ГБ объединенной памяти (требование разработчика). Цифры памяти и скорости на этой странице — оценки для обычной сборки MLX.

Обновлено

Память (4 бит)24,2 ГБвеса 22,4 ГБ + контекст
Минимальный Mac36 ГБ4 бит, оценка · Rec нужно 48 ГБ
Самый быстрый Mac200–356токенов/с · M5 Ultra 96 ГБ (оценка)

Память при каждой точности

ВерсияВесаС контекстомМинимальный Mac
8 бит42,3 ГБ45,7 ГБ64 ГБ
6 бит32,3 ГБ34,9 ГБ48 ГБ
4 бит22,4 ГБ24,2 ГБ36 ГБ
3 бит ниже качество17,4 ГБ18,9 ГБ32 ГБ
2 бит ниже качество12,4 ГБ13,9 ГБ24 ГБ

На каждом чипе Apple

Минимальный объем памяти каждого чипа, на котором запускается Recursive Flint, лучшая версия, которая помещается, и ожидаемая скорость генерации.

ЧипНужноВерсияТокенов/с
M624 ГБ2 бит Работает хорошо96–170
M5 Ultra96 ГБ8 бит Работает хорошо200–356
M5 Max36 ГБ4 бит Работает хорошо148–263
M5 Pro48 ГБ6 бит Работает хорошо69–123
M524 ГБ2 бит Работает хорошо86–153
M4 Max36 ГБ4 бит Работает хорошо132–234
M4 Pro48 ГБ6 бит Работает хорошо61–109
M424 ГБ2 бит Работает хорошо68–120
M3 Ultra96 ГБ8 бит Работает хорошо137–243
M3 Max36 ГБ4 бит Работает хорошо96–171
M3 Pro36 ГБ4 бит Работает хорошо48–86
M324 ГБ2 бит Работает хорошо56–100
M2 Ultra64 ГБ8 бит Работает хорошо133–237
M2 Max64 ГБ8 бит Работает хорошо67–119
M2 Pro32 ГБ3 бит Работает хорошо82–145
M224 ГБ2 бит Работает хорошо56–100
M1 Ultra64 ГБ8 бит Работает хорошо133–237
M1 Max64 ГБ8 бит Работает хорошо67–119
M1 Pro32 ГБ3 бит Работает хорошо82–145
M116 ГБ2 бит Еле помещается38–68

Измерено другими

Скорость генерации Recursive Flint, которую другие люди измерили на своих Mac и опубликовали. Это сторонние измерения, не наши, и не оценки выше.

MacСреда запускаТочностьДекодирование tok/sИсточник
Mac Studio M3 UltraOllama (MLX engine)INT4 (QAT)107Alec Kloss @aleckloss
Mac Studio M3 Ultramlx-lm (PR #1998)INT4 (QAT)104,5Alec Kloss @aleckloss
Mac Studio M3 Ultramlx-vlmBF1651,3при контексте 1KPrince Canuma @Prince_Canuma
Mac Studio M3 Ultramlx-vlmBF1633при контексте 128KPrince Canuma @Prince_Canuma
Mac mini M5 Pro 64 ГБOllama4-bit115Pratik Gandhi @pratikg
Mac mini M5 Pro 64 ГБOllama4-bit87при контексте 20KPratik Gandhi @pratikg

Результаты зависят от среды запуска и настроек: версия, точность, длина контекста, промпт и включённое или выключенное рассуждение меняют скорость.

Как запустить

  1. В Терминале с Rec, собственным движком разработчика:curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piТребования: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Сборка: RecursiveSI/flint-int4 на Hugging Face. Рядом лежат версии с другой точностью.

Пошагово: скачать и запустить LLM на Mac · как пользоваться MLX Harness · MLX, Ollama и llama.cpp

О модели Recursive Flint

РазработчикRecursive
Параметры39,8B всего · 2,5B активных (mixture of experts)
Контексттокенов: 256K
ЛицензияApache-2.0
Выпуск2026-10
ВводТекст
ВесаRecursiveSI/flint

Вопросы

Сколько памяти нужно модели Recursive Flint?
Около 22,4 ГБ на веса (4 бит) плюс место для контекста: всего 24,2 ГБ. На Mac это значит 36 ГБ объединенной памяти или больше, ведь по умолчанию macOS отдает GPU около 75% памяти. Собственному движку Recursive, Rec, нужен M4 Pro, M5 Pro или M5 Max минимум с 48 ГБ объединенной памяти (требование разработчика).
Насколько быстро Recursive Flint работает на Mac?
Скорость генерации зависит от пропускной способности памяти. Самый быстрый Mac для нее здесь — M5 Ultra с 96 ГБ: около 200–356 токенов в секунду (8 бит). Минимальный Mac, который ее запускает, — M5 Max с 36 ГБ — выдает около 148–263.
Почему Recursive Flint работает быстрее, чем можно ожидать по размеру?
Это модель mixture-of-experts: она держит в памяти 39,8B параметров, но на каждый токен читает только 2,5B, поэтому пишет со скоростью гораздо меньшей модели.

Похожие модели

Все модели · Все Mac · Сравнить свой Mac

Для карточки модели или README

Runs on a Mac: Recursive Flint Показывает минимальный Mac, на котором Recursive Flint хорошо работает, и ведет сюда.

[![Runs on a Mac](https://mlx.app/badge/run/flint.svg)](https://mlx.app/run/flint)

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.

Открытые данные: mlx.app/data (JSON, CSV)

Запустится ли Recursive Flint на Mac? Память, скорость