Скільки пам’яті потрібно моделі Recursive Flint?

Близько 22,4 ГБ на ваги (4 біт) плюс місце для контексту: загалом 24,2 ГБ. На Mac це означає 36 ГБ об’єднаної пам’яті або більше, адже за замовчуванням macOS дає GPU близько 75% пам’яті. Власному рушію Recursive, Rec, потрібен M4 Pro, M5 Pro або M5 Max щонайменше з 48 ГБ об’єднаної пам’яті (вимога розробника).

Наскільки швидко Recursive Flint працює на Mac?

Швидкість генерації залежить від пропускної здатності пам’яті. Найшвидший Mac для неї тут — M5 Ultra із 96 ГБ: близько 200–356 токенів за секунду (8 біт). Мінімальний Mac, що її запускає, — M5 Max із 36 ГБ — видає близько 148–263.

Чому Recursive Flint працює швидше, ніж можна очікувати з її розміру?

Це модель mixture-of-experts: вона тримає в пам’яті 39,8B параметрів, але на кожен токен читає лише 2,5B, тож пише зі швидкістю значно меншої моделі.

Чи потягне Mac Recursive Flint? Пам’ять і швидкість

Пам’ять за кожної точності

Версія	Ваги	З контекстом	Мінімальний Mac
8 біт	42,3 ГБ	45,7 ГБ	64 ГБ
6 біт	32,3 ГБ	34,9 ГБ	48 ГБ
4 біт	22,4 ГБ	24,2 ГБ	36 ГБ
3 біт нижча якість	17,4 ГБ	18,9 ГБ	32 ГБ
2 біт нижча якість	12,4 ГБ	13,9 ГБ	24 ГБ

На кожному чипі Apple

Мінімальний обсяг пам’яті кожного чипа, на якому запускається Recursive Flint, найкраща версія, що вміщується, і очікувана швидкість генерації.

Чип	Потрібно	Версія	Токенів/с
M6	24 ГБ	2 біт Працює добре	96–170
M5 Ultra	96 ГБ	8 біт Працює добре	200–356
M5 Max	36 ГБ	4 біт Працює добре	148–263
M5 Pro	48 ГБ	6 біт Працює добре	69–123
M5	24 ГБ	2 біт Працює добре	86–153
M4 Max	36 ГБ	4 біт Працює добре	132–234
M4 Pro	48 ГБ	6 біт Працює добре	61–109
M4	24 ГБ	2 біт Працює добре	68–120
M3 Ultra	96 ГБ	8 біт Працює добре	137–243
M3 Max	36 ГБ	4 біт Працює добре	96–171
M3 Pro	36 ГБ	4 біт Працює добре	48–86
M3	24 ГБ	2 біт Працює добре	56–100
M2 Ultra	64 ГБ	8 біт Працює добре	133–237
M2 Max	64 ГБ	8 біт Працює добре	67–119
M2 Pro	32 ГБ	3 біт Працює добре	82–145
M2	24 ГБ	2 біт Працює добре	56–100
M1 Ultra	64 ГБ	8 біт Працює добре	133–237
M1 Max	64 ГБ	8 біт Працює добре	67–119
M1 Pro	32 ГБ	3 біт Працює добре	82–145
M1	16 ГБ	2 біт Ледь вміщується	38–68

Виміряно іншими

Швидкість генерації Recursive Flint, яку інші люди виміряли на своїх Mac і опублікували. Це сторонні вимірювання, не наші, і не оцінки вище.

Mac	Середовище	Точність	Декодування tok/s	Джерело
Mac Studio M3 Ultra	Ollama (MLX engine)	INT4 (QAT)	107	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-lm (PR #1998)	INT4 (QAT)	104,5	Alec Kloss @aleckloss
Mac Studio M3 Ultra	mlx-vlm	BF16	51,3за контексту 1K	Prince Canuma @Prince_Canuma
Mac Studio M3 Ultra	mlx-vlm	BF16	33за контексту 128K	Prince Canuma @Prince_Canuma
Mac mini M5 Pro 64 ГБ	Ollama	4-bit	115	Pratik Gandhi @pratikg
Mac mini M5 Pro 64 ГБ	Ollama	4-bit	87за контексту 20K	Pratik Gandhi @pratikg

Результати залежать від середовища запуску й налаштувань: версія, точність, довжина контексту, промпт і увімкнене чи вимкнене міркування змінюють швидкість.

Як запустити

У Терміналі з Rec, власним рушієм розробника:curl -fsSL https://raw.githubusercontent.com/recursive-oss/rec/main/install.sh | bashrec launch piВимоги: M4 Pro, M5 Pro or M5 Max · at least 48 GB unified memory · about 30 GB free disk · Node.js 22 and npm (for pi)Збірка: RecursiveSI/flint-int4 на Hugging Face. Поруч лежать версії з іншою точністю.

Покроково: завантажити й запустити LLM на Mac · як користуватися MLX Harness · MLX, Ollama і llama.cpp

Про модель Recursive Flint

Розробник	Recursive
Параметри	39,8B усього · 2,5B активних (mixture of experts)
Контекст	токенів: 256K
Ліцензія	Apache-2.0
Випуск	2026-10
Вхідні дані	Текст
Ваги	RecursiveSI/flint

Запитання

Скільки пам’яті потрібно моделі Recursive Flint?: Близько 22,4 ГБ на ваги (4 біт) плюс місце для контексту: загалом 24,2 ГБ. На Mac це означає 36 ГБ об’єднаної пам’яті або більше, адже за замовчуванням macOS дає GPU близько 75% пам’яті. Власному рушію Recursive, Rec, потрібен M4 Pro, M5 Pro або M5 Max щонайменше з 48 ГБ об’єднаної пам’яті (вимога розробника).
Наскільки швидко Recursive Flint працює на Mac?: Швидкість генерації залежить від пропускної здатності пам’яті. Найшвидший Mac для неї тут — M5 Ultra із 96 ГБ: близько 200–356 токенів за секунду (8 біт). Мінімальний Mac, що її запускає, — M5 Max із 36 ГБ — видає близько 148–263.
Чому Recursive Flint працює швидше, ніж можна очікувати з її розміру?: Це модель mixture-of-experts: вона тримає в пам’яті 39,8B параметрів, але на кожен токен читає лише 2,5B, тож пише зі швидкістю значно меншої моделі.

Схожі моделі

Усі моделі · Усі Mac · Порівняти свій Mac

Для картки моделі або README

Показує мінімальний Mac, на якому Recursive Flint добре працює, і веде сюди.

[![Runs on a Mac](https://mlx.app/badge/run/flint.svg)](https://mlx.app/run/flint)

Як це розраховано

Пам’ять: параметри моделі за 8, 6, 4, 3 або 2 біт на вагу плюс групові масштаби MLX (пів біта на вагу) або її нативний формат, а зверху — місце для контексту. За замовчуванням macOS дає GPU близько 75% об’єднаної пам’яті. Швидкість: пропускна здатність пам’яті, поділена на кількість байтів, що читаються на кожен токен, — це стеля для однієї розмови; у публічних тестах llama.cpp на Apple Silicon реальні запуски досягають приблизно 45–80% від неї, і показано саме цей діапазон. Це оцінки, а не вимірювання: виміряйте свій Mac у MLX Bench. Дані моделей — з офіційних карток моделей, дані чипів — з технічних характеристик Apple. Перевірено 2026-10-19. Ті самі дані, що й на mlx.app/compare.

Відкриті дані: mlx.app/data (JSON, CSV)