RTX 5090 быстрее, чем M5 Max, для LLM?

RTX 5090 читает память примерно на 192% быстрее, чем M5 Max (1 792 против 614 ГБ/с), поэтому с любой моделью, которая помещается в оба, генерирует примерно на 192% быстрее. В замере llama.cpp RTX 5090 читает промпт примерно в 4,4 раза быстрее (14 073 против 3 220 токенов в секунду). Чтение промпта зависит от вычислительной мощности GPU, а не от пропускной способности памяти, и именно оно задаёт ожидание до первого слова с длинным документом или кодовой базой.

Какой запускает модели крупнее: M5 Max или RTX 5090?

У M5 Max около 96 ГБ для моделей, у RTX 5090 — около 31 ГБ. 47 из 73 популярных открытых моделей хорошо работают на M5 Max, 38 — на RTX 5090.

Работает ли MLX Node на RTX 5090?

Нет. MLX Node и MLX Harness работают только на Mac с Apple Silicon, на фреймворке MLX от Apple.

M5 Max или RTX 5090 для LLM: память, скорость, что купить

Бок о бок

	M5 Max	RTX 5090
Что это	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Видеокарта для настольного ПК
Объемы памяти	36, 48, 64, 128 ГБ	32 ГБ
Пропускная способность памяти	460–614 ГБ/с	1 792 ГБ/с
Для моделей, максимум	около 96 ГБ	около 31 ГБ
Хорошо работающие модели	47 из 73	38 из 73
Измерено: генерация	120 tok/s	290 tok/s
Измерено: чтение промпта	3 220 tok/s	14 073 tok/s

Строки с замерами: лучший результат каждой машины в открытых бенчмарках llama.cpp с Llama 2 7B Q4_0 — генерация 128 токенов (tg128) и чтение промпта из 512 токенов (pp512), в токенах в секунду. Mac работал через Metal, RTX 5090 — через CUDA. Результаты Apple Silicon · Результаты RTX 5090 Для моделей мы считаем собственные 32 ГБ у RTX 5090 минус около 1 ГБ и около 75% общей памяти Mac — значение macOS по умолчанию.

Где кто выигрывает

Скорость генерации. RTX 5090 читает память примерно на 192% быстрее, чем M5 Max (1 792 против 614 ГБ/с), поэтому с любой моделью, которая помещается в оба, генерирует примерно на 192% быстрее.
Размер моделей. У M5 Max около 96 ГБ для моделей, у RTX 5090 — около 31 ГБ. 47 из 73 популярных открытых моделей хорошо работают на M5 Max, 38 — на RTX 5090.
Чтение длинных промптов. В замере llama.cpp RTX 5090 читает промпт примерно в 4,4 раза быстрее (14 073 против 3 220 токенов в секунду). Чтение промпта зависит от вычислительной мощности GPU, а не от пропускной способности памяти, и именно оно задаёт ожидание до первого слова с длинным документом или кодовой базой.
Программы. RTX 5090 работает с CUDA от NVIDIA, которую большинство ИИ-программ поддерживает в первую очередь, включая код для обучения и многие инструменты для изображений и видео. На Mac модели запускают через MLX, бэкенд Metal в llama.cpp или бэкенд MPS в PyTorch.
Что вокруг. Видеокарте нужен ПК вокруг, а её собственные 32 ГБ — это предел: модель, которая не помещается, приходится частично запускать из гораздо более медленной системной памяти ПК или делить со второй картой.
Mac. Это ещё и компьютер на каждый день, и на нём работают MLX Harness и MLX Node, созданные для Apple Silicon.

Скорость с популярными моделями

Токенов в секунду для одного диалога, каждый чип с максимальной памятью (128 ГБ и 32 ГБ), с лучшей версией модели, которая помещается.

Модель	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8 бит	95–169 8 бит
gpt-oss-20b21B · активных: 3,6B	145–259 нативные 4,25 бит	424–755 нативные 4,25 бит
Qwen3.6 35B A3B35B · активных: 3B	86–154 8 бит	336–597 6 бит
Qwen3.8 27B27B	10–17 8 бит	28–50 8 бит
Llama 3.3 70B Instruct70B	4–7 8 бит	37–65 2 бит ниже качество
gpt-oss-120b117B · активных: 5,1B	102–182 нативные 4,25 бит	слишком большая
Qwen3.5 122B A10B122B · активных: 10B	49–88 4 бит	слишком большая
DeepSeek V4 Flash 0731284B · активных: 13B	67–120 2 бит ниже качество	слишком большая

Вопросы

RTX 5090 быстрее, чем M5 Max, для LLM?: RTX 5090 читает память примерно на 192% быстрее, чем M5 Max (1 792 против 614 ГБ/с), поэтому с любой моделью, которая помещается в оба, генерирует примерно на 192% быстрее. В замере llama.cpp RTX 5090 читает промпт примерно в 4,4 раза быстрее (14 073 против 3 220 токенов в секунду). Чтение промпта зависит от вычислительной мощности GPU, а не от пропускной способности памяти, и именно оно задаёт ожидание до первого слова с длинным документом или кодовой базой.
Какой запускает модели крупнее: M5 Max или RTX 5090?: У M5 Max около 96 ГБ для моделей, у RTX 5090 — около 31 ГБ. 47 из 73 популярных открытых моделей хорошо работают на M5 Max, 38 — на RTX 5090.
Работает ли MLX Node на RTX 5090?: Нет. MLX Node и MLX Harness работают только на Mac с Apple Silicon, на фреймворке MLX от Apple.

Другие сравнения

M5 Max для локального ИИ · Сравнить все модели · Лучший Mac для локальных LLM

Как это рассчитано

Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.

Данные RTX 5090: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).