Бок о бок
Скорость с популярными моделями
Токенов в секунду для одного диалога, каждый чип с максимальной памятью (192 ГБ и 512 ГБ), с лучшей версией модели, которая помещается.
| Модель | M2 Ultra | M3 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8 бит | 43–77 8 бит |
| gpt-oss-20b21B · активных: 3,6B | 189–337 нативные 4,25 бит | 194–345 нативные 4,25 бит |
| Qwen3.6 35B A3B35B · активных: 3B | 113–200 8 бит | 115–205 8 бит |
| Qwen3.8 27B27B | 13–22 8 бит | 13–23 8 бит |
| Llama 3.3 70B Instruct70B | 5–9 8 бит | 5–9 8 бит |
| gpt-oss-120b117B · активных: 5,1B | 133–237 нативные 4,25 бит | 137–243 нативные 4,25 бит |
| Qwen3.5 122B A10B122B · активных: 10B | 34–60 8 бит | 35–62 8 бит |
| DeepSeek V4 Flash 0731284B · активных: 13B | 63–112 3 бит ниже качество | 27–47 8 бит |
Вопросы
- M3 Ultra быстрее, чем M2 Ultra, для LLM?
- Примерно одинаково: их пропускная способность памяти различается на несколько процентов. M3 Ultra поддерживает до 512 ГБ памяти, M2 Ultra — до 192 ГБ.
- Какой запускает модели крупнее: M2 Ultra или M3 Ultra?
- M3 Ultra: M3 Ultra поддерживает до 512 ГБ памяти, M2 Ultra — до 192 ГБ. С максимальной памятью он хорошо запускает 60 из 73 открытых моделей против 49.
Другие сравнения
- M1 Ultra vs M2 Ultra
- M2 Max vs M2 Ultra
- M2 Ultra vs M4 Max
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M3 Ultra vs M5 Ultra
M2 Ultra для локального ИИ · M3 Ultra для локального ИИ · Сравнить все модели · Лучший Mac для локальных LLM
Как это рассчитано
Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.