Бок о бок
Скорость с популярными моделями
Токенов в секунду для одного диалога, каждый чип с максимальной памятью (128 ГБ и 192 ГБ), с лучшей версией модели, которая помещается.
| Модель | M1 Ultra | M2 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8 бит | 42–75 8 бит |
| gpt-oss-20b21B · активных: 3,6B | 189–337 нативные 4,25 бит | 189–337 нативные 4,25 бит |
| Qwen3.6 35B A3B35B · активных: 3B | 113–200 8 бит | 113–200 8 бит |
| Qwen3.8 27B27B | 13–22 8 бит | 13–22 8 бит |
| Llama 3.3 70B Instruct70B | 5–9 8 бит | 5–9 8 бит |
| gpt-oss-120b117B · активных: 5,1B | 133–237 нативные 4,25 бит | 133–237 нативные 4,25 бит |
| Qwen3.5 122B A10B122B · активных: 10B | 64–114 4 бит | 34–60 8 бит |
| DeepSeek V4 Flash 0731284B · активных: 13B | 88–156 2 бит ниже качество | 63–112 3 бит ниже качество |
Вопросы
- M2 Ultra быстрее, чем M1 Ultra, для LLM?
- Примерно одинаково: их пропускная способность памяти различается на несколько процентов. M2 Ultra поддерживает до 192 ГБ памяти, M1 Ultra — до 128 ГБ.
- Какой запускает модели крупнее: M1 Ultra или M2 Ultra?
- M2 Ultra: M2 Ultra поддерживает до 192 ГБ памяти, M1 Ultra — до 128 ГБ. С максимальной памятью он хорошо запускает 49 из 73 открытых моделей против 47.
Другие сравнения
M1 Ultra для локального ИИ · M2 Ultra для локального ИИ · Сравнить все модели · Лучший Mac для локальных LLM
Как это рассчитано
Память: параметры модели при 8, 6, 4, 3 или 2 битах на вес плюс групповые масштабы MLX (полбита на вес) или ее нативный формат, а сверху — место для контекста. По умолчанию macOS отдает GPU около 75% объединенной памяти. Скорость: пропускная способность памяти, деленная на число байтов, читаемых на каждый токен, — это потолок для одного диалога; в публичных тестах llama.cpp на Apple Silicon реальные запуски достигают примерно 45–80% от него, и показан именно этот диапазон. Это оценки, а не измерения: измерьте свой Mac в MLX Bench. Данные моделей — из официальных карточек моделей, данные чипов — из технических характеристик Apple. Проверено 2026-10-19. Те же данные, что и на mlx.app/compare.