メモリ容量別
| メモリ | 快適に動く | 快適に動く最大のモデル | gpt-oss-20b |
|---|---|---|---|
| 64 GB800 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 189–337 tok/s |
| 128 GB800 GB/s | 47 | Qwen3.5 122B A10B | 189–337 tok/s |
| 192 GB800 GB/s | 49 | MiniMax M2.7 | 189–337 tok/s |
対象機種:Mac Pro (2023), Mac Pro (Rack, 2023)。 すべての機種ですべてのメモリ容量が選べるわけではありません。各機種の構成は Apple の技術仕様で確認できます。
よくある質問
- M2 Ultra 搭載 Mac Pro はローカル LLM に向いている?
- 192 GB なら 73 個のオープンモデルのうち 49 個が快適に動き(最大 MiniMax M2.7)、gpt-oss-20b では毎秒約 189–337 トークンを生成します。M2 Ultra のメモリ読み込み速度は 800 GB/s。これが生成の速さを決めます。
- AI 用なら、M2 Ultra 搭載 Mac Pro のメモリはどれくらい必要?
- 64 GB なら 39 個のオープンモデルが快適に動き、192 GB なら 49 個(最大 MiniMax M2.7)です。どのモデルが収まるかはメモリで決まり、あとから増設できません。
ほかの Mac
M2 Ultra を搭載したほかの Mac:
直接比較:
計算方法
メモリ:モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール(重みあたり 0.5 ビット)を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度:メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。