並べて比較
| M5 Ultra | RTX PRO 6000 | |
|---|---|---|
| 種類 | Mac Studio (M5 Max or M5 Ultra) | デスクトップ PC 用のグラフィックカード |
| メモリ容量 | 96, 256, 512 GB | 96 GB |
| メモリ帯域幅 | 1,200 GB/s | 1,792 GB/s |
| モデルに使える最大量 | 約 384 GB | 約 95 GB |
| 快適に動くモデル | 73 中 61 | 73 中 50 |
| 実測: 生成 | 179 tok/s | 274 tok/s |
| 実測: プロンプトの読み込み | 4,945 tok/s | 14,855 tok/s |
実測の行: llama.cpp の公開ベンチマークで Llama 2 7B Q4_0 を使った各マシンの最速の結果です。128 トークンの生成（tg128）と 512 トークンのプロンプトの読み込み（pp512）を、毎秒トークン数で示しています。Mac は Metal、RTX PRO 6000 は CUDA で実行。Apple Silicon の結果 · RTX PRO 6000 の結果 モデルに使えるメモリは、RTX PRO 6000 は専用の 96 GB から約 1 GB を引いた量、Mac はユニファイドメモリの約 75%（macOS の初期設定）として計算しています。
それぞれが勝つところ
- 生成の速さ。 RTX PRO 6000 は M5 Ultra よりメモリの読み込みが約 49% 速く（1,792 GB/s 対 1,200 GB/s）、両方に収まるモデルなら約 49% 速く生成します。
- モデルの大きさ。 M5 Ultra はモデルに約 384 GB、RTX PRO 6000 は約 95 GB 使えます。 人気のオープンモデル 73 個のうち、M5 Ultra では 61 個、RTX PRO 6000 では 50 個が快適に動きます。
- 長いプロンプトの読み込み。 llama.cpp の実測では、RTX PRO 6000 がプロンプトを約 3 倍の速さで読み込みます（毎秒 14,855 対 4,945 トークン）。プロンプトの読み込みはメモリ帯域ではなく GPU の計算能力で決まり、長い文書やコードベースで最初の 1 語が出るまでの待ち時間を左右します。
- ソフトウェア。 RTX PRO 6000 は NVIDIA の CUDA で動きます。学習用のコードや多くの画像・動画ツールを含め、AI ソフトウェアの多くはまず CUDA に対応します。Mac では代わりに MLX、llama.cpp の Metal バックエンド、PyTorch の MPS バックエンドでモデルを動かします。
- まわりに必要なもの。 グラフィックカードには本体となる PC が必要で、専用の 96 GB が上限です。収まらないモデルは、はるかに遅い PC のメインメモリから一部を動かすか、2 枚目のカードに分ける必要があります。
- Mac。 毎日使うコンピュータでもあり、Apple Silicon 向けの MLX Harness と MLX Node が動きます。
人気モデルでの速度
1 つの会話での毎秒トークン数です。各チップは最大のメモリ構成（512 GB と 96 GB）で、収まる最適なバージョンのモデルを使っています。
| モデル | M5 Ultra | RTX PRO 6000 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 64–113 8ビット | 95–169 8ビット |
| gpt-oss-20b21B · アクティブ 3.6B | 284–505 ネイティブ 4.25ビット | 424–755 ネイティブ 4.25ビット |
| Qwen3.6 35B A3B35B · アクティブ 3B | 169–300 8ビット | 252–448 8ビット |
| Qwen3.8 27B27B | 19–33 8ビット | 28–50 8ビット |
| Llama 3.3 70B Instruct70B | 14–24 4ビット | 11–19 8ビット |
| gpt-oss-120b117B · アクティブ 5.1B | 200–356 ネイティブ 4.25ビット | 299–531 ネイティブ 4.25ビット |
| Qwen3.5 122B A10B122B · アクティブ 10B | 51–91 8ビット | 144–256 4ビット |
| DeepSeek V4 Flash 0731284B · アクティブ 13B | 39–70 8ビット | 大きすぎ |
よくある質問
- LLM では RTX PRO 6000 のほうが M5 Ultra より速い？
- RTX PRO 6000 は M5 Ultra よりメモリの読み込みが約 49% 速く（1,792 GB/s 対 1,200 GB/s）、両方に収まるモデルなら約 49% 速く生成します。 llama.cpp の実測では、RTX PRO 6000 がプロンプトを約 3 倍の速さで読み込みます（毎秒 14,855 対 4,945 トークン）。プロンプトの読み込みはメモリ帯域ではなく GPU の計算能力で決まり、長い文書やコードベースで最初の 1 語が出るまでの待ち時間を左右します。
- M5 Ultra と RTX PRO 6000、大きなモデルを動かせるのはどっち？
- M5 Ultra はモデルに約 384 GB、RTX PRO 6000 は約 95 GB 使えます。 人気のオープンモデル 73 個のうち、M5 Ultra では 61 個、RTX PRO 6000 では 50 個が快適に動きます。
- MLX Node は RTX PRO 6000 で動きますか？
- いいえ。MLX Node と MLX Harness は Apple の MLX フレームワークを使い、Apple Silicon 搭載の Mac でのみ動きます。
ほかの比較
計算方法
メモリ：モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール（重みあたり 0.5 ビット）を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度：メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。
RTX PRO 6000 のデータ: NVIDIA: RTX PRO 6000 Blackwell Workstation Edition, NVIDIA: RTX PRO Desktop GPUs (compare table)。