LLM では DGX Spark のほうが M5 Ultra より速い？

M5 Ultra は DGX Spark よりメモリの読み込みが約 340% 速く（1,200 GB/s 対 273 GB/s）、両方に収まるモデルなら約 340% 速く生成します。 llama.cpp の実測では、M5 Ultra がプロンプトを約 1.6 倍の速さで読み込みます（毎秒 4,945 対 3,062 トークン）。プロンプトの読み込みはメモリ帯域ではなく GPU の計算能力で決まり、長い文書やコードベースで最初の 1 語が出るまでの待ち時間を左右します。

M5 Ultra と DGX Spark、大きなモデルを動かせるのはどっち？

M5 Ultra はモデルに約 384 GB、DGX Spark は約 96 GB 使えます。人気のオープンモデル 73 個のうち、M5 Ultra では 61 個、DGX Spark では 39 個が快適に動きます。

MLX Node は DGX Spark で動きますか？

いいえ。MLX Node と MLX Harness は Apple の MLX フレームワークを使い、Apple Silicon 搭載の Mac でのみ動きます。

M5 Ultra と DGX Spark、ローカル AI と LLM ならどっち？メモリ・速度・選び方

Q: M5 Ultra と DGX Spark、大きなモデルを動かせるのはどっち？

M5 Ultra はモデルに約 384 GB、DGX Spark は約 96 GB 使えます。 人気のオープンモデル 73 個のうち、M5 Ultra では 61 個、DGX Spark では 39 個が快適に動きます。

並べて比較

	M5 Ultra	DGX Spark
種類	Mac Studio (M5 Max or M5 Ultra)	それだけで動く小型コンピュータ
メモリ容量	96, 256, 512 GB	128 GB
メモリ帯域幅	1,200 GB/s	273 GB/s
モデルに使える最大量	約 384 GB	約 96 GB
快適に動くモデル	73 中 61	73 中 39
実測: 生成	179 tok/s	57 tok/s
実測: プロンプトの読み込み	4,945 tok/s	3,062 tok/s

実測の行: llama.cpp の公開ベンチマークで Llama 2 7B Q4_0 を使った各マシンの最速の結果です。128 トークンの生成（tg128）と 512 トークンのプロンプトの読み込み（pp512）を、毎秒トークン数で示しています。Mac は Metal、DGX Spark は CUDA で実行。Apple Silicon の結果 · DGX Spark の結果モデルに使えるメモリは、どちらも macOS の初期設定と同じ約 75% として計算しています。DGX Spark も CPU と GPU で 1 つのメモリを共有しているためです。GPU が実際にどれだけ使えるかは OS と設定によります。

それぞれが勝つところ

生成の速さ。 M5 Ultra は DGX Spark よりメモリの読み込みが約 340% 速く（1,200 GB/s 対 273 GB/s）、両方に収まるモデルなら約 340% 速く生成します。
モデルの大きさ。 M5 Ultra はモデルに約 384 GB、DGX Spark は約 96 GB 使えます。人気のオープンモデル 73 個のうち、M5 Ultra では 61 個、DGX Spark では 39 個が快適に動きます。
長いプロンプトの読み込み。 llama.cpp の実測では、M5 Ultra がプロンプトを約 1.6 倍の速さで読み込みます（毎秒 4,945 対 3,062 トークン）。プロンプトの読み込みはメモリ帯域ではなく GPU の計算能力で決まり、長い文書やコードベースで最初の 1 語が出るまでの待ち時間を左右します。
ソフトウェア。 DGX Spark は NVIDIA の CUDA で動きます。学習用のコードや多くの画像・動画ツールを含め、AI ソフトウェアの多くはまず CUDA に対応します。Mac では代わりに MLX、llama.cpp の Metal バックエンド、PyTorch の MPS バックエンドでモデルを動かします。
まわりに必要なもの。 どちらもそれだけで動くコンピュータで、CPU と GPU が共有する 1 つのメモリにモデルを置きます。
Mac。 毎日使うコンピュータでもあり、Apple Silicon 向けの MLX Harness と MLX Node が動きます。

モデル	M5 Ultra	DGX Spark
Llama 3.1 8B Instruct8B	64–113 8ビット	14–26 8ビット
gpt-oss-20b21B · アクティブ 3.6B	284–505 ネイティブ 4.25ビット	65–115 ネイティブ 4.25ビット
Qwen3.6 35B A3B35B · アクティブ 3B	169–300 8ビット	38–68 8ビット
Qwen3.8 27B27B	19–33 8ビット	4–8 8ビット
Llama 3.3 70B Instruct70B	14–24 4ビット	2–3 8ビット
gpt-oss-120b117B · アクティブ 5.1B	200–356 ネイティブ 4.25ビット	45–81 ネイティブ 4.25ビット
Qwen3.5 122B A10B122B · アクティブ 10B	51–91 8ビット	22–39 4ビット
DeepSeek V4 Flash 0731284B · アクティブ 13B	39–70 8ビット	30–53 2ビット品質低め

よくある質問

LLM では DGX Spark のほうが M5 Ultra より速い？: M5 Ultra は DGX Spark よりメモリの読み込みが約 340% 速く（1,200 GB/s 対 273 GB/s）、両方に収まるモデルなら約 340% 速く生成します。 llama.cpp の実測では、M5 Ultra がプロンプトを約 1.6 倍の速さで読み込みます（毎秒 4,945 対 3,062 トークン）。プロンプトの読み込みはメモリ帯域ではなく GPU の計算能力で決まり、長い文書やコードベースで最初の 1 語が出るまでの待ち時間を左右します。
M5 Ultra と DGX Spark、大きなモデルを動かせるのはどっち？: M5 Ultra はモデルに約 384 GB、DGX Spark は約 96 GB 使えます。人気のオープンモデル 73 個のうち、M5 Ultra では 61 個、DGX Spark では 39 個が快適に動きます。
MLX Node は DGX Spark で動きますか？: いいえ。MLX Node と MLX Harness は Apple の MLX フレームワークを使い、Apple Silicon 搭載の Mac でのみ動きます。

ほかの比較

ローカル AI のための M5 Ultra · すべてのモデルを比較 · ローカル LLM に最適な Mac

計算方法

メモリ：モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール（重みあたり 0.5 ビット）を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度：メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

DGX Spark のデータ: NVIDIA: DGX Spark (specs)。

ローカル AI で比べる M5 Ultra と DGX Spark。