LLM では RTX 5090 のほうが M5 Max より速い？

RTX 5090 は M5 Max よりメモリの読み込みが約 192% 速く（1,792 GB/s 対 614 GB/s）、両方に収まるモデルなら約 192% 速く生成します。 llama.cpp の実測では、RTX 5090 がプロンプトを約 4.4 倍の速さで読み込みます（毎秒 14,073 対 3,220 トークン）。プロンプトの読み込みはメモリ帯域ではなく GPU の計算能力で決まり、長い文書やコードベースで最初の 1 語が出るまでの待ち時間を左右します。

M5 Max と RTX 5090、大きなモデルを動かせるのはどっち？

M5 Max はモデルに約 96 GB、RTX 5090 は約 31 GB 使えます。人気のオープンモデル 73 個のうち、M5 Max では 47 個、RTX 5090 では 38 個が快適に動きます。

MLX Node は RTX 5090 で動きますか？

いいえ。MLX Node と MLX Harness は Apple の MLX フレームワークを使い、Apple Silicon 搭載の Mac でのみ動きます。

M5 Max と RTX 5090、ローカル AI と LLM ならどっち？メモリ・速度・選び方

Q: M5 Max と RTX 5090、大きなモデルを動かせるのはどっち？

M5 Max はモデルに約 96 GB、RTX 5090 は約 31 GB 使えます。 人気のオープンモデル 73 個のうち、M5 Max では 47 個、RTX 5090 では 38 個が快適に動きます。

並べて比較

	M5 Max	RTX 5090
種類	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	デスクトップ PC 用のグラフィックカード
メモリ容量	36, 48, 64, 128 GB	32 GB
メモリ帯域幅	460–614 GB/s	1,792 GB/s
モデルに使える最大量	約 96 GB	約 31 GB
快適に動くモデル	73 中 47	73 中 38
実測: 生成	120 tok/s	290 tok/s
実測: プロンプトの読み込み	3,220 tok/s	14,073 tok/s

実測の行: llama.cpp の公開ベンチマークで Llama 2 7B Q4_0 を使った各マシンの最速の結果です。128 トークンの生成（tg128）と 512 トークンのプロンプトの読み込み（pp512）を、毎秒トークン数で示しています。Mac は Metal、RTX 5090 は CUDA で実行。Apple Silicon の結果 · RTX 5090 の結果モデルに使えるメモリは、RTX 5090 は専用の 32 GB から約 1 GB を引いた量、Mac はユニファイドメモリの約 75%（macOS の初期設定）として計算しています。

それぞれが勝つところ

生成の速さ。 RTX 5090 は M5 Max よりメモリの読み込みが約 192% 速く（1,792 GB/s 対 614 GB/s）、両方に収まるモデルなら約 192% 速く生成します。
モデルの大きさ。 M5 Max はモデルに約 96 GB、RTX 5090 は約 31 GB 使えます。人気のオープンモデル 73 個のうち、M5 Max では 47 個、RTX 5090 では 38 個が快適に動きます。
長いプロンプトの読み込み。 llama.cpp の実測では、RTX 5090 がプロンプトを約 4.4 倍の速さで読み込みます（毎秒 14,073 対 3,220 トークン）。プロンプトの読み込みはメモリ帯域ではなく GPU の計算能力で決まり、長い文書やコードベースで最初の 1 語が出るまでの待ち時間を左右します。
ソフトウェア。 RTX 5090 は NVIDIA の CUDA で動きます。学習用のコードや多くの画像・動画ツールを含め、AI ソフトウェアの多くはまず CUDA に対応します。Mac では代わりに MLX、llama.cpp の Metal バックエンド、PyTorch の MPS バックエンドでモデルを動かします。
まわりに必要なもの。 グラフィックカードには本体となる PC が必要で、専用の 32 GB が上限です。収まらないモデルは、はるかに遅い PC のメインメモリから一部を動かすか、2 枚目のカードに分ける必要があります。
Mac。 毎日使うコンピュータでもあり、Apple Silicon 向けの MLX Harness と MLX Node が動きます。

モデル	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8ビット	95–169 8ビット
gpt-oss-20b21B · アクティブ 3.6B	145–259 ネイティブ 4.25ビット	424–755 ネイティブ 4.25ビット
Qwen3.6 35B A3B35B · アクティブ 3B	86–154 8ビット	336–597 6ビット
Qwen3.8 27B27B	10–17 8ビット	28–50 8ビット
Llama 3.3 70B Instruct70B	4–7 8ビット	37–65 2ビット品質低め
gpt-oss-120b117B · アクティブ 5.1B	102–182 ネイティブ 4.25ビット	大きすぎ
Qwen3.5 122B A10B122B · アクティブ 10B	49–88 4ビット	大きすぎ
DeepSeek V4 Flash 0731284B · アクティブ 13B	67–120 2ビット品質低め	大きすぎ

よくある質問

LLM では RTX 5090 のほうが M5 Max より速い？: RTX 5090 は M5 Max よりメモリの読み込みが約 192% 速く（1,792 GB/s 対 614 GB/s）、両方に収まるモデルなら約 192% 速く生成します。 llama.cpp の実測では、RTX 5090 がプロンプトを約 4.4 倍の速さで読み込みます（毎秒 14,073 対 3,220 トークン）。プロンプトの読み込みはメモリ帯域ではなく GPU の計算能力で決まり、長い文書やコードベースで最初の 1 語が出るまでの待ち時間を左右します。
M5 Max と RTX 5090、大きなモデルを動かせるのはどっち？: M5 Max はモデルに約 96 GB、RTX 5090 は約 31 GB 使えます。人気のオープンモデル 73 個のうち、M5 Max では 47 個、RTX 5090 では 38 個が快適に動きます。
MLX Node は RTX 5090 で動きますか？: いいえ。MLX Node と MLX Harness は Apple の MLX フレームワークを使い、Apple Silicon 搭載の Mac でのみ動きます。

ほかの比較

ローカル AI のための M5 Max · すべてのモデルを比較 · ローカル LLM に最適な Mac

計算方法

メモリ：モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール（重みあたり 0.5 ビット）を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度：メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

RTX 5090 のデータ: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4)。

ローカル AI で比べる M5 Max と RTX 5090。