Il RTX 5090 è più veloce del M5 Max per gli LLM?

Il RTX 5090 legge la memoria circa il 192% più velocemente del M5 Max (1792 contro 614 GB/s), quindi scrive circa il 192% più velocemente con qualsiasi modello che stia in entrambi. Nel test misurato di llama.cpp il RTX 5090 legge un prompt circa 4,4× più velocemente (14.073 contro 3220 token al secondo). La lettura di un prompt dipende dalla potenza di calcolo della GPU, non dalla banda della memoria, e determina l’attesa prima della prima parola con un documento lungo o una codebase.

Quale esegue modelli più grandi, il M5 Max o il RTX 5090?

Il M5 Max ha circa 96 GB per i modelli, il RTX 5090 circa 31 GB. 47 dei 73 modelli aperti più popolari girano bene sul M5 Max, 38 sul RTX 5090.

MLX Node funziona sul RTX 5090?

No. MLX Node e MLX Harness funzionano solo sui Mac con Apple Silicon, con il framework MLX di Apple.

M5 Max vs RTX 5090 per LLM: memoria, velocità, quale comprare

Fianco a fianco

	M5 Max	RTX 5090
Che cos’è	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	Una scheda grafica per PC desktop
Tagli di memoria	36, 48, 64, 128 GB	32 GB
Larghezza di banda della memoria	460–614 GB/s	1792 GB/s
Per i modelli, al massimo	circa 96 GB	circa 31 GB
Modelli che girano bene	47 su 73	38 su 73
Misurato: scrittura	120 tok/s	290 tok/s
Misurato: lettura del prompt	3220 tok/s	14.073 tok/s

Righe misurate: il risultato più veloce di ogni macchina nei benchmark pubblici di llama.cpp con Llama 2 7B Q4_0, scrivendo 128 token (tg128) e leggendo un prompt di 512 token (pp512), in token al secondo. Il Mac usava Metal, il RTX 5090 CUDA. Risultati Apple Silicon · Risultati del RTX 5090 Per i modelli contiamo i 32 GB propri del RTX 5090 meno circa 1 GB, e circa il 75% della memoria unificata del Mac, il valore predefinito di macOS.

Dove vince ciascuno

Velocità di scrittura. Il RTX 5090 legge la memoria circa il 192% più velocemente del M5 Max (1792 contro 614 GB/s), quindi scrive circa il 192% più velocemente con qualsiasi modello che stia in entrambi.
Dimensione dei modelli. Il M5 Max ha circa 96 GB per i modelli, il RTX 5090 circa 31 GB. 47 dei 73 modelli aperti più popolari girano bene sul M5 Max, 38 sul RTX 5090.
Lettura di prompt lunghi. Nel test misurato di llama.cpp il RTX 5090 legge un prompt circa 4,4× più velocemente (14.073 contro 3220 token al secondo). La lettura di un prompt dipende dalla potenza di calcolo della GPU, non dalla banda della memoria, e determina l’attesa prima della prima parola con un documento lungo o una codebase.
Software. Il RTX 5090 usa CUDA di NVIDIA, che la maggior parte del software di IA supporta per primo, compresi il codice di addestramento e molti strumenti per immagini e video. Su un Mac i modelli girano invece con MLX, il backend Metal di llama.cpp o il backend MPS di PyTorch.
Intorno. Una scheda grafica ha bisogno di un PC intorno, e i suoi 32 GB sono il limite: un modello che non ci sta deve girare in parte dalla memoria di sistema del PC, molto più lenta, o su una seconda scheda.
Il Mac. È anche un computer per tutti i giorni, e fa girare MLX Harness e MLX Node, pensati per Apple Silicon.

Velocità con i modelli più popolari

Token al secondo per una conversazione, ogni chip con il suo taglio di memoria più grande (128 GB e 32 GB), con la versione migliore del modello che ci sta.

Modello	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8 bit	95–169 8 bit
gpt-oss-20b21B · 3,6B attivi	145–259 4,25 bit nativo	424–755 4,25 bit nativo
Qwen3.6 35B A3B35B · 3B attivi	86–154 8 bit	336–597 6 bit
Qwen3.8 27B27B	10–17 8 bit	28–50 8 bit
Llama 3.3 70B Instruct70B	4–7 8 bit	37–65 2 bit qualità inferiore
gpt-oss-120b117B · 5,1B attivi	102–182 4,25 bit nativo	troppo grande
Qwen3.5 122B A10B122B · 10B attivi	49–88 4 bit	troppo grande
DeepSeek V4 Flash 0731284B · 13B attivi	67–120 2 bit qualità inferiore	troppo grande

Domande

Il RTX 5090 è più veloce del M5 Max per gli LLM?: Il RTX 5090 legge la memoria circa il 192% più velocemente del M5 Max (1792 contro 614 GB/s), quindi scrive circa il 192% più velocemente con qualsiasi modello che stia in entrambi. Nel test misurato di llama.cpp il RTX 5090 legge un prompt circa 4,4× più velocemente (14.073 contro 3220 token al secondo). La lettura di un prompt dipende dalla potenza di calcolo della GPU, non dalla banda della memoria, e determina l’attesa prima della prima parola con un documento lungo o una codebase.
Quale esegue modelli più grandi, il M5 Max o il RTX 5090?: Il M5 Max ha circa 96 GB per i modelli, il RTX 5090 circa 31 GB. 47 dei 73 modelli aperti più popolari girano bene sul M5 Max, 38 sul RTX 5090.
MLX Node funziona sul RTX 5090?: No. MLX Node e MLX Harness funzionano solo sui Mac con Apple Silicon, con il framework MLX di Apple.

Altri confronti

Il M5 Max per l’AI locale · Confronta tutti i modelli · Il miglior Mac per LLM in locale

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

Dati del RTX 5090: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).