LLM-களுக்கு RTX 5090, M5 Max-ஐ விட வேகமானதா?

RTX 5090, M5 Max-ஐ விட சுமார் 192% வேகமாக மெமரியைப் படிக்கிறது (1,792 vs 614 GB/s), எனவே இரண்டிலும் பொருந்தும் எந்த மாடலிலும் சுமார் 192% வேகமாக எழுதுகிறது. llama.cpp-இன் அளந்த சோதனையில் RTX 5090 ஒரு ப்ராம்ப்ட்டைச் சுமார் 4.4× வேகமாகப் படிக்கிறது (விநாடிக்கு 14,073 vs 3,220 டோக்கன்கள்). ப்ராம்ப்ட் படித்தல் மெமரி பேண்ட்வித்தை அல்ல, GPU-வின் கணக்கீட்டுத் திறனைச் சார்ந்தது; நீண்ட ஆவணம் அல்லது கோட்பேஸுடன் முதல் சொல் வரை எவ்வளவு காத்திருக்க வேண்டும் என்பதை இதுவே தீர்மானிக்கிறது.

பெரிய மாடல்களை எது இயக்கும், M5 Max-ஆ RTX 5090-ஆ?

M5 Max-இல் மாடல்களுக்குச் சுமார் 96 GB உள்ளது, RTX 5090-இல் சுமார் 31 GB. 73 பிரபல திறந்த மாடல்களில் 47 M5 Max-இல் நன்றாக இயங்குகின்றன, 38 RTX 5090-இல்.

MLX Node RTX 5090-இல் இயங்குமா?

இல்லை. MLX Node மற்றும் MLX Harness Apple Silicon Mac-களில் மட்டும், Apple-இன் MLX ஃப்ரேம்வொர்க்குடன் இயங்கும்.

LLM-களுக்கு M5 Max vs RTX 5090: மெமரி, வேகம், எதை வாங்குவது

அருகருகே

	M5 Max	RTX 5090
இது என்ன	MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)	டெஸ்க்டாப் PC-க்கான கிராஃபிக்ஸ் கார்டு
மெமரி அளவுகள்	36, 48, 64, 128 GB	32 GB
மெமரி பேண்ட்வித்	460–614 GB/s	1,792 GB/s
மாடல்களுக்கு, அதிகபட்சம்	சுமார் 96 GB	சுமார் 31 GB
நன்றாக இயங்கும் மாடல்கள்	73-இல் 47	73-இல் 38
அளந்தது: எழுதுதல்	120 tok/s	290 tok/s
அளந்தது: ப்ராம்ப்ட் படித்தல்	3,220 tok/s	14,073 tok/s

அளந்த வரிசைகள்: llama.cpp-இன் பொது பெஞ்ச்மார்க்குகளில் Llama 2 7B Q4_0 உடன் ஒவ்வொரு கணினியின் வேகமான முடிவு, 128 டோக்கன்கள் எழுதும்போது (tg128) மற்றும் 512 டோக்கன் ப்ராம்ப்ட்டைப் படிக்கும்போது (pp512), ஒரு விநாடிக்கு டோக்கன்களில். Mac Metal-இலும் RTX 5090 CUDA-இலும் இயங்கின. Apple Silicon முடிவுகள் · RTX 5090 முடிவுகள் மாடல்களுக்கு RTX 5090-இன் சொந்த 32 GB-இல் சுமார் 1 GB கழித்தும், Mac-இன் யூனிஃபைடு மெமரியின் சுமார் 75% (macOS இயல்புநிலை) எனவும் கணக்கிடுகிறோம்.

எது எங்கே வெல்கிறது

எழுதும் வேகம். RTX 5090, M5 Max-ஐ விட சுமார் 192% வேகமாக மெமரியைப் படிக்கிறது (1,792 vs 614 GB/s), எனவே இரண்டிலும் பொருந்தும் எந்த மாடலிலும் சுமார் 192% வேகமாக எழுதுகிறது.
மாடல் அளவு. M5 Max-இல் மாடல்களுக்குச் சுமார் 96 GB உள்ளது, RTX 5090-இல் சுமார் 31 GB. 73 பிரபல திறந்த மாடல்களில் 47 M5 Max-இல் நன்றாக இயங்குகின்றன, 38 RTX 5090-இல்.
நீண்ட ப்ராம்ப்ட்களைப் படித்தல். llama.cpp-இன் அளந்த சோதனையில் RTX 5090 ஒரு ப்ராம்ப்ட்டைச் சுமார் 4.4× வேகமாகப் படிக்கிறது (விநாடிக்கு 14,073 vs 3,220 டோக்கன்கள்). ப்ராம்ப்ட் படித்தல் மெமரி பேண்ட்வித்தை அல்ல, GPU-வின் கணக்கீட்டுத் திறனைச் சார்ந்தது; நீண்ட ஆவணம் அல்லது கோட்பேஸுடன் முதல் சொல் வரை எவ்வளவு காத்திருக்க வேண்டும் என்பதை இதுவே தீர்மானிக்கிறது.
மென்பொருள். RTX 5090 NVIDIA-வின் CUDA-வைப் பயன்படுத்துகிறது; பயிற்சிக் குறியீடு மற்றும் பல படம், வீடியோ கருவிகள் உட்பட பெரும்பாலான AI மென்பொருட்கள் முதலில் இதையே ஆதரிக்கின்றன. Mac-இல் மாடல்களை MLX, llama.cpp-இன் Metal பேக்எண்ட் அல்லது PyTorch-இன் MPS பேக்எண்ட் மூலம் இயக்குகிறீர்கள்.
சுற்றிலும். கிராஃபிக்ஸ் கார்டுக்குச் சுற்றிலும் ஒரு PC தேவை, அதன் சொந்த 32 GB-தான் வரம்பு: பொருந்தாத மாடல் ஓரளவு PC-இன் மிக மெதுவான சிஸ்டம் மெமரியிலிருந்து இயங்க வேண்டும், அல்லது இரண்டாவது கார்டில் பிரிக்கப்பட வேண்டும்.
Mac. இது அன்றாடக் கணினியும் கூட, Apple Silicon-க்காக உருவாக்கப்பட்ட MLX Harness மற்றும் MLX Node இதில் இயங்கும்.

பிரபல மாடல்களுடன் வேகம்

ஒரு உரையாடலுக்கு வினாடிக்கு டோக்கன்கள்; ஒவ்வொரு சிப்பும் அதன் மிகப் பெரிய மெமரி அளவில் (128 GB, 32 GB), மாடலின் பொருந்தும் சிறந்த பதிப்புடன்.

மாடல்	M5 Max	RTX 5090
Llama 3.1 8B Instruct8B	33–58 8-பிட்	95–169 8-பிட்
gpt-oss-20b21B · 3.6B செயலில்	145–259 நேட்டிவ் 4.25-பிட்	424–755 நேட்டிவ் 4.25-பிட்
Qwen3.6 35B A3B35B · 3B செயலில்	86–154 8-பிட்	336–597 6-பிட்
Qwen3.8 27B27B	10–17 8-பிட்	28–50 8-பிட்
Llama 3.3 70B Instruct70B	4–7 8-பிட்	37–65 2-பிட் குறைந்த தரம்
gpt-oss-120b117B · 5.1B செயலில்	102–182 நேட்டிவ் 4.25-பிட்	மிகப் பெரியது
Qwen3.5 122B A10B122B · 10B செயலில்	49–88 4-பிட்	மிகப் பெரியது
DeepSeek V4 Flash 0731284B · 13B செயலில்	67–120 2-பிட் குறைந்த தரம்	மிகப் பெரியது

கேள்விகள்

LLM-களுக்கு RTX 5090, M5 Max-ஐ விட வேகமானதா?: RTX 5090, M5 Max-ஐ விட சுமார் 192% வேகமாக மெமரியைப் படிக்கிறது (1,792 vs 614 GB/s), எனவே இரண்டிலும் பொருந்தும் எந்த மாடலிலும் சுமார் 192% வேகமாக எழுதுகிறது. llama.cpp-இன் அளந்த சோதனையில் RTX 5090 ஒரு ப்ராம்ப்ட்டைச் சுமார் 4.4× வேகமாகப் படிக்கிறது (விநாடிக்கு 14,073 vs 3,220 டோக்கன்கள்). ப்ராம்ப்ட் படித்தல் மெமரி பேண்ட்வித்தை அல்ல, GPU-வின் கணக்கீட்டுத் திறனைச் சார்ந்தது; நீண்ட ஆவணம் அல்லது கோட்பேஸுடன் முதல் சொல் வரை எவ்வளவு காத்திருக்க வேண்டும் என்பதை இதுவே தீர்மானிக்கிறது.
பெரிய மாடல்களை எது இயக்கும், M5 Max-ஆ RTX 5090-ஆ?: M5 Max-இல் மாடல்களுக்குச் சுமார் 96 GB உள்ளது, RTX 5090-இல் சுமார் 31 GB. 73 பிரபல திறந்த மாடல்களில் 47 M5 Max-இல் நன்றாக இயங்குகின்றன, 38 RTX 5090-இல்.
MLX Node RTX 5090-இல் இயங்குமா?: இல்லை. MLX Node மற்றும் MLX Harness Apple Silicon Mac-களில் மட்டும், Apple-இன் MLX ஃப்ரேம்வொர்க்குடன் இயங்கும்.

மேலும் ஒப்பீடுகள்

லோக்கல் AI-க்கு M5 Max · எல்லா மாடல்களையும் ஒப்பிடுங்கள் · லோக்கல் LLM-களுக்குச் சிறந்த Mac

எப்படிக் கணக்கிடப்பட்டது

மெமரி: மாடலின் பாராமீட்டர்கள் ஒரு வெயிட்டுக்கு 8, 6, 4, 3 அல்லது 2 பிட்களில், கூடவே MLX-இன் குரூப் ஸ்கேல்கள் (ஒரு வெயிட்டுக்கு அரை பிட்), அல்லது அதன் நேட்டிவ் வடிவம், அதற்கு மேல் கான்டெக்ஸ்ட்டுக்கு இடம். இயல்பாக macOS, யூனிஃபைடு மெமரியில் சுமார் 75%-ஐ GPU பயன்படுத்த அனுமதிக்கிறது. வேகம்: மெமரி பேண்ட்வித்தை ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படும் பைட்டுகளால் வகுத்தால், ஒரு உரையாடலுக்கான உச்சவரம்பு கிடைக்கும்; llama.cpp-இன் பொது Apple Silicon பெஞ்ச்மார்க்குகளில் உண்மையான ரன்கள் அதில் சுமார் 45% முதல் 80% வரை எட்டுகின்றன, அந்த வரம்பே காட்டப்படுகிறது. இவை மதிப்பீடுகள், அளவீடுகள் அல்ல: உங்கள் சொந்த Mac-ஐ MLX Bench-இல் அளந்து பாருங்கள். மாடல் விவரங்கள் ஒவ்வொரு அதிகாரப்பூர்வ மாடல் கார்டிலிருந்தும், சிப் விவரங்கள் Apple-இன் Tech Specs-இலிருந்தும். சரிபார்த்தது 2026-10-19. mlx.app/compare-இல் உள்ள அதே தரவு.

RTX 5090 தரவு: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).