పక్కపక్కనే
| M5 Max | RTX 5090 | |
|---|---|---|
| ఇది ఏమిటి | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | డెస్క్‌టాప్ PC కోసం గ్రాఫిక్స్ కార్డు |
| మెమరీ సైజులు | 36, 48, 64, 128 GB | 32 GB |
| మెమరీ బ్యాండ్‌విడ్త్ | 460–614 GB/s | 1,792 GB/s |
| మోడల్‌లకు, గరిష్ఠంగా | సుమారు 96 GB | సుమారు 31 GB |
| బాగా నడిచే మోడల్‌లు | 73లో 47 | 73లో 38 |
| కొలిచినది: రాయడం | 120 tok/s | 290 tok/s |
| కొలిచినది: ప్రాంప్ట్ చదవడం | 3,220 tok/s | 14,073 tok/s |
కొలిచిన వరుసలు: llama.cpp పబ్లిక్ బెంచ్‌మార్క్‌లలో Llama 2 7B Q4_0 తో ప్రతి మెషీన్ వేగవంతమైన ఫలితం, 128 టోకెన్లు రాసేటప్పుడు (tg128) మరియు 512 టోకెన్ల ప్రాంప్ట్ చదివేటప్పుడు (pp512), సెకనుకు టోకెన్లలో. Mac Metal పై, RTX 5090 CUDA పై నడిచాయి. Apple Silicon ఫలితాలు · RTX 5090 ఫలితాలు మోడల్స్ కోసం RTX 5090 సొంత 32 GB నుంచి సుమారు 1 GB తీసివేసి, Mac యూనిఫైడ్ మెమరీలో సుమారు 75% (macOS డిఫాల్ట్) లెక్కిస్తాం.
ఏది ఎక్కడ గెలుస్తుంది
- రాసే వేగం. RTX 5090 మెమరీని M5 Max కంటే సుమారు 192% వేగంగా చదువుతుంది (1,792 vs 614 GB/s), కాబట్టి రెండింటిలో సరిపోయే ఏ మోడల్తోనైనా సుమారు 192% వేగంగా రాస్తుంది.
- మోడల్ పరిమాణం. M5 Max లో మోడల్స్ కోసం సుమారు 96 GB ఉంది, RTX 5090 లో సుమారు 31 GB. 73 ప్రముఖ ఓపెన్ మోడల్స్లో 47 M5 Max పై బాగా నడుస్తాయి, 38 RTX 5090 పై.
- పొడవైన ప్రాంప్ట్‌లు చదవడం. llama.cpp కొలిచిన పరీక్షలో RTX 5090 ప్రాంప్ట్ను సుమారు 4.4× వేగంగా చదువుతుంది (సెకనుకు 14,073 vs 3,220 టోకెన్లు). ప్రాంప్ట్ చదవడం మెమరీ బ్యాండ్విడ్త్పై కాదు, GPU లెక్కింపు శక్తిపై ఆధారపడుతుంది; పొడవైన పత్రం లేదా కోడ్బేస్తో మొదటి పదం వరకు ఎంత వేచి ఉండాలో ఇదే నిర్ణయిస్తుంది.
- సాఫ్ట్‌వేర్. RTX 5090 NVIDIA CUDA ను వాడుతుంది; ట్రైనింగ్ కోడ్ మరియు అనేక ఇమేజ్, వీడియో టూల్స్‌తో సహా చాలా AI సాఫ్ట్‌వేర్ మొదట దీనినే సపోర్ట్ చేస్తుంది. Mac లో మోడల్స్‌ను బదులుగా MLX, llama.cpp Metal బ్యాక్‌ఎండ్ లేదా PyTorch MPS బ్యాక్‌ఎండ్‌తో నడుపుతారు.
- చుట్టూ. గ్రాఫిక్స్ కార్డుకు చుట్టూ ఒక PC కావాలి, దాని సొంత 32 GB యే పరిమితి: సరిపోని మోడల్ కొంత భాగం PC యొక్క చాలా నెమ్మదైన సిస్టమ్ మెమరీ నుంచి నడవాలి, లేదా రెండో కార్డుపై పంచాలి.
- Mac. ఇది రోజువారీ కంప్యూటర్ కూడా, Apple Silicon కోసం తయారైన MLX Harness మరియు MLX Node ఇందులో నడుస్తాయి.
ప్రముఖ మోడల్‌లతో వేగం
ఒక సంభాషణకు సెకనుకు టోకెన్లు; ప్రతి చిప్ దాని అతిపెద్ద మెమరీ సైజు వద్ద (128 GB, 32 GB), మోడల్ యొక్క సరిపోయే ఉత్తమ వెర్షన్‌తో.
| మోడల్ | M5 Max | RTX 5090 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-బిట్ | 95–169 8-బిట్ |
| gpt-oss-20b21B · 3.6B యాక్టివ్ | 145–259 నేటివ్ 4.25-బిట్ | 424–755 నేటివ్ 4.25-బిట్ |
| Qwen3.6 35B A3B35B · 3B యాక్టివ్ | 86–154 8-బిట్ | 336–597 6-బిట్ |
| Qwen3.8 27B27B | 10–17 8-బిట్ | 28–50 8-బిట్ |
| Llama 3.3 70B Instruct70B | 4–7 8-బిట్ | 37–65 2-బిట్ తక్కువ నాణ్యత |
| gpt-oss-120b117B · 5.1B యాక్టివ్ | 102–182 నేటివ్ 4.25-బిట్ | చాలా పెద్దది |
| Qwen3.5 122B A10B122B · 10B యాక్టివ్ | 49–88 4-బిట్ | చాలా పెద్దది |
| DeepSeek V4 Flash 0731284B · 13B యాక్టివ్ | 67–120 2-బిట్ తక్కువ నాణ్యత | చాలా పెద్దది |
ప్రశ్నలు
- LLMలకు RTX 5090, M5 Max కంటే వేగవంతమైనదా?
- RTX 5090 మెమరీని M5 Max కంటే సుమారు 192% వేగంగా చదువుతుంది (1,792 vs 614 GB/s), కాబట్టి రెండింటిలో సరిపోయే ఏ మోడల్తోనైనా సుమారు 192% వేగంగా రాస్తుంది. llama.cpp కొలిచిన పరీక్షలో RTX 5090 ప్రాంప్ట్ను సుమారు 4.4× వేగంగా చదువుతుంది (సెకనుకు 14,073 vs 3,220 టోకెన్లు). ప్రాంప్ట్ చదవడం మెమరీ బ్యాండ్విడ్త్పై కాదు, GPU లెక్కింపు శక్తిపై ఆధారపడుతుంది; పొడవైన పత్రం లేదా కోడ్బేస్తో మొదటి పదం వరకు ఎంత వేచి ఉండాలో ఇదే నిర్ణయిస్తుంది.
- M5 Max, RTX 5090లలో పెద్ద మోడల్లను ఏది నడపగలదు?
- M5 Max లో మోడల్స్ కోసం సుమారు 96 GB ఉంది, RTX 5090 లో సుమారు 31 GB. 73 ప్రముఖ ఓపెన్ మోడల్స్లో 47 M5 Max పై బాగా నడుస్తాయి, 38 RTX 5090 పై.
- MLX Node RTX 5090 పై నడుస్తుందా?
- లేదు. MLX Node మరియు MLX Harness Apple Silicon Mac లపై మాత్రమే, Apple MLX ఫ్రేమ్వర్క్తో నడుస్తాయి.
మరిన్ని పోలికలు
- M5 Max vs DGX Spark
- M5 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ PRO 495
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
- M4 Max vs M5 Max
- M5 Pro vs M5 Max
లోకల్ AI కోసం M5 Max · అన్ని మోడల్లను పోల్చండి · లోకల్ LLMలకు ఉత్తమ Mac
ఎలా లెక్కించాం
మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్‌ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్‌కు చోటు. డిఫాల్ట్‌గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్‌కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.
RTX 5090 డేటా: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).