పక్కపక్కనే
| M2 Ultra | M4 Max | |
|---|---|---|
| మెమరీ సైజులు | 64, 128, 192 GB | 36, 48, 64, 128 GB |
| మెమరీ బ్యాండ్‌విడ్త్ | 800 GB/s | 410–546 GB/s |
| మోడల్‌లకు, గరిష్ఠంగా | సుమారు 144 GB | సుమారు 96 GB |
| బాగా నడిచే మోడల్‌లు | 73లో 49 | 73లో 47 |
| MLX సీటు తరగతి | Ultra | Pro |
| వీటిలో ఉంటుంది | Mac Studio (2023), Mac Pro (2023), Mac Pro (Rack, 2023) | MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025) |
ప్రముఖ మోడల్‌లతో వేగం
ఒక సంభాషణకు సెకనుకు టోకెన్‌లు; ప్రతి చిప్ దాని అతిపెద్ద మెమరీ సైజు వద్ద (192 GB, 128 GB), మోడల్ యొక్క సరిపోయే ఉత్తమ వెర్షన్‌తో.
| మోడల్ | M2 Ultra | M4 Max |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8-బిట్ | 29–51 8-బిట్ |
| gpt-oss-20b21B · 3.6B యాక్టివ్ | 189–337 నేటివ్ 4.25-బిట్ | 129–230 నేటివ్ 4.25-బిట్ |
| Qwen3.6 35B A3B35B · 3B యాక్టివ్ | 113–200 8-బిట్ | 77–137 8-బిట్ |
| Qwen3.8 27B27B | 13–22 8-బిట్ | 11–20 6-బిట్ |
| Llama 3.3 70B Instruct70B | 5–9 8-బిట్ | 3–6 8-బిట్ |
| gpt-oss-120b117B · 5.1B యాక్టివ్ | 133–237 నేటివ్ 4.25-బిట్ | 91–162 నేటివ్ 4.25-బిట్ |
| Qwen3.5 122B A10B122B · 10B యాక్టివ్ | 34–60 8-బిట్ | 44–78 4-బిట్ |
| DeepSeek V4 Flash 0731284B · 13B యాక్టివ్ | 63–112 3-బిట్ తక్కువ నాణ్యత | 60–107 2-బిట్ తక్కువ నాణ్యత |
ప్రశ్నలు
- LLMలకు M4 Max, M2 Ultra కంటే వేగవంతమైనదా?
- M2 Ultra మెమరీని M4 Max కంటే సుమారు 47% వేగంగా చదువుతుంది (800 vs 546 GB/s), కాబట్టి రెండింటిలో సరిపోయే ఏ మోడల్తోనైనా సుమారు 47% వేగంగా రాస్తుంది. పొడవైన ప్రాంప్ట్ను చదవడం మాత్రం GPU కంప్యూట్పై ఆధారపడుతుంది, అది ఈ పోలికలో లేదు.
- M2 Ultra, M4 Maxలలో పెద్ద మోడల్లను ఏది నడపగలదు?
- M2 Ultra: M2 Ultraలో 192 GB వరకు మెమరీ వస్తుంది, M4 Maxలో 128 GB వరకు. దాని అతిపెద్ద సైజు వద్ద అది 73 ఓపెన్ మోడల్లలో 49ను బాగా నడుపుతుంది, రెండోది 47.
మరిన్ని పోలికలు
- M1 Ultra vs M2 Ultra
- M2 Max vs M2 Ultra
- M2 Ultra vs M3 Ultra
- M1 Max vs M4 Max
- M2 Max vs M4 Max
- M3 Max vs M4 Max
- M3 Ultra vs M4 Max
- M4 Pro vs M4 Max
లోకల్ AI కోసం M2 Ultra · లోకల్ AI కోసం M4 Max · అన్ని మోడల్లను పోల్చండి · లోకల్ LLMలకు ఉత్తమ Mac
ఎలా లెక్కించాం
మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్‌ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్‌కు చోటు. డిఫాల్ట్‌గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్‌కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.