పక్కపక్కనే
| M2 | M3 | |
|---|---|---|
| మెమరీ సైజులు | 8, 16, 24 GB | 8, 16, 24 GB |
| మెమరీ బ్యాండ్‌విడ్త్ | 100 GB/s | 100 GB/s |
| మోడల్‌లకు, గరిష్ఠంగా | సుమారు 18 GB | సుమారు 18 GB |
| బాగా నడిచే మోడల్‌లు | 73లో 20 | 73లో 20 |
| MLX సీటు తరగతి | Core | Core |
| వీటిలో ఉంటుంది | MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023) | MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024) |
ప్రముఖ మోడల్‌లతో వేగం
ఒక సంభాషణకు సెకనుకు టోకెన్లు; ప్రతి చిప్ దాని అతిపెద్ద మెమరీ సైజు వద్ద (24 GB, 24 GB), మోడల్ యొక్క సరిపోయే ఉత్తమ వెర్షన్‌తో.
| మోడల్ | M2 | M3 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 10–18 4-బిట్ | 10–18 4-బిట్ |
| gpt-oss-20b21B · 3.6B యాక్టివ్ | 24–42 నేటివ్ 4.25-బిట్ | 24–42 నేటివ్ 4.25-బిట్ |
| Qwen3.6 35B A3B35B · 3B యాక్టివ్ | 35–62 3-బిట్ తక్కువ నాణ్యత | 35–62 3-బిట్ తక్కువ నాణ్యత |
| Qwen3.8 27B27B | 3–5 4-బిట్ | 3–5 4-బిట్ |
| Llama 3.3 70B Instruct70B | చాలా పెద్దది | చాలా పెద్దది |
| gpt-oss-120b117B · 5.1B యాక్టివ్ | చాలా పెద్దది | చాలా పెద్దది |
| Qwen3.5 122B A10B122B · 10B యాక్టివ్ | చాలా పెద్దది | చాలా పెద్దది |
| DeepSeek V4 Flash 0731284B · 13B యాక్టివ్ | చాలా పెద్దది | చాలా పెద్దది |
ప్రశ్నలు
- LLMలకు M3, M2 కంటే వేగవంతమైనదా?
- దాదాపు ఒకటే: వీటి మెమరీ బ్యాండ్విడ్త్లో కొన్ని శాతాల తేడానే ఉంది. రెండింటిలోనూ 24 GB వరకు మెమరీ వస్తుంది.
- M2, M3లలో పెద్ద మోడల్లను ఏది నడపగలదు?
- రెండూ సమానమే: రెండింటిలోనూ 24 GB వరకు మెమరీ వస్తుంది. ఆ సైజు వద్ద 73 ఓపెన్ మోడల్లలో M2పై 20, M3పై 20 బాగా నడుస్తాయి; వేగవంతమైన చిప్ వాటిలో ఎక్కువ మోడల్లను సెకనుకు 10 టోకెన్లు దాటిస్తుంది.
మరిన్ని పోలికలు
లోకల్ AI కోసం M2 · లోకల్ AI కోసం M3 · అన్ని మోడల్లను పోల్చండి · లోకల్ LLMలకు ఉత్తమ Mac
ఎలా లెక్కించాం
మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్‌ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్‌కు చోటు. డిఫాల్ట్‌గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్‌కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.