లోకల్ LLMలకు M4 Pro చిప్ ఉన్న MacBook Pro మంచిదేనా?

64 GBతో ఇది 73 ఓపెన్ మోడల్లలో 31ను బాగా నడుపుతుంది, Nemotron 3.5 Bolt 74B A9B వరకు, gpt-oss-20b మోడల్తో సెకనుకు సుమారు 65–115 టోకెన్లు రాస్తుంది. M4 Pro చిప్ 273 GB/s వేగంతో మెమరీని చదువుతుంది, అదే ఇది ఎంత వేగంగా రాస్తుందో నిర్ణయిస్తుంది.

AI కోసం M4 Pro చిప్ ఉన్న MacBook Pro ఎంత మెమరీతో తీసుకోవాలి?

24 GBతో ఇది 25 ఓపెన్ మోడల్లను బాగా నడుపుతుంది; 64 GBతో 31, Nemotron 3.5 Bolt 74B A9B వరకు. ఏ మోడల్లు సరిపోతాయో మెమరీ నిర్ణయిస్తుంది, దాన్ని తర్వాత అప్గ్రేడ్ చేయలేరు.

MacBook Pro M4 Pro: మెమరీ వారీగా ఏ LLMలు నడుస్తాయి

మెమరీ సైజు వారీగా

మెమరీ	బాగా నడిచేవి	బాగా నడిచేవాటిలో అతిపెద్దది	gpt-oss-20b
24 GB273 GB/s	25	Gemma 4 26B A4B	65–115 tok/s
48 GB273 GB/s	30	Qwen3.6 35B A3B	65–115 tok/s
64 GB273 GB/s	31	Nemotron 3.5 Bolt 74B A9B	65–115 tok/s

Mac మోడల్‌లు: MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024). ప్రతి Mac మోడల్‌లో ప్రతి మెమరీ సైజు అందుబాటులో ఉండదు; దేనితో ఏది వస్తుందో Apple Tech Specs జాబితా చేస్తాయి.

ప్రశ్నలు

లోకల్ LLMలకు M4 Pro చిప్ ఉన్న MacBook Pro మంచిదేనా?: 64 GBతో ఇది 73 ఓపెన్ మోడల్‌లలో 31ను బాగా నడుపుతుంది, Nemotron 3.5 Bolt 74B A9B వరకు, gpt-oss-20b మోడల్‌తో సెకనుకు సుమారు 65–115 టోకెన్‌లు రాస్తుంది. M4 Pro చిప్ 273 GB/s వేగంతో మెమరీని చదువుతుంది, అదే ఇది ఎంత వేగంగా రాస్తుందో నిర్ణయిస్తుంది.
AI కోసం M4 Pro చిప్ ఉన్న MacBook Pro ఎంత మెమరీతో తీసుకోవాలి?: 24 GBతో ఇది 25 ఓపెన్ మోడల్‌లను బాగా నడుపుతుంది; 64 GBతో 31, Nemotron 3.5 Bolt 74B A9B వరకు. ఏ మోడల్‌లు సరిపోతాయో మెమరీ నిర్ణయిస్తుంది, దాన్ని తర్వాత అప్‌గ్రేడ్ చేయలేరు.

ఇతర Macలు

ఇతర చిప్‌లతో MacBook Pro:

M4 Pro చిప్ ఉన్న ఇతర Macలు:

Mac mini M4 Pro

ముఖాముఖి:

PCలు మరియు గ్రాఫిక్స్ కార్డులతో పోలిక:

M4 Pro vs Ryzen AI Max+ 395

లోకల్ AI కోసం M4 Pro · లోకల్ LLMలకు ఉత్తమ Mac · అన్ని Macలు

ఎలా లెక్కించాం

మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్‌ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్‌కు చోటు. డిఫాల్ట్‌గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్‌కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.