लॉग इनवॉलेट तयार करा

लोकल AI साठी M5 Max असलेला MacBook Pro.

M5 Max 614 GB/s ने मेमरी वाचतो, त्यावरून तो किती वेगाने लिहितो ते ठरते. कोणती मॉडेल बसतील ते मेमरी ठरवते, आणि ती नंतर वाढवता येत नाही, म्हणून आकार इथेच निवडा.

48 GB38 मॉडेल चांगली चालतातQwen3.6 35B A3B · 115–205 tok/s64 GB39 मॉडेल चांगली चालतातNemotron 3.5 Bolt 74B A9B · 54–96 tok/s128 GB47 मॉडेल चांगली चालतातQwen3.5 122B A10B · 49–88 tok/s

मेमरी आकारानुसार

मेमरीचांगली चालतातचांगले चालणारे सर्वात मोठेgpt-oss-20b
36 GB460 GB/s38Qwen3.6 35B A3B109–194 tok/s
48 GB614 GB/s38Qwen3.6 35B A3B145–259 tok/s
64 GB614 GB/s39Nemotron 3.5 Bolt 74B A9B145–259 tok/s
128 GB614 GB/s47Qwen3.5 122B A10B145–259 tok/s

Mac मॉडेल: MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max). प्रत्येक Mac मॉडेलसोबत प्रत्येक मेमरी आकार मिळत नाही; कोणत्या मॉडेलसोबत काय मिळते ते Apple च्या Tech Specs मध्ये दिलेले आहे.

प्रश्न

M5 Max असलेला MacBook Pro लोकल LLM साठी चांगला आहे का?
128 GB सह तो 73 पैकी 47 ओपन मॉडेल चांगली चालवतो, Qwen3.5 122B A10B पर्यंत, आणि gpt-oss-20b सह सेकंदाला सुमारे 145–259 टोकन लिहितो. M5 Max 614 GB/s ने मेमरी वाचतो, त्यावरून तो किती वेगाने लिहितो ते ठरते.
AI साठी M5 Max असलेल्या MacBook Pro मध्ये किती मेमरी असावी?
36 GB सह तो 38 ओपन मॉडेल चांगली चालवतो; 128 GB सह 47, Qwen3.5 122B A10B पर्यंत. कोणती मॉडेल बसतील ते मेमरी ठरवते, आणि ती नंतर वाढवता येत नाही.

इतर Mac

इतर चिप असलेले MacBook Pro:

M5 Max असलेले इतर Mac:

समोरासमोर:

PC आणि ग्राफिक्स कार्डशी तुलना:

लोकल AI साठी M5 Max · लोकल LLM साठी सर्वोत्तम Mac · प्रत्येक Mac

हिशोब कसा केला

मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.

MacBook Pro M5 Max वर कोणती LLM चालतात: मेमरीनुसार