लॉग इनवॉलेट तयार करा

लोकल AI साठी M3 Pro असलेला MacBook Pro.

M3 Pro 150 GB/s ने मेमरी वाचतो, त्यावरून तो किती वेगाने लिहितो ते ठरते. कोणती मॉडेल बसतील ते मेमरी ठरवते, आणि ती नंतर वाढवता येत नाही, म्हणून आकार इथेच निवडा.

18 GB20 मॉडेल चांगली चालतातGemma 4 12B Unified · 10–18 tok/s36 GB28 मॉडेल चांगली चालतातQwen3.6 35B A3B · 40–71 tok/s

मेमरी आकारानुसार

मेमरीचांगली चालतातचांगले चालणारे सर्वात मोठेgpt-oss-20b
18 GB150 GB/s20Gemma 4 12B Unified36–63 tok/s
36 GB150 GB/s28Qwen3.6 35B A3B36–63 tok/s

Mac मॉडेल: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023). प्रत्येक Mac मॉडेलसोबत प्रत्येक मेमरी आकार मिळत नाही; कोणत्या मॉडेलसोबत काय मिळते ते Apple च्या Tech Specs मध्ये दिलेले आहे.

प्रश्न

M3 Pro असलेला MacBook Pro लोकल LLM साठी चांगला आहे का?
36 GB सह तो 73 पैकी 28 ओपन मॉडेल चांगली चालवतो, Qwen3.6 35B A3B पर्यंत, आणि gpt-oss-20b सह सेकंदाला सुमारे 36–63 टोकन लिहितो. M3 Pro 150 GB/s ने मेमरी वाचतो, त्यावरून तो किती वेगाने लिहितो ते ठरते.
AI साठी M3 Pro असलेल्या MacBook Pro मध्ये किती मेमरी असावी?
18 GB सह तो 20 ओपन मॉडेल चांगली चालवतो; 36 GB सह 28, Qwen3.6 35B A3B पर्यंत. कोणती मॉडेल बसतील ते मेमरी ठरवते, आणि ती नंतर वाढवता येत नाही.

इतर Mac

इतर चिप असलेले MacBook Pro:

समोरासमोर:

लोकल AI साठी M3 Pro · लोकल LLM साठी सर्वोत्तम Mac · प्रत्येक Mac

हिशोब कसा केला

मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.

MacBook Pro M3 Pro वर कोणती LLM चालतात: मेमरीनुसार