লগ ইনওয়ালেট তৈরি করুন

লোকাল AI-এর জন্য M3 Max চিপসহ MacBook Pro।

M3 Max চিপ 400 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না, তাই সাইজটি এখানেই বেছে নিন।

64 GB39টি মডেল ভালো চলেNemotron 3.5 Bolt 74B A9B · 35–63 tok/s96 GB38টি মডেল ভালো চলেgpt-oss-120b · 50–89 tok/s128 GB47টি মডেল ভালো চলেQwen3.5 122B A10B · 32–57 tok/s

মেমরি সাইজ অনুযায়ী

মেমরিভালো চলেভালো চলে এমন সবচেয়ে বড়gpt-oss-20b
36 GB300 GB/s33Qwen3.6 35B A3B71–126 tok/s
48 GB400 GB/s38Qwen3.6 35B A3B95–168 tok/s
64 GB400 GB/s39Nemotron 3.5 Bolt 74B A9B95–168 tok/s
96 GB300 GB/s38gpt-oss-120b71–126 tok/s
128 GB400 GB/s47Qwen3.5 122B A10B95–168 tok/s

Mac মডেল: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023)। সব Mac মডেলে সব মেমরি সাইজ পাওয়া যায় না; কোনটির সঙ্গে কী আসে, তা Apple-এর Tech Specs-এ দেওয়া আছে।

প্রশ্ন

লোকাল LLM-এর জন্য M3 Max চিপসহ MacBook Pro কি ভালো?
128 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 47টি ভালোভাবে চালায়, Qwen3.5 122B A10B পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 95–168 টোকেন লেখে। M3 Max চিপ 400 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।
AI-এর জন্য M3 Max চিপসহ MacBook Pro কেনার সময় কত মেমরি নেওয়া উচিত?
36 GB-তে এটি 33টি ওপেন মডেল ভালোভাবে চালায়; 128 GB-তে 47টি, Qwen3.5 122B A10B পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

অন্য Mac

অন্য চিপসহ MacBook Pro:

মুখোমুখি:

লোকাল AI-এর জন্য M3 Max · লোকাল LLM-এর জন্য সেরা Mac · সব Mac

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

MacBook Pro M3 Max-এ কোন LLM চলে: মেমরি অনুযায়ী