লগ ইনওয়ালেট তৈরি করুন

লোকাল AI-এর জন্য M2 Pro চিপসহ MacBook Pro।

M2 Pro চিপ 200 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না, তাই সাইজটি এখানেই বেছে নিন।

16 GB22টি মডেল ভালো চলেPhi-4 Reasoning Vision 15B · 11–19 tok/s32 GB30টি মডেল ভালো চলেQwen3.6 35B A3B · 53–94 tok/s

মেমরি সাইজ অনুযায়ী

মেমরিভালো চলেভালো চলে এমন সবচেয়ে বড়gpt-oss-20b
16 GB200 GB/s22Phi-4 Reasoning Vision 15B56–100 tok/s
32 GB200 GB/s30Qwen3.6 35B A3B47–84 tok/s

Mac মডেল: MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023)। সব Mac মডেলে সব মেমরি সাইজ পাওয়া যায় না; কোনটির সঙ্গে কী আসে, তা Apple-এর Tech Specs-এ দেওয়া আছে।

প্রশ্ন

লোকাল LLM-এর জন্য M2 Pro চিপসহ MacBook Pro কি ভালো?
32 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 30টি ভালোভাবে চালায়, Qwen3.6 35B A3B পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 47–84 টোকেন লেখে। M2 Pro চিপ 200 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।
AI-এর জন্য M2 Pro চিপসহ MacBook Pro কেনার সময় কত মেমরি নেওয়া উচিত?
16 GB-তে এটি 22টি ওপেন মডেল ভালোভাবে চালায়; 32 GB-তে 30টি, Qwen3.6 35B A3B পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

অন্য Mac

অন্য চিপসহ MacBook Pro:

M2 Pro চিপসহ অন্য Mac:

মুখোমুখি:

লোকাল AI-এর জন্য M2 Pro · লোকাল LLM-এর জন্য সেরা Mac · সব Mac

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

MacBook Pro M2 Pro-এ কোন LLM চলে: মেমরি অনুযায়ী