লগ ইনওয়ালেট তৈরি করুন

লোকাল AI-এর জন্য M4 Pro চিপসহ MacBook Pro।

M4 Pro চিপ 273 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না, তাই সাইজটি এখানেই বেছে নিন।

24 GB25টি মডেল ভালো চলেGemma 4 26B A4B · 59–104 tok/s48 GB30টি মডেল ভালো চলেQwen3.6 35B A3B · 51–91 tok/s64 GB31টি মডেল ভালো চলেNemotron 3.5 Bolt 74B A9B · 24–43 tok/s

মেমরি সাইজ অনুযায়ী

মেমরিভালো চলেভালো চলে এমন সবচেয়ে বড়gpt-oss-20b
24 GB273 GB/s25Gemma 4 26B A4B65–115 tok/s
48 GB273 GB/s30Qwen3.6 35B A3B65–115 tok/s
64 GB273 GB/s31Nemotron 3.5 Bolt 74B A9B65–115 tok/s

Mac মডেল: MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024)। সব Mac মডেলে সব মেমরি সাইজ পাওয়া যায় না; কোনটির সঙ্গে কী আসে, তা Apple-এর Tech Specs-এ দেওয়া আছে।

প্রশ্ন

লোকাল LLM-এর জন্য M4 Pro চিপসহ MacBook Pro কি ভালো?
64 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 31টি ভালোভাবে চালায়, Nemotron 3.5 Bolt 74B A9B পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 65–115 টোকেন লেখে। M4 Pro চিপ 273 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।
AI-এর জন্য M4 Pro চিপসহ MacBook Pro কেনার সময় কত মেমরি নেওয়া উচিত?
24 GB-তে এটি 25টি ওপেন মডেল ভালোভাবে চালায়; 64 GB-তে 31টি, Nemotron 3.5 Bolt 74B A9B পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

অন্য Mac

অন্য চিপসহ MacBook Pro:

M4 Pro চিপসহ অন্য Mac:

মুখোমুখি:

PC ও গ্রাফিক্স কার্ডের সঙ্গে তুলনা:

লোকাল AI-এর জন্য M4 Pro · লোকাল LLM-এর জন্য সেরা Mac · সব Mac

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

MacBook Pro M4 Pro-এ কোন LLM চলে: মেমরি অনুযায়ী