লোকাল LLM-এর জন্য M1 Max চিপসহ MacBook Pro কি ভালো?

64 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 39টি ভালোভাবে চালায়, Nemotron 3.5 Bolt 74B A9B পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 95–168 টোকেন লেখে। M1 Max চিপ 400 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।

AI-এর জন্য M1 Max চিপসহ MacBook Pro কেনার সময় কত মেমরি নেওয়া উচিত?

32 GB-তে এটি 38টি ওপেন মডেল ভালোভাবে চালায়; 64 GB-তে 39টি, Nemotron 3.5 Bolt 74B A9B পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

MacBook Pro M1 Max-এ কোন LLM চলে: মেমরি অনুযায়ী

মেমরি সাইজ অনুযায়ী

মেমরি	ভালো চলে	ভালো চলে এমন সবচেয়ে বড়	gpt-oss-20b
32 GB400 GB/s	38	Qwen3.6 35B A3B	95–168 tok/s
64 GB400 GB/s	39	Nemotron 3.5 Bolt 74B A9B	95–168 tok/s

Mac মডেল: MacBook Pro (14-inch, 2021), MacBook Pro (16-inch, 2021)। সব Mac মডেলে সব মেমরি সাইজ পাওয়া যায় না; কোনটির সঙ্গে কী আসে, তা Apple-এর Tech Specs-এ দেওয়া আছে।

প্রশ্ন

লোকাল LLM-এর জন্য M1 Max চিপসহ MacBook Pro কি ভালো?: 64 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 39টি ভালোভাবে চালায়, Nemotron 3.5 Bolt 74B A9B পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 95–168 টোকেন লেখে। M1 Max চিপ 400 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।
AI-এর জন্য M1 Max চিপসহ MacBook Pro কেনার সময় কত মেমরি নেওয়া উচিত?: 32 GB-তে এটি 38টি ওপেন মডেল ভালোভাবে চালায়; 64 GB-তে 39টি, Nemotron 3.5 Bolt 74B A9B পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

অন্য Mac

অন্য চিপসহ MacBook Pro:

M1 Max চিপসহ অন্য Mac:

Mac Studio M1 Max

মুখোমুখি:

লোকাল AI-এর জন্য M1 Max · লোকাল LLM-এর জন্য সেরা Mac · সব Mac

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।