লগ ইনওয়ালেট তৈরি করুন

লোকাল AI-এর জন্য M2 Max চিপসহ Mac Studio।

M2 Max চিপ 400 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না, তাই সাইজটি এখানেই বেছে নিন।

32 GB38টি মডেল ভালো চলেQwen3.6 35B A3B · 106–188 tok/s64 GB39টি মডেল ভালো চলেNemotron 3.5 Bolt 74B A9B · 35–63 tok/s96 GB43টি মডেল ভালো চলেgpt-oss-120b · 67–119 tok/s

মেমরি সাইজ অনুযায়ী

মেমরিভালো চলেভালো চলে এমন সবচেয়ে বড়gpt-oss-20b
32 GB400 GB/s38Qwen3.6 35B A3B95–168 tok/s
64 GB400 GB/s39Nemotron 3.5 Bolt 74B A9B95–168 tok/s
96 GB400 GB/s43gpt-oss-120b95–168 tok/s

Mac মডেল: Mac Studio (2023)। সব Mac মডেলে সব মেমরি সাইজ পাওয়া যায় না; কোনটির সঙ্গে কী আসে, তা Apple-এর Tech Specs-এ দেওয়া আছে।

প্রশ্ন

লোকাল LLM-এর জন্য M2 Max চিপসহ Mac Studio কি ভালো?
96 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 43টি ভালোভাবে চালায়, gpt-oss-120b পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 95–168 টোকেন লেখে। M2 Max চিপ 400 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।
AI-এর জন্য M2 Max চিপসহ Mac Studio কেনার সময় কত মেমরি নেওয়া উচিত?
32 GB-তে এটি 38টি ওপেন মডেল ভালোভাবে চালায়; 96 GB-তে 43টি, gpt-oss-120b পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

অন্য Mac

অন্য চিপসহ Mac Studio:

M2 Max চিপসহ অন্য Mac:

মুখোমুখি:

লোকাল AI-এর জন্য M2 Max · লোকাল LLM-এর জন্য সেরা Mac · সব Mac

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

Mac Studio M2 Max-এ কোন LLM চলে: মেমরি অনুযায়ী