লগ ইনওয়ালেট তৈরি করুন

লোকাল AI-এর জন্য M5 Max চিপসহ Mac Studio।

M5 Max চিপ 614 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না, তাই সাইজটি এখানেই বেছে নিন।

48 GB38টি মডেল ভালো চলেQwen3.6 35B A3B · 115–205 tok/s64 GB39টি মডেল ভালো চলেNemotron 3.5 Bolt 74B A9B · 54–96 tok/s128 GB47টি মডেল ভালো চলেQwen3.5 122B A10B · 49–88 tok/s

মেমরি সাইজ অনুযায়ী

মেমরিভালো চলেভালো চলে এমন সবচেয়ে বড়gpt-oss-20b
36 GB460 GB/s38Qwen3.6 35B A3B109–194 tok/s
48 GB614 GB/s38Qwen3.6 35B A3B145–259 tok/s
64 GB614 GB/s39Nemotron 3.5 Bolt 74B A9B145–259 tok/s
128 GB614 GB/s47Qwen3.5 122B A10B145–259 tok/s

Mac মডেল: Mac Studio (M5 Max or M5 Ultra)। সব Mac মডেলে সব মেমরি সাইজ পাওয়া যায় না; কোনটির সঙ্গে কী আসে, তা Apple-এর Tech Specs-এ দেওয়া আছে।

প্রশ্ন

লোকাল LLM-এর জন্য M5 Max চিপসহ Mac Studio কি ভালো?
128 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 47টি ভালোভাবে চালায়, Qwen3.5 122B A10B পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 145–259 টোকেন লেখে। M5 Max চিপ 614 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।
AI-এর জন্য M5 Max চিপসহ Mac Studio কেনার সময় কত মেমরি নেওয়া উচিত?
36 GB-তে এটি 38টি ওপেন মডেল ভালোভাবে চালায়; 128 GB-তে 47টি, Qwen3.5 122B A10B পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

অন্য Mac

অন্য চিপসহ Mac Studio:

M5 Max চিপসহ অন্য Mac:

মুখোমুখি:

PC ও গ্রাফিক্স কার্ডের সঙ্গে তুলনা:

লোকাল AI-এর জন্য M5 Max · লোকাল LLM-এর জন্য সেরা Mac · সব Mac

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

Mac Studio M5 Max-এ কোন LLM চলে: মেমরি অনুযায়ী