লগ ইনওয়ালেট তৈরি করুন

লোকাল AI-এর জন্য M5 Ultra চিপসহ Mac Studio।

M5 Ultra চিপ 1,200 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না, তাই সাইজটি এখানেই বেছে নিন।

96 GB44টি মডেল ভালো চলেgpt-oss-120b · 200–356 tok/s256 GB54টি মডেল ভালো চলেMiMo V2.6 Flash · 64–114 tok/s512 GB61টি মডেল ভালো চলেDeepSeek V4.1 Flash 1017 · 60–107 tok/s

মেমরি সাইজ অনুযায়ী

মেমরিভালো চলেভালো চলে এমন সবচেয়ে বড়gpt-oss-20b
96 GB1,200 GB/s44gpt-oss-120b284–505 tok/s
256 GB1,200 GB/s54MiMo V2.6 Flash284–505 tok/s
512 GB1,200 GB/s61DeepSeek V4.1 Flash 1017284–505 tok/s

Mac মডেল: Mac Studio (M5 Max or M5 Ultra)। সব Mac মডেলে সব মেমরি সাইজ পাওয়া যায় না; কোনটির সঙ্গে কী আসে, তা Apple-এর Tech Specs-এ দেওয়া আছে।

প্রশ্ন

লোকাল LLM-এর জন্য M5 Ultra চিপসহ Mac Studio কি ভালো?
512 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 61টি ভালোভাবে চালায়, DeepSeek V4.1 Flash 1017 পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 284–505 টোকেন লেখে। M5 Ultra চিপ 1,200 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।
AI-এর জন্য M5 Ultra চিপসহ Mac Studio কেনার সময় কত মেমরি নেওয়া উচিত?
96 GB-তে এটি 44টি ওপেন মডেল ভালোভাবে চালায়; 512 GB-তে 61টি, DeepSeek V4.1 Flash 1017 পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

অন্য Mac

অন্য চিপসহ Mac Studio:

মুখোমুখি:

PC ও গ্রাফিক্স কার্ডের সঙ্গে তুলনা:

লোকাল AI-এর জন্য M5 Ultra · লোকাল LLM-এর জন্য সেরা Mac · সব Mac

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

Mac Studio M5 Ultra-এ কোন LLM চলে: মেমরি অনুযায়ী