লগ ইনওয়ালেট তৈরি করুন

লোকাল AI-এর জন্য M3 Ultra চিপসহ Mac Studio।

M3 Ultra চিপ 819 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না, তাই সাইজটি এখানেই বেছে নিন।

96 GB43টি মডেল ভালো চলেgpt-oss-120b · 137–243 tok/s256 GB53টি মডেল ভালো চলেMiMo V2.6 Flash · 44–78 tok/s512 GB60টি মডেল ভালো চলেDeepSeek V4.1 Flash 1017 · 41–73 tok/s

মেমরি সাইজ অনুযায়ী

মেমরিভালো চলেভালো চলে এমন সবচেয়ে বড়gpt-oss-20b
96 GB819 GB/s43gpt-oss-120b194–345 tok/s
256 GB819 GB/s53MiMo V2.6 Flash194–345 tok/s
512 GB819 GB/s60DeepSeek V4.1 Flash 1017194–345 tok/s

Mac মডেল: Mac Studio (2025)। সব Mac মডেলে সব মেমরি সাইজ পাওয়া যায় না; কোনটির সঙ্গে কী আসে, তা Apple-এর Tech Specs-এ দেওয়া আছে।

প্রশ্ন

লোকাল LLM-এর জন্য M3 Ultra চিপসহ Mac Studio কি ভালো?
512 GB-তে এটি 73টি ওপেন মডেলের মধ্যে 60টি ভালোভাবে চালায়, DeepSeek V4.1 Flash 1017 পর্যন্ত, আর gpt-oss-20b দিয়ে সেকেন্ডে প্রায় 194–345 টোকেন লেখে। M3 Ultra চিপ 819 GB/s গতিতে মেমরি পড়ে, যা ঠিক করে এটি কত দ্রুত লেখে।
AI-এর জন্য M3 Ultra চিপসহ Mac Studio কেনার সময় কত মেমরি নেওয়া উচিত?
96 GB-তে এটি 43টি ওপেন মডেল ভালোভাবে চালায়; 512 GB-তে 60টি, DeepSeek V4.1 Flash 1017 পর্যন্ত। কোন মডেল ধরবে তা ঠিক করে মেমরি, আর পরে তা আপগ্রেড করা যায় না।

অন্য Mac

অন্য চিপসহ Mac Studio:

মুখোমুখি:

PC ও গ্রাফিক্স কার্ডের সঙ্গে তুলনা:

লোকাল AI-এর জন্য M3 Ultra · লোকাল LLM-এর জন্য সেরা Mac · সব Mac

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

Mac Studio M3 Ultra-এ কোন LLM চলে: মেমরি অনুযায়ী