লগ ইনওয়ালেট তৈরি করুন

Mac কি Qwen3.8 2.4T A95B চালাতে পারে?

একটি Mac-এ নয়। Qwen3.8 2.4T A95B-এ 2,400B প্যারামিটার আছে, আর 2 bit-এও তা সবচেয়ে বড় Mac-এর মেমরির চেয়ে বেশি। এখানে দেখুন এর জন্য কী লাগবে, আর কোন ছোট মডেলগুলো ভালো চলে।

4-bit-এ মেমরি1.5 TBওয়েট 1.4 TB + কনটেক্সট
সবচেয়ে ছোট Macনেই2 bit-এও
সবচেয়ে দ্রুত Mac–কোনো Mac-এ ধরে না

প্রতিটি প্রিসিশনে মেমরি

ভার্সনওয়েটকনটেক্সটসহসবচেয়ে ছোট Mac
8-bit2.6 TB2.8 TBযেকোনো Mac-এর চেয়ে বেশি
6-bit2 TB2.1 TBযেকোনো Mac-এর চেয়ে বেশি
4-bit1.4 TB1.5 TBযেকোনো Mac-এর চেয়ে বেশি
3-bit কম মান1.1 TB1.1 TBযেকোনো Mac-এর চেয়ে বেশি
2-bit কম মান750 GB810 GBযেকোনো Mac-এর চেয়ে বেশি

প্রতিটি Apple চিপে

প্রতিটি চিপের যে সবচেয়ে ছোট মেমরি সাইজ Qwen3.8 2.4T A95B চালায়, তাতে ধরে এমন সেরা ভার্সন, আর লেখার আনুমানিক গতি।

চিপলাগেভার্সনটোকেন/সেকেন্ড
M6কোনো সাইজে ধরে নাখুব বড়–
M5 Ultraকোনো সাইজে ধরে নাখুব বড়–
M5 Maxকোনো সাইজে ধরে নাখুব বড়–
M5 Proকোনো সাইজে ধরে নাখুব বড়–
M5কোনো সাইজে ধরে নাখুব বড়–
M4 Maxকোনো সাইজে ধরে নাখুব বড়–
M4 Proকোনো সাইজে ধরে নাখুব বড়–
M4কোনো সাইজে ধরে নাখুব বড়–
M3 Ultraকোনো সাইজে ধরে নাখুব বড়–
M3 Maxকোনো সাইজে ধরে নাখুব বড়–
M3 Proকোনো সাইজে ধরে নাখুব বড়–
M3কোনো সাইজে ধরে নাখুব বড়–
M2 Ultraকোনো সাইজে ধরে নাখুব বড়–
M2 Maxকোনো সাইজে ধরে নাখুব বড়–
M2 Proকোনো সাইজে ধরে নাখুব বড়–
M2কোনো সাইজে ধরে নাখুব বড়–
M1 Ultraকোনো সাইজে ধরে নাখুব বড়–
M1 Maxকোনো সাইজে ধরে নাখুব বড়–
M1 Proকোনো সাইজে ধরে নাখুব বড়–
M1কোনো সাইজে ধরে নাখুব বড়–

কীভাবে চালাবেন

কোনো একটি Mac-এ এটি ধরে না। নিচের ছোট মডেলগুলো ভালো চলে, আর Mac ক্লাস্টারের গাইড দেখায় কীভাবে একটি মডেল কয়েকটি Mac-এ ভাগ করে চালানো যায়।

ধাপে ধাপে: Mac-এ LLM ডাউনলোড করে চালান · MLX Harness কীভাবে ব্যবহার করবেন · MLX বনাম Ollama বনাম llama.cpp

Qwen3.8 2.4T A95B সম্পর্কে

নির্মাতাQwen (Alibaba)
প্যারামিটারমোট 2,400B · সক্রিয় 95B (mixture of experts)
কনটেক্সট256K টোকেন
লাইসেন্সQwen3.8-Max license (qwen3.8-max)
প্রকাশ2026-08
ইনপুটটেক্সট
ইন্টেলিজেন্সArtificial Analysis Intelligence Index-এ 39.9
ওয়েটQwen/Qwen3.8-2.4T-A95B

প্রশ্ন

Qwen3.8 2.4T A95B-এর কত মেমরি লাগে?
4-bit-এ প্রায় 1.4 TB ওয়েট, সঙ্গে কনটেক্সটের জায়গা: সব মিলিয়ে 1.5 TB। আজকের কোনো Mac-এ এত মেমরি নেই।
কোনো Mac কি Qwen3.8 2.4T A95B চালাতে পারে?
একা পারে না: 2 bit-এও এর সবচেয়ে বড় Mac-এর চেয়ে বেশি মেমরি লাগে। ছোট কোনো মডেল ব্যবহার করুন, বা ক্লাস্টার রানটাইম দিয়ে কয়েকটি Mac-এ ভাগ করে চালান।
Qwen3.8 2.4T A95B তার সাইজের তুলনায় দ্রুত চলে কেন?
এটি একটি mixture-of-experts মডেল: মেমরিতে 2,400B প্যারামিটার রাখে, কিন্তু প্রতি টোকেনে পড়ে শুধু 95B, তাই এটি অনেক ছোট মডেলের গতিতে লেখে।

একই ধরনের মডেল

সব মডেল · সব Mac · আপনার Mac তুলনা করুন

আপনার মডেল কার্ড বা README-এর জন্য

Runs on a Mac: Qwen3.8 2.4T A95B Qwen3.8 2.4T A95B ভালোভাবে চালায় এমন সবচেয়ে ছোট Mac দেখায় আর এখানে লিংক করে।

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.8-2.4t-a95b.svg)](https://mlx.app/run/qwen3.8-2.4t-a95b)

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

Mac কি Qwen3.8 2.4T A95B চালাতে পারে? মেমরি ও গতি