লগ ইনওয়ালেট তৈরি করুন

Mac কি Mistral Medium 3.5 (128B) চালাতে পারে?

হ্যাঁ, 128 GB বা তার বেশি ইউনিফায়েড মেমরি থাকলে। Mistral Medium 3.5 (128B)-এ 128B প্যারামিটার আছে; এখানে দেখুন প্রতিটি প্রিসিশনে এর কত মেমরি লাগে আর প্রতিটি Apple চিপ এটি কত দ্রুত চালায়।

4-bit-এ মেমরি77.8 GBওয়েট 72 GB + কনটেক্সট
সবচেয়ে ছোট Mac128 GB4-bit · 23টি Mac কনফিগারেশন
সবচেয়ে দ্রুত Mac5–9টোকেন/সেকেন্ড · M2 Ultra 128 GB (আনুমানিক)

প্রতিটি প্রিসিশনে মেমরি

ভার্সনওয়েটকনটেক্সটসহসবচেয়ে ছোট Mac
8-bit136 GB147 GB256 GB
6-bit104 GB112 GB192 GB
4-bit72 GB77.8 GB128 GB
3-bit কম মান56 GB60.5 GB96 GB
2-bit কম মান40 GB43.2 GB64 GB

প্রতিটি Apple চিপে

প্রতিটি চিপের যে সবচেয়ে ছোট মেমরি সাইজ Mistral Medium 3.5 (128B) চালায়, তাতে ধরে এমন সেরা ভার্সন, আর লেখার আনুমানিক গতি।

চিপলাগেভার্সনটোকেন/সেকেন্ড
M6কোনো সাইজে ধরে নাখুব বড়–
M5 Ultra256 GB8-bit ধীর4–7
M5 Max128 GB4-bit ধীর4–7
M5 Pro64 GB2-bit ধীর3–6
M5কোনো সাইজে ধরে নাখুব বড়–
M4 Max128 GB4-bit ধীর3–6
M4 Pro64 GB2-bit ধীর3–5
M4কোনো সাইজে ধরে নাখুব বড়–
M3 Ultra256 GB8-bit ধীর3–5
M3 Max128 GB4-bit ধীর3–4
M3 Proকোনো সাইজে ধরে নাখুব বড়–
M3কোনো সাইজে ধরে নাখুব বড়–
M2 Ultra128 GB4-bit ধীর5–9
M2 Max64 GB2-bit ধীর5–8
M2 Proকোনো সাইজে ধরে নাখুব বড়–
M2কোনো সাইজে ধরে নাখুব বড়–
M1 Ultra128 GB4-bit ধীর5–9
M1 Max64 GB2-bit ধীর5–8
M1 Proকোনো সাইজে ধরে নাখুব বড়–
M1কোনো সাইজে ধরে নাখুব বড়–

কীভাবে চালাবেন

  1. সহজ উপায়: MLX Harness ডাউনলোড করুন, এটি বিনামূল্যে ও ওপেন সোর্স। Mistral Medium 3.5 (128B) খুঁজুন, আপনার Mac-এ ধরে এমন ভার্সন ডাউনলোড করুন, আর চ্যাট করুন। এটি OpenAI-compatible API দিয়ে মডেলটি আপনার অন্য অ্যাপকেও দেয়।MLX Harness ডাউনলোড করুনবিনামূল্যে · Apple Silicon · macOS 14.5 বা নতুন
  2. Terminal-এ Apple-এর MLX দিয়ে:pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Medium-3.5-128B-4bitবিল্ড: Hugging Face-এ mlx-community/Mistral-Medium-3.5-128B-4bit। অন্য প্রিসিশনগুলো তার পাশেই আছে।

ধাপে ধাপে: Mac-এ LLM ডাউনলোড করে চালান · MLX Harness কীভাবে ব্যবহার করবেন · MLX বনাম Ollama বনাম llama.cpp

Mistral Medium 3.5 (128B) সম্পর্কে

নির্মাতাMistral AI
প্যারামিটার128B (ডেন্স)
কনটেক্সট256K টোকেন
লাইসেন্সModified MIT (exceptions for companies with large revenue)
প্রকাশ2026-03
ইনপুটটেক্সট ও ছবি
ইন্টেলিজেন্সArtificial Analysis Intelligence Index-এ 14.2
ওয়েটmistralai/Mistral-Medium-3.5-128B

প্রশ্ন

Mistral Medium 3.5 (128B)-এর কত মেমরি লাগে?
4-bit-এ প্রায় 72 GB ওয়েট, সঙ্গে কনটেক্সটের জায়গা: সব মিলিয়ে 77.8 GB। Mac-এ এর মানে 128 GB বা তার বেশি ইউনিফায়েড মেমরি, কারণ ডিফল্টভাবে macOS GPU-কে তার প্রায় 75% ব্যবহার করতে দেয়।
Mac-এ Mistral Medium 3.5 (128B) কত দ্রুত চলে?
লেখার গতি নির্ভর করে মেমরি ব্যান্ডউইথের ওপর। এখানে এর জন্য সবচেয়ে দ্রুত Mac হলো 128 GB-এর M2 Ultra, সেকেন্ডে প্রায় 5–9 টোকেন (4-bit)। যে সবচেয়ে ছোট Mac এটি চালায়, 128 GB-এর M2 Ultra, সেটি প্রায় 5–9 পর্যন্ত পৌঁছায়।
কোয়ান্টাইজেশনে কি Mistral Medium 3.5 (128B)-এর মান কমে?
4 bit-এ বেশিরভাগ মডেল আসল মানের কাছাকাছি থাকে; 4 bit-এর নিচে মান দ্রুত কমে। আপনার Mac-এ জায়গা রেখে ধরে এমন সবচেয়ে উঁচু প্রিসিশন বেছে নিন।

একই ধরনের মডেল

সব মডেল · সব Mac · আপনার Mac তুলনা করুন

আপনার মডেল কার্ড বা README-এর জন্য

Runs on a Mac: Mistral Medium 3.5 (128B) Mistral Medium 3.5 (128B) ভালোভাবে চালায় এমন সবচেয়ে ছোট Mac দেখায় আর এখানে লিংক করে।

[![Runs on a Mac](https://mlx.app/badge/run/mistral-medium-3.5.svg)](https://mlx.app/run/mistral-medium-3.5)

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

Mac কি Mistral Medium 3.5 (128B) চালাতে পারে? মেমরি ও গতি