লগ ইনওয়ালেট তৈরি করুন

Mac কি Ling 3.1 Flash চালাতে পারে?

হ্যাঁ, 512 GB বা তার বেশি ইউনিফায়েড মেমরি থাকলে। Ling 3.1 Flash-এ 560B প্যারামিটার আছে, যার মধ্যে প্রতি টোকেনে 25B সক্রিয় থাকে; এখানে দেখুন প্রতিটি প্রিসিশনে এর কত মেমরি লাগে আর প্রতিটি Apple চিপ এটি কত দ্রুত চালায়।

হালনাগাদ

4-bit-এ মেমরি340 GBওয়েট 315 GB + কনটেক্সট
সবচেয়ে ছোট Mac512 GB4-bit · 4টি Mac কনফিগারেশন
সবচেয়ে দ্রুত Mac38–68টোকেন/সেকেন্ড · M5 Ultra 512 GB (আনুমানিক)

প্রতিটি প্রিসিশনে মেমরি

ভার্সনওয়েটকনটেক্সটসহসবচেয়ে ছোট Mac
8-bit595 GB643 GBযেকোনো Mac-এর চেয়ে বেশি
6-bit455 GB491 GBযেকোনো Mac-এর চেয়ে বেশি
4-bit315 GB340 GB512 GB
3-bit কম মান245 GB265 GB512 GB
2-bit কম মান175 GB189 GB256 GB

প্রতিটি Apple চিপে

প্রতিটি চিপের যে সবচেয়ে ছোট মেমরি সাইজ Ling 3.1 Flash চালায়, তাতে ধরে এমন সেরা ভার্সন, আর লেখার আনুমানিক গতি।

চিপলাগেভার্সনটোকেন/সেকেন্ড
M6কোনো সাইজে ধরে নাখুব বড়–
M5 Ultra512 GB4-bit ভালো চলে38–68
M5 Maxকোনো সাইজে ধরে নাখুব বড়–
M5 Proকোনো সাইজে ধরে নাখুব বড়–
M5কোনো সাইজে ধরে নাখুব বড়–
M4 Maxকোনো সাইজে ধরে নাখুব বড়–
M4 Proকোনো সাইজে ধরে নাখুব বড়–
M4কোনো সাইজে ধরে নাখুব বড়–
M3 Ultra512 GB4-bit ভালো চলে26–46
M3 Maxকোনো সাইজে ধরে নাখুব বড়–
M3 Proকোনো সাইজে ধরে নাখুব বড়–
M3কোনো সাইজে ধরে নাখুব বড়–
M2 Ultraকোনো সাইজে ধরে নাখুব বড়–
M2 Maxকোনো সাইজে ধরে নাখুব বড়–
M2 Proকোনো সাইজে ধরে নাখুব বড়–
M2কোনো সাইজে ধরে নাখুব বড়–
M1 Ultraকোনো সাইজে ধরে নাখুব বড়–
M1 Maxকোনো সাইজে ধরে নাখুব বড়–
M1 Proকোনো সাইজে ধরে নাখুব বড়–
M1কোনো সাইজে ধরে নাখুব বড়–

কীভাবে চালাবেন

  1. Terminal-এ Apple-এর MLX দিয়ে: এখনও কোনো MLX বিল্ড নেই, আর সাধারণ mlx-lm এখনও অফিশিয়াল ওয়েটগুলো রূপান্তর করতে পারে না (bailing_moe_v3.py)।

ধাপে ধাপে: Mac-এ LLM ডাউনলোড করে চালান · MLX Harness কীভাবে ব্যবহার করবেন · MLX বনাম Ollama বনাম llama.cpp

Ling 3.1 Flash সম্পর্কে

নির্মাতাinclusionAI
প্যারামিটারমোট 560B · সক্রিয় 25B (mixture of experts)
কনটেক্সট256K টোকেন
লাইসেন্সMIT
প্রকাশ2026-10
ইনপুটটেক্সট
ইন্টেলিজেন্সArtificial Analysis Intelligence Index-এ 41.1
ওয়েটinclusionAI/Ling-3.1-flash

প্রশ্ন

Ling 3.1 Flash-এর কত মেমরি লাগে?
4-bit-এ প্রায় 315 GB ওয়েট, সঙ্গে কনটেক্সটের জায়গা: সব মিলিয়ে 340 GB। Mac-এ এর মানে 512 GB বা তার বেশি ইউনিফায়েড মেমরি, কারণ ডিফল্টভাবে macOS GPU-কে তার প্রায় 75% ব্যবহার করতে দেয়।
Mac-এ Ling 3.1 Flash কত দ্রুত চলে?
লেখার গতি নির্ভর করে মেমরি ব্যান্ডউইথের ওপর। এখানে এর জন্য সবচেয়ে দ্রুত Mac হলো 512 GB-এর M5 Ultra, সেকেন্ডে প্রায় 38–68 টোকেন (4-bit)। যে সবচেয়ে ছোট Mac এটি চালায়, 512 GB-এর M5 Ultra, সেটি প্রায় 38–68 পর্যন্ত পৌঁছায়।
Ling 3.1 Flash তার সাইজের তুলনায় দ্রুত চলে কেন?
এটি একটি mixture-of-experts মডেল: মেমরিতে 560B প্যারামিটার রাখে, কিন্তু প্রতি টোকেনে পড়ে শুধু 25B, তাই এটি অনেক ছোট মডেলের গতিতে লেখে।

একই ধরনের মডেল

সব মডেল · সব Mac · আপনার Mac তুলনা করুন

আপনার মডেল কার্ড বা README-এর জন্য

Runs on a Mac: Ling 3.1 Flash Ling 3.1 Flash ভালোভাবে চালায় এমন সবচেয়ে ছোট Mac দেখায় আর এখানে লিংক করে।

[![Runs on a Mac](https://mlx.app/badge/run/ling-3.1-flash.svg)](https://mlx.app/run/ling-3.1-flash)

হিসাব কীভাবে করা হয়েছে

মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।

ওপেন ডেটা: mlx.app/data (JSON, CSV)

Mac কি Ling 3.1 Flash চালাতে পারে? মেমরি ও গতি