लॉग इनवॉलेट बनाएँ

क्या Mac पर Ling 3.1 Flash चल सकता है?

हाँ, 512 GB या ज़्यादा यूनिफ़ाइड मेमोरी के साथ। Ling 3.1 Flash में 560B पैरामीटर हैं, जिनमें से हर टोकन के लिए 25B सक्रिय रहते हैं; यहाँ देखें कि हर प्रिसिज़न पर इसे कितनी मेमोरी चाहिए और हर Apple चिप इसे कितनी तेज़ी से चलाती है।

अपडेट किया गया

4-बिट पर मेमोरी340 GBवेट 315 GB + कॉन्टेक्स्ट
सबसे छोटा Mac512 GB4-बिट · 4 Mac कॉन्फ़िगरेशन
सबसे तेज़ Mac38–68टोकन/सेकंड · M5 Ultra 512 GB (अनुमान)

हर प्रिसिज़न पर मेमोरी

वर्ज़नवेटकॉन्टेक्स्ट के साथसबसे छोटा Mac
8-बिट595 GB643 GBकिसी भी Mac से ज़्यादा
6-बिट455 GB491 GBकिसी भी Mac से ज़्यादा
4-बिट315 GB340 GB512 GB
3-बिट कम क्वालिटी245 GB265 GB512 GB
2-बिट कम क्वालिटी175 GB189 GB256 GB

हर Apple चिप पर

हर चिप का सबसे छोटा मेमोरी साइज़ जो Ling 3.1 Flash चलाता है, उसमें फ़िट होने वाला सबसे अच्छा वर्ज़न, और लिखने की अनुमानित स्पीड।

चिपज़रूरतवर्ज़नटोकन/सेकंड
M6कोई साइज़ फ़िट नहींबहुत बड़ा–
M5 Ultra512 GB4-बिट अच्छा चलता है38–68
M5 Maxकोई साइज़ फ़िट नहींबहुत बड़ा–
M5 Proकोई साइज़ फ़िट नहींबहुत बड़ा–
M5कोई साइज़ फ़िट नहींबहुत बड़ा–
M4 Maxकोई साइज़ फ़िट नहींबहुत बड़ा–
M4 Proकोई साइज़ फ़िट नहींबहुत बड़ा–
M4कोई साइज़ फ़िट नहींबहुत बड़ा–
M3 Ultra512 GB4-बिट अच्छा चलता है26–46
M3 Maxकोई साइज़ फ़िट नहींबहुत बड़ा–
M3 Proकोई साइज़ फ़िट नहींबहुत बड़ा–
M3कोई साइज़ फ़िट नहींबहुत बड़ा–
M2 Ultraकोई साइज़ फ़िट नहींबहुत बड़ा–
M2 Maxकोई साइज़ फ़िट नहींबहुत बड़ा–
M2 Proकोई साइज़ फ़िट नहींबहुत बड़ा–
M2कोई साइज़ फ़िट नहींबहुत बड़ा–
M1 Ultraकोई साइज़ फ़िट नहींबहुत बड़ा–
M1 Maxकोई साइज़ फ़िट नहींबहुत बड़ा–
M1 Proकोई साइज़ फ़िट नहींबहुत बड़ा–
M1कोई साइज़ फ़िट नहींबहुत बड़ा–

इसे कैसे चलाएँ

  1. Terminal में Apple के MLX के साथ: अभी कोई MLX बिल्ड नहीं है, और सामान्य mlx-lm अभी आधिकारिक वेट्स को बदल नहीं सकता (bailing_moe_v3.py)।

स्टेप बाय स्टेप: Mac पर LLM डाउनलोड करें और चलाएँ · MLX Harness कैसे इस्तेमाल करें · MLX बनाम Ollama बनाम llama.cpp

Ling 3.1 Flash के बारे में

बनाने वालाinclusionAI
पैरामीटर560B कुल · 25B सक्रिय (mixture of experts)
कॉन्टेक्स्ट256K टोकन
लाइसेंसMIT
रिलीज़2026-10
इनपुटटेक्स्ट
इंटेलिजेंसArtificial Analysis Intelligence Index पर 41.1
वेटinclusionAI/Ling-3.1-flash

सवाल

Ling 3.1 Flash को कितनी मेमोरी चाहिए?
4-बिट पर लगभग 315 GB वेट, साथ में कॉन्टेक्स्ट के लिए जगह: कुल 340 GB। Mac पर इसका मतलब है 512 GB या ज़्यादा यूनिफ़ाइड मेमोरी, क्योंकि डिफ़ॉल्ट रूप से macOS GPU को उसका लगभग 75% इस्तेमाल करने देता है।
Mac पर Ling 3.1 Flash कितना तेज़ चलता है?
लिखने की स्पीड मेमोरी बैंडविड्थ पर निर्भर करती है। यहाँ इसके लिए सबसे तेज़ Mac 512 GB वाला M5 Ultra है, लगभग 38–68 टोकन प्रति सेकंड (4-बिट)। इसे चलाने वाला सबसे छोटा Mac, 512 GB वाला M5 Ultra, लगभग 38–68 तक पहुँचता है।
Ling 3.1 Flash अपने साइज़ के हिसाब से तेज़ क्यों चलता है?
यह mixture-of-experts मॉडल है: यह मेमोरी में 560B पैरामीटर रखता है, पर हर टोकन के लिए सिर्फ़ 25B पढ़ता है, इसलिए यह कहीं छोटे मॉडल की स्पीड से लिखता है।

मिलते-जुलते मॉडल

हर मॉडल · हर Mac · अपने Mac की तुलना करें

आपके मॉडल कार्ड या README के लिए

Runs on a Mac: Ling 3.1 Flash Ling 3.1 Flash को अच्छी तरह चलाने वाला सबसे छोटा Mac दिखाता है और यहाँ लिंक करता है।

[![Runs on a Mac](https://mlx.app/badge/run/ling-3.1-flash.svg)](https://mlx.app/run/ling-3.1-flash)

हिसाब कैसे लगाया गया

मेमोरी: मॉडल के पैरामीटर 8, 6, 4, 3 या 2 बिट प्रति वेट पर, साथ में MLX के ग्रुप स्केल (हर वेट पर आधा बिट), या उसका नेटिव फ़ॉर्मैट, और ऊपर से कॉन्टेक्स्ट के लिए जगह। डिफ़ॉल्ट रूप से macOS GPU को यूनिफ़ाइड मेमोरी का लगभग 75% इस्तेमाल करने देता है। स्पीड: मेमोरी बैंडविड्थ को हर टोकन पर पढ़े जाने वाले बाइट से भाग देने पर एक बातचीत की ऊपरी सीमा मिलती है; llama.cpp के सार्वजनिक Apple Silicon बेंचमार्क में असली रन इसके लगभग 45% से 80% तक पहुँचते हैं, और यही रेंज दिखाई गई है। ये अनुमान हैं, माप नहीं: अपना Mac MLX Bench पर मापें। मॉडल के आँकड़े हर मॉडल के आधिकारिक मॉडल कार्ड से, चिप के आँकड़े Apple के Tech Specs से। 2026-10-19 को जाँचा गया। वही डेटा जो mlx.app/compare पर है।

ओपन डेटा: mlx.app/data (JSON, CSV)

क्या Mac पर Ling 3.1 Flash चलेगा? मेमोरी और स्पीड