लॉग इनवॉलेट तयार करा

Mac वर Ling 3.1 Flash चालू शकते का?

हो, 512 GB किंवा जास्त युनिफाइड मेमरीसह. Ling 3.1 Flash मध्ये 560B पॅरामीटर आहेत, त्यापैकी प्रत्येक टोकनसाठी 25B सक्रिय असतात; प्रत्येक प्रिसिजनला त्याला किती मेमरी लागते आणि प्रत्येक Apple चिप ते किती वेगाने चालवते, ते इथे पाहा.

अपडेट केले

4-बिट ला मेमरी340 GBवेट 315 GB + कॉन्टेक्स्ट
सर्वात लहान Mac512 GB4-बिट · 4 Mac कॉन्फिगरेशन
सर्वात वेगवान Mac38–68टोकन/सेकंद · M5 Ultra 512 GB (अंदाज)

प्रत्येक प्रिसिजनला मेमरी

आवृत्तीवेटकॉन्टेक्स्टसहसर्वात लहान Mac
8-बिट595 GB643 GBकोणत्याही Mac पेक्षा जास्त
6-बिट455 GB491 GBकोणत्याही Mac पेक्षा जास्त
4-बिट315 GB340 GB512 GB
3-बिट कमी गुणवत्ता245 GB265 GB512 GB
2-बिट कमी गुणवत्ता175 GB189 GB256 GB

प्रत्येक Apple चिपवर

प्रत्येक चिपचा Ling 3.1 Flash चालवणारा सर्वात लहान मेमरी आकार, त्यात बसणारी सर्वोत्तम आवृत्ती, आणि अपेक्षित लिहिण्याचा वेग.

चिपलागतेआवृत्तीटोकन/सेकंद
M6कोणताही आकार बसत नाहीखूप मोठे–
M5 Ultra512 GB4-बिट चांगले चालते38–68
M5 Maxकोणताही आकार बसत नाहीखूप मोठे–
M5 Proकोणताही आकार बसत नाहीखूप मोठे–
M5कोणताही आकार बसत नाहीखूप मोठे–
M4 Maxकोणताही आकार बसत नाहीखूप मोठे–
M4 Proकोणताही आकार बसत नाहीखूप मोठे–
M4कोणताही आकार बसत नाहीखूप मोठे–
M3 Ultra512 GB4-बिट चांगले चालते26–46
M3 Maxकोणताही आकार बसत नाहीखूप मोठे–
M3 Proकोणताही आकार बसत नाहीखूप मोठे–
M3कोणताही आकार बसत नाहीखूप मोठे–
M2 Ultraकोणताही आकार बसत नाहीखूप मोठे–
M2 Maxकोणताही आकार बसत नाहीखूप मोठे–
M2 Proकोणताही आकार बसत नाहीखूप मोठे–
M2कोणताही आकार बसत नाहीखूप मोठे–
M1 Ultraकोणताही आकार बसत नाहीखूप मोठे–
M1 Maxकोणताही आकार बसत नाहीखूप मोठे–
M1 Proकोणताही आकार बसत नाहीखूप मोठे–
M1कोणताही आकार बसत नाहीखूप मोठे–

ते कसे चालवायचे

  1. Terminal मध्ये Apple च्या MLX सह: अजून कोणताही MLX बिल्ड नाही, आणि साधे mlx-lm अजून अधिकृत वेट्स रूपांतरित करू शकत नाही (bailing_moe_v3.py).

टप्प्याटप्प्याने: Mac वर LLM डाउनलोड करा आणि चालवा · MLX Harness कसे वापरायचे · MLX विरुद्ध Ollama विरुद्ध llama.cpp

Ling 3.1 Flash बद्दल

निर्मातेinclusionAI
पॅरामीटर560B एकूण · 25B सक्रिय (mixture of experts)
कॉन्टेक्स्ट256K टोकन
परवानाMIT
प्रकाशित2026-10
इनपुटमजकूर
इंटेलिजन्सArtificial Analysis Intelligence Index वर 41.1
वेटinclusionAI/Ling-3.1-flash

प्रश्न

Ling 3.1 Flash ला किती मेमरी लागते?
4-बिट ला सुमारे 315 GB वेट, शिवाय कॉन्टेक्स्टसाठी जागा: एकूण 340 GB. Mac वर याचा अर्थ 512 GB किंवा जास्त युनिफाइड मेमरी, कारण डिफॉल्टनुसार macOS GPU ला त्यापैकी सुमारे 75% वापरू देते.
Mac वर Ling 3.1 Flash किती वेगाने चालते?
लिहिण्याचा वेग मेमरी बँडविड्थवर अवलंबून असतो. यासाठी इथला सर्वात वेगवान Mac 512 GB असलेला M5 Ultra आहे, सेकंदाला सुमारे 38–68 टोकन (4-बिट). ते चालवणारा सर्वात लहान Mac, 512 GB असलेला M5 Ultra, सुमारे 38–68 पर्यंत पोहोचतो.
Ling 3.1 Flash त्याच्या आकाराच्या मानाने वेगाने का चालते?
हे mixture-of-experts मॉडेल आहे: ते मेमरीत 560B पॅरामीटर ठेवते, पण प्रत्येक टोकनसाठी फक्त 25B वाचते, त्यामुळे ते खूप लहान मॉडेलच्या वेगाने लिहिते.

तत्सम मॉडेल

प्रत्येक मॉडेल · प्रत्येक Mac · तुमच्या Mac ची तुलना करा

तुमच्या मॉडेल कार्ड किंवा README साठी

Runs on a Mac: Ling 3.1 Flash Ling 3.1 Flash चांगले चालवणारा सर्वात लहान Mac दाखवते आणि इथे लिंक करते.

[![Runs on a Mac](https://mlx.app/badge/run/ling-3.1-flash.svg)](https://mlx.app/run/ling-3.1-flash)

हिशोब कसा केला

मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.

ओपन डेटा: mlx.app/data (JSON, CSV)

Mac वर Ling 3.1 Flash चालू शकते का? मेमरी आणि वेग