लॉग इनवॉलेट तयार करा

Mac वर Qwen3.8 2.4T A95B चालू शकते का?

एका Mac वर नाही. Qwen3.8 2.4T A95B मध्ये 2,400B पॅरामीटर आहेत, आणि 2 बिटलाही ते सर्वात मोठ्या Mac च्या मेमरीपेक्षा जास्त आहे. त्यासाठी काय लागेल आणि कोणती लहान मॉडेल चांगली चालतात, ते इथे पाहा.

4-बिट ला मेमरी1.5 TBवेट 1.4 TB + कॉन्टेक्स्ट
सर्वात लहान Macकोणताही नाहीअगदी 2 बिटलाही
सर्वात वेगवान Mac–कोणताही Mac ते सामावू शकत नाही

प्रत्येक प्रिसिजनला मेमरी

आवृत्तीवेटकॉन्टेक्स्टसहसर्वात लहान Mac
8-बिट2.6 TB2.8 TBकोणत्याही Mac पेक्षा जास्त
6-बिट2 TB2.1 TBकोणत्याही Mac पेक्षा जास्त
4-बिट1.4 TB1.5 TBकोणत्याही Mac पेक्षा जास्त
3-बिट कमी गुणवत्ता1.1 TB1.1 TBकोणत्याही Mac पेक्षा जास्त
2-बिट कमी गुणवत्ता750 GB810 GBकोणत्याही Mac पेक्षा जास्त

प्रत्येक Apple चिपवर

प्रत्येक चिपचा Qwen3.8 2.4T A95B चालवणारा सर्वात लहान मेमरी आकार, त्यात बसणारी सर्वोत्तम आवृत्ती, आणि अपेक्षित लिहिण्याचा वेग.

चिपलागतेआवृत्तीटोकन/सेकंद
M6कोणताही आकार बसत नाहीखूप मोठे–
M5 Ultraकोणताही आकार बसत नाहीखूप मोठे–
M5 Maxकोणताही आकार बसत नाहीखूप मोठे–
M5 Proकोणताही आकार बसत नाहीखूप मोठे–
M5कोणताही आकार बसत नाहीखूप मोठे–
M4 Maxकोणताही आकार बसत नाहीखूप मोठे–
M4 Proकोणताही आकार बसत नाहीखूप मोठे–
M4कोणताही आकार बसत नाहीखूप मोठे–
M3 Ultraकोणताही आकार बसत नाहीखूप मोठे–
M3 Maxकोणताही आकार बसत नाहीखूप मोठे–
M3 Proकोणताही आकार बसत नाहीखूप मोठे–
M3कोणताही आकार बसत नाहीखूप मोठे–
M2 Ultraकोणताही आकार बसत नाहीखूप मोठे–
M2 Maxकोणताही आकार बसत नाहीखूप मोठे–
M2 Proकोणताही आकार बसत नाहीखूप मोठे–
M2कोणताही आकार बसत नाहीखूप मोठे–
M1 Ultraकोणताही आकार बसत नाहीखूप मोठे–
M1 Maxकोणताही आकार बसत नाहीखूप मोठे–
M1 Proकोणताही आकार बसत नाहीखूप मोठे–
M1कोणताही आकार बसत नाहीखूप मोठे–

ते कसे चालवायचे

कोणताही एक Mac ते सामावू शकत नाही. खालची लहान मॉडेल चांगली चालतात, आणि Mac क्लस्टरचे मार्गदर्शन एक मॉडेल अनेक Mac वर कसे विभागायचे ते सांगते.

टप्प्याटप्प्याने: Mac वर LLM डाउनलोड करा आणि चालवा · MLX Harness कसे वापरायचे · MLX विरुद्ध Ollama विरुद्ध llama.cpp

Qwen3.8 2.4T A95B बद्दल

निर्मातेQwen (Alibaba)
पॅरामीटर2,400B एकूण · 95B सक्रिय (mixture of experts)
कॉन्टेक्स्ट256K टोकन
परवानाQwen3.8-Max license (qwen3.8-max)
प्रकाशित2026-08
इनपुटमजकूर
इंटेलिजन्सArtificial Analysis Intelligence Index वर 39.9
वेटQwen/Qwen3.8-2.4T-A95B

प्रश्न

Qwen3.8 2.4T A95B ला किती मेमरी लागते?
4-बिट ला सुमारे 1.4 TB वेट, शिवाय कॉन्टेक्स्टसाठी जागा: एकूण 1.5 TB. आज कोणत्याही Mac कडे इतकी मेमरी नाही.
कोणताही Mac Qwen3.8 2.4T A95B चालवू शकतो का?
एकटा नाही: 2 बिटलाही त्याला सर्वात मोठ्या Mac पेक्षा जास्त मेमरी लागते. लहान मॉडेल वापरा, किंवा क्लस्टर रनटाइमने ते अनेक Mac वर विभागा.
Qwen3.8 2.4T A95B त्याच्या आकाराच्या मानाने वेगाने का चालते?
हे mixture-of-experts मॉडेल आहे: ते मेमरीत 2,400B पॅरामीटर ठेवते, पण प्रत्येक टोकनसाठी फक्त 95B वाचते, त्यामुळे ते खूप लहान मॉडेलच्या वेगाने लिहिते.

तत्सम मॉडेल

प्रत्येक मॉडेल · प्रत्येक Mac · तुमच्या Mac ची तुलना करा

तुमच्या मॉडेल कार्ड किंवा README साठी

Runs on a Mac: Qwen3.8 2.4T A95B Qwen3.8 2.4T A95B चांगले चालवणारा सर्वात लहान Mac दाखवते आणि इथे लिंक करते.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.8-2.4t-a95b.svg)](https://mlx.app/run/qwen3.8-2.4t-a95b)

हिशोब कसा केला

मेमरी: मॉडेलचे पॅरामीटर प्रति वेट 8, 6, 4, 3 किंवा 2 बिटला, शिवाय MLX चे ग्रुप स्केल (प्रति वेट अर्धा बिट), किंवा त्याचा नेटिव्ह फॉरमॅट, आणि वर कॉन्टेक्स्टसाठी जागा. डिफॉल्टनुसार macOS GPU ला युनिफाइड मेमरीपैकी सुमारे 75% वापरू देते. वेग: मेमरी बँडविड्थला प्रत्येक टोकनसाठी वाचल्या जाणाऱ्या बाइटने भागल्यास एका संभाषणाची कमाल मर्यादा मिळते; llama.cpp च्या सार्वजनिक Apple Silicon बेंचमार्क मध्ये प्रत्यक्ष रन त्याच्या सुमारे 45% ते 80% पर्यंत पोहोचतात, आणि हीच रेंज दाखवली आहे. हे अंदाज आहेत, मोजमाप नाही: तुमचा Mac MLX Bench वर मोजा. मॉडेलचे आकडे प्रत्येक अधिकृत मॉडेल कार्डमधून, चिपचे आकडे Apple च्या Tech Specs मधून. 2026-10-19 रोजी तपासले. mlx.app/compare वरचाच डेटा.

Mac वर Qwen3.8 2.4T A95B चालू शकते का? मेमरी आणि वेग