लोकल AI के लिए M1।

1AI के लिए ज़रूरी स्पेक्स

2कौन-से मॉडल फ़िट होते हैं

4 बिट प्रति वेट पर किसी मॉडल को हर अरब पैरामीटर के लिए आधे गीगाबाइट से थोड़ी ज़्यादा मेमोरी चाहिए, साथ ही कॉन्टेक्स्ट और macOS के लिए जगह। 16 GB के साथ M1 पर लगभग 21 अरब पैरामीटर तक के मॉडल आराम से चल जाते हैं।

3स्पीड कितनी मिलती है

टेक्स्ट लिखने की स्पीड मेमोरी बैंडविड्थ से सीमित होती है: हर नए टोकन के लिए मॉडल के सक्रिय वेट एक बार पढ़े जाते हैं। M1 की 68 GB/s बैंडविड्थ को प्रति टोकन पढ़े गए बाइट्स से भाग देने पर नीचे दी गई सीमा मिलती है। असली रन आमतौर पर इसके लगभग 45% से 80% तक पहुँचते हैं (llama.cpp बेंचमार्क)।

5दूसरी चिप से तुलना करें

• M1 · 8 GB
• M1 · 16 GB
• M1 vs M1 Pro
• M1 vs M2
• M1 vs M4

• M2: 24 GB, 100 GB/s
• M1 Pro: 32 GB, 200 GB/s
• लोकल LLM के लिए सबसे अच्छा Mac।

6सवाल

क्या M1 पर 70B मॉडल चल सकता है?

आराम से नहीं। 4-बिट पर 70B मॉडल को लगभग 40 GB चाहिए, और M1 में अधिकतम 16 GB है। लगभग 21B पैरामीटर तक के मॉडल अच्छी तरह फ़िट होते हैं।

M1 पर प्रति सेकंड कितने टोकन मिलते हैं?

4-बिट पर 8B मॉडल के लिए सीमा लगभग 15 टोकन प्रति सेकंड है, और असली रन इसके लगभग आधे से चार-पाँचवें हिस्से तक पहुँचते हैं। बड़े मॉडल उसी अनुपात में धीमे होते हैं।

क्या M1 AI के लिए अच्छा विकल्प है?

मॉडल लोकल चलाने के लिए मेमोरी और बैंडविड्थ सबसे ज़्यादा मायने रखती हैं। M1 में 68 GB/s पर 16 GB तक मेमोरी है, जो लगभग 21 अरब पैरामीटर तक के मॉडल के लिए काफ़ी है। MLX Node के साथ MLX Network का AI काम चलाकर इससे कमाई भी की जा सकती है।