Mac पर LLM चलाने के सबसे अच्छे ऐप्स।

1एक नज़र में

2हर एक, कुछ लाइनों में

MLX Harness

चैट, बिल्ट-इन टूल वाले कोडिंग एजेंट, इमेज बनाने और ऐसे लोकल API के लिए एक मुफ़्त, ओपन सोर्स Mac ऐप जो OpenAI, Anthropic और Ollama फ़ॉर्मेट समझता है। यह Apple के MLX से मॉडल चलाता है और उन्हें Hugging Face से डाउनलोड करता है; यह GGUF फ़ाइलें नहीं चलाता। इसके लिए Apple Silicon पर macOS 14.5 या उसके बाद का वर्ज़न चाहिए। यह हमारा है, JANGQ AI के vMLX पर बना है, और इसमें MLX Node शामिल है, जो आपके दूर रहने पर Mac को MLX Network के काम पर लगा सकता है (स्रोत)। गाइड: MLX Harness कैसे इस्तेमाल करें।

LM Studio

एक सधा हुआ ऐप जो MLX और GGUF दोनों तरह के मॉडल साथ-साथ चलाता है, और जिसमें Hugging Face पर बनी मॉडल सर्च है (LM Studio)। जुलाई 2025 से यह घर और काम दोनों जगह इस्तेमाल के लिए मुफ़्त है (LM Studio)। इसका कमांड लाइन टूल, SDK और MLX इंजन MIT लाइसेंस में हैं; डेस्कटॉप ऐप का सोर्स पब्लिश नहीं किया गया है (GitHub)। इसके लिए Apple Silicon पर macOS 14 या उसके बाद का वर्ज़न चाहिए, और यह 16 GB मेमोरी की सलाह देता है (ज़रूरतें)। इसका लोकल सर्वर OpenAI फ़ॉर्मेट समझता है और, वर्ज़न 0.4.1 से, Anthropic फ़ॉर्मेट भी (चेंजलॉग)।

Ollama

एक कमांड में मॉडल चलाने का तरीका, अपनी मॉडल लाइब्रेरी के साथ, और जुलाई 2025 से Mac पर एक चैट ऐप भी (Ollama)। यह MIT लाइसेंस में है और llama.cpp के ज़रिए GGUF मॉडल चलाता है (GitHub)। मार्च 2026 से Apple Silicon पर इसमें प्रीव्यू में एक MLX इंजन है, 32 GB से ज़्यादा मेमोरी वाले Macs के लिए और मॉडलों की बढ़ती सूची के साथ (Ollama)। इसके लिए macOS 14 या उसके बाद का वर्ज़न चाहिए (डॉक्स), और पोर्ट 11434 पर इसका API वही है जिसकी कई दूसरे ऐप्स उम्मीद करते हैं।

Jan

Mac, Windows और Linux के लिए एक ओपन सोर्स (Apache 2.0) चैट ऐप, जिसमें साथ आने वाला llama.cpp इंजन, फ़रवरी 2026 से नेटिव MLX सपोर्ट, MCP टूल और एक OpenAI-कम्पैटिबल सर्वर है (GitHub, चेंजलॉग)। अगर आप दोनों के लिए एक ही ऐप चाहते हैं, तो यह क्लाउड मॉडल से भी जुड़ सकता है।

llama.cpp

लोकल AI के बड़े हिस्से के नीचे चलने वाला इंजन: MIT लाइसेंस वाला C/C++, जिसमें Metal के ज़रिए Apple Silicon को “first-class citizen” का दर्जा मिला है (GitHub)। इसे brew install llama.cpp से इंस्टॉल करें; llama-server आपको एक वेब चैट और OpenAI- और Anthropic-कम्पैटिबल API देता है (सर्वर डॉक्स)। यह GGUF फ़ाइलें चलाता है, जो सबसे ज़्यादा पब्लिश होने वाला फ़ॉर्मेट है।

mlx-lm

लैंग्वेज मॉडल के लिए Apple के अपने MLX टूल, MIT लाइसेंस में: कमांड लाइन से टेक्स्ट जनरेट करें, चैट करें, मॉडल कन्वर्ट और क्वांटाइज़ करें, और उन्हें LoRA से फ़ाइन-ट्यून करें (GitHub)। mlx_lm.server एक बेसिक OpenAI-स्टाइल एंडपॉइंट देता है, जिसे इसके बनाने वाले प्रोडक्शन के लिए सही नहीं मानते (सर्वर डॉक्स)। Hugging Face पर mlx-community ऑर्गनाइज़ेशन में हज़ारों कन्वर्ट किए गए मॉडल हैं।

3कौन-सा चुनें

• आपको एक ऐप चाहिए, ओपन सोर्स, Apple Silicon के लिए बना: MLX Harness।
• आपको MLX और GGUF मॉडल एक ही सधे हुए ऐप में चाहिए, और क्लोज़्ड सोर्स से दिक्कत नहीं: LM Studio।
• कोई दूसरा ऐप या कोडिंग एजेंट Ollama API की उम्मीद करता है: Ollama (MLX Harness भी Ollama-स्टाइल एंडपॉइंट देता है)।
• आपको Mac, Windows और Linux पर एक ही चैट ऐप चाहिए, लोकल और क्लाउड दोनों: Jan।
• आप स्क्रिप्ट लिखते हैं, सर्वर बनाते हैं या आपको कोई खास GGUF क्वांटाइज़ेशन चाहिए: llama.cpp।
• आप फ़ाइन-ट्यून करते हैं, मॉडल कन्वर्ट करते हैं या Apple का रेफ़रेंस इम्प्लीमेंटेशन चाहते हैं: mlx-lm।

बहुत-से लोग दो इस्तेमाल करते हैं: रोज़ की चैट के लिए एक ऐप और स्क्रिप्ट के लिए एक कमांड लाइन टूल। दोनों एक ही Mac पर चल सकते हैं, लेकिन हर एक मॉडल फ़ाइलों की अपनी अलग कॉपी रखता है।

4पहले देखें कि आपके Mac में कितना समा सकता है

कोई भी ऐप यह हिसाब नहीं बदलता: मॉडल और उसका कॉन्टेक्स्ट यूनिफ़ाइड मेमोरी के उस हिस्से में फ़िट होने चाहिए जिसे macOS GPU को इस्तेमाल करने देता है, डिफ़ॉल्ट रूप से लगभग 75%, और मेमोरी बैंडविड्थ तय करती है कि वह कितनी तेज़ी से लिखता है। एक ही मॉडल की एक ही प्रिसिज़न वाली MLX और GGUF फ़ाइलें लगभग एक ही साइज़ की होती हैं।

आपके Mac में फ़िट होने वाला हर मॉडल देखें, हर मेमोरी साइज़ के लिए सबसे अच्छे मॉडल देखें, या किसी मॉडल से शुरू करके देखें कि उसे कौन-सा Mac चाहिए।

5जब Mac खाली हो

जो Mac लोकल AI अच्छी तरह चलाता है, वह दूसरों के लिए उसे चलाने में भी अच्छा है। जब आप अपना Mac इस्तेमाल नहीं कर रहे होते, तब MLX Node आपकी तय की गई सीमाओं के भीतर MLX Network के लिए AI जॉब चलाता है, और जाँचे गए काम के लिए MLX टोकन कमाता है। MLX Harness में यह शामिल है। MLX टोकन की कीमत गिर सकती है; जोखिम पढ़ें।

6सवाल

क्या LM Studio काम के लिए मुफ़्त है?

हाँ। जुलाई 2025 से LM Studio घर और काम दोनों जगह इस्तेमाल के लिए मुफ़्त है; पेड प्लान टीमों और एंटरप्राइज़ के लिए हैं (LM Studio)।

क्या Ollama, Mac पर MLX इस्तेमाल करता है?

मार्च 2026 से प्रीव्यू में, 32 GB से ज़्यादा मेमोरी वाले Apple Silicon Macs पर, सपोर्ट किए गए मॉडलों के लिए। बाकी मामलों में यह llama.cpp के ज़रिए GGUF मॉडल चलाता है (Ollama)।

कौन-सा ऐप MLX और GGUF दोनों मॉडल चलाता है?

LM Studio और Jan दोनों चलाते हैं; Ollama GGUF चलाता है और, प्रीव्यू में, MLX भी। MLX Harness और mlx-lm सिर्फ़ MLX चलाते हैं; llama.cpp सिर्फ़ GGUF चलाता है।

कौन-से लोकल LLM ऐप्स ओपन सोर्स हैं?

MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) और mlx-lm (MIT)। LM Studio अपना कमांड लाइन टूल, SDK और MLX इंजन MIT के तहत पब्लिश करता है, लेकिन डेस्कटॉप ऐप नहीं।