Mac પર LLM ચલાવવા માટેની શ્રેષ્ઠ ઍપ.

1એક નજરે

2દરેક, થોડી લીટીઓમાં

MLX Harness

ચૅટ, બિલ્ટ-ઇન ટૂલવાળા કોડિંગ એજન્ટ, ઇમેજ બનાવવા અને OpenAI, Anthropic અને Ollama ફૉર્મેટ સમજતા લોકલ API માટે એક મફત, ઓપન સોર્સ Mac ઍપ. તે Appleના MLXથી મૉડલ ચલાવે છે અને તેને Hugging Faceથી ડાઉનલોડ કરે છે; તે GGUF ફાઇલ ચલાવતી નથી. તેના માટે Apple Silicon પર macOS 14.5 કે તે પછીનું વર્ઝન જોઈએ. તે અમારી છે, JANGQ AIના vMLX પર બનેલી છે, અને તેમાં MLX Node સામેલ છે, જે તમે દૂર હો ત્યારે Macને MLX Networkના કામે લગાડી શકે છે (સ્રોત). ગાઇડ: MLX Harness કેવી રીતે વાપરવી.

LM Studio

એક સુઘડ ઍપ જે MLX અને GGUF બંને પ્રકારનાં મૉડલ સાથે-સાથે ચલાવે છે, અને તેમાં Hugging Face પર બનેલું મૉડલ સર્ચ છે (LM Studio). જુલાઈ 2025થી તે ઘરે અને કામ પર વાપરવા માટે મફત છે (LM Studio). તેનું કમાન્ડ લાઇન ટૂલ, SDK અને MLX એન્જિન MIT લાઇસન્સ હેઠળ છે; ડેસ્કટૉપ ઍપનો સોર્સ પ્રકાશિત થયો નથી (GitHub). તેના માટે Apple Silicon પર macOS 14 કે તે પછીનું વર્ઝન જોઈએ, અને તે 16 GB મેમરીની ભલામણ કરે છે (જરૂરિયાતો). તેનું લોકલ સર્વર OpenAI ફૉર્મેટ સમજે છે અને, વર્ઝન 0.4.1થી, Anthropic ફૉર્મેટ પણ (ચેન્જલૉગ).

Ollama

એક કમાન્ડમાં મૉડલ ચલાવવાની રીત, પોતાની મૉડલ લાઇબ્રેરી સાથે, અને જુલાઈ 2025થી Mac પર એક ચૅટ ઍપ પણ (Ollama). તે MIT લાઇસન્સ હેઠળ છે અને llama.cpp દ્વારા GGUF મૉડલ ચલાવે છે (GitHub). માર્ચ 2026થી Apple Silicon પર તેમાં પ્રીવ્યૂમાં એક MLX એન્જિન છે, 32 GBથી વધુ મેમરીવાળા Mac માટે અને વધતી જતી મૉડલ યાદી સાથે (Ollama). તેના માટે macOS 14 કે તે પછીનું વર્ઝન જોઈએ (ડૉક્સ), અને પોર્ટ 11434 પરનો તેનો API ઘણી બીજી ઍપ અપેક્ષા રાખે છે તે જ છે.

Jan

Mac, Windows અને Linux માટે એક ઓપન સોર્સ (Apache 2.0) ચૅટ ઍપ, જેમાં સાથે આવતું llama.cpp એન્જિન, ફેબ્રુઆરી 2026થી નેટિવ MLX સપોર્ટ, MCP ટૂલ અને એક OpenAI-સુસંગત સર્વર છે (GitHub, ચેન્જલૉગ). બંને માટે એક જ ઍપ જોઈતી હોય, તો તે ક્લાઉડ મૉડલ સાથે પણ જોડાઈ શકે છે.

llama.cpp

લોકલ AIના મોટા ભાગની નીચે ચાલતું એન્જિન: MIT લાઇસન્સવાળું C/C++, જેમાં Metal દ્વારા Apple Siliconને “first-class citizen”નો દરજ્જો મળ્યો છે (GitHub). તેને brew install llama.cppથી ઇન્સ્ટૉલ કરો; llama-server તમને એક વેબ ચૅટ અને OpenAI- અને Anthropic-સુસંગત API આપે છે (સર્વર ડૉક્સ). તે GGUF ફાઇલ ચલાવે છે, જે સૌથી વધુ પ્રકાશિત થતું ફૉર્મેટ છે.

mlx-lm

લેંગ્વેજ મૉડલ માટે Appleનાં પોતાનાં MLX ટૂલ, MIT લાઇસન્સ હેઠળ: કમાન્ડ લાઇનથી ટેક્સ્ટ જનરેટ કરો, ચૅટ કરો, મૉડલ કન્વર્ટ અને ક્વૉન્ટાઇઝ કરો, અને LoRAથી ફાઇન-ટ્યૂન કરો (GitHub). mlx_lm.server એક બેઝિક OpenAI-શૈલીનો એન્ડપૉઇન્ટ આપે છે, જેની તેના બનાવનારા પ્રોડક્શન માટે ભલામણ કરતા નથી (સર્વર ડૉક્સ). Hugging Face પરની mlx-community સંસ્થામાં હજારો કન્વર્ટ કરેલાં મૉડલ છે.

3કયું પસંદ કરવું

• તમારે ઍપ જોઈએ છે, ઓપન સોર્સ, Apple Silicon માટે બનેલી: MLX Harness.
• તમારે MLX અને GGUF મૉડલ એક જ સુઘડ ઍપમાં જોઈએ છે, અને ક્લોઝ્ડ સોર્સથી વાંધો નથી: LM Studio.
• બીજી કોઈ ઍપ કે કોડિંગ એજન્ટ Ollama APIની અપેક્ષા રાખે છે: Ollama (MLX Harness પણ Ollama-શૈલીના એન્ડપૉઇન્ટ આપે છે).
• તમારે Mac, Windows અને Linux પર એક જ ચૅટ ઍપ જોઈએ છે, લોકલ અને ક્લાઉડ બંને: Jan.
• તમે સ્ક્રિપ્ટ લખો છો, સર્વર બનાવો છો કે તમારે કોઈ ખાસ GGUF ક્વૉન્ટાઇઝેશન જોઈએ છે: llama.cpp.
• તમે ફાઇન-ટ્યૂન કરો છો, મૉડલ કન્વર્ટ કરો છો કે તમારે Appleનું રેફરન્સ ઇમ્પ્લિમેન્ટેશન જોઈએ છે: mlx-lm.

ઘણા લોકો બે વાપરે છે: રોજની ચૅટ માટે એક ઍપ અને સ્ક્રિપ્ટ માટે એક કમાન્ડ લાઇન ટૂલ. બંને એક જ Mac પર રહી શકે છે, પણ દરેક મૉડલ ફાઇલોની પોતાની અલગ કૉપી રાખે છે.

4પહેલાં જુઓ કે તમારા Macમાં કેટલું સમાય છે

કોઈ ઍપ આ ગણિત બદલતી નથી: મૉડલ અને તેનો કૉન્ટેક્સ્ટ યુનિફાઇડ મેમરીના એ હિસ્સામાં સમાવા જોઈએ જે macOS GPUને વાપરવા દે છે, ડિફૉલ્ટ રીતે લગભગ 75%, અને મેમરી બૅન્ડવિડ્થ નક્કી કરે છે કે તે કેટલી ઝડપથી લખે છે. એક જ મૉડલની એક જ પ્રિસિઝનવાળી MLX અને GGUF ફાઇલ લગભગ સરખા કદની હોય છે.

તમારા Macમાં સમાતું દરેક મૉડલ જુઓ, દરેક મેમરી સાઇઝ માટે શ્રેષ્ઠ મૉડલ જુઓ, અથવા કોઈ મૉડલથી શરૂ કરીને જુઓ કે તેને કયું Mac જોઈએ.

5જ્યારે Mac નવરું હોય

જે Mac લોકલ AI સારી રીતે ચલાવે છે, તે બીજા માટે ચલાવવામાં પણ સારું છે. તમે તમારું Mac વાપરતા ન હો ત્યારે MLX Node તમે નક્કી કરેલી મર્યાદામાં MLX Network માટે AI જૉબ ચલાવે છે, અને ચકાસાયેલા કામ માટે MLX ટોકન કમાય છે. MLX Harnessમાં તે સામેલ છે. MLX ટોકનનું મૂલ્ય ઘટી શકે છે; જોખમો વાંચો.

6પ્રશ્નો

શું LM Studio કામ માટે મફત છે?

હા. જુલાઈ 2025થી LM Studio ઘરે અને કામ પર બંને જગ્યાએ વાપરવા માટે મફત છે; પેઇડ પ્લાન ટીમ અને એન્ટરપ્રાઇઝ માટે છે (LM Studio).

શું Ollama Mac પર MLX વાપરે છે?

માર્ચ 2026થી પ્રીવ્યૂમાં, 32 GBથી વધુ મેમરીવાળા Apple Silicon Mac પર, સપોર્ટેડ મૉડલ માટે. બાકી તે llama.cpp દ્વારા GGUF મૉડલ ચલાવે છે (Ollama).

કઈ ઍપ MLX અને GGUF બંને મૉડલ ચલાવે છે?

LM Studio અને Jan બંને ચલાવે છે; Ollama GGUF ચલાવે છે અને, પ્રીવ્યૂમાં, MLX પણ. MLX Harness અને mlx-lm ફક્ત MLX ચલાવે છે; llama.cpp ફક્ત GGUF ચલાવે છે.

કઈ લોકલ LLM ઍપ ઓપન સોર્સ છે?

MLX Harness (Apache 2.0), Ollama (MIT), Jan (Apache 2.0), llama.cpp (MIT) અને mlx-lm (MIT). LM Studio તેનું કમાન્ડ લાઇન ટૂલ, SDK અને MLX એન્જિન MIT હેઠળ પ્રકાશિત કરે છે, પણ ડેસ્કટૉપ ઍપ નહીં.