Mac پر LLM چلانے کی بہترین ایپس۔

1ایک نظر میں

2ہر ایک چند سطروں میں

MLX Harness

ایک مفت، اوپن سورس Mac ایپ: چیٹ، بلٹ اِن ٹولز والے کوڈنگ ایجنٹس، تصویر بنانا، اور ایک لوکل API جو OpenAI، Anthropic اور Ollama فارمیٹس سمجھتا ہے۔ یہ Apple کے MLX سے ماڈلز چلاتی ہے اور انہیں Hugging Face سے ڈاؤن لوڈ کرتی ہے؛ یہ GGUF فائلیں نہیں چلاتی۔ اسے Apple Silicon پر macOS 14.5 یا اس سے نیا ورژن چاہیے۔ یہ ہماری ایپ ہے، JANGQ AI کے vMLX پر بنی ہے، اور اس کے ساتھ MLX Node آتا ہے، جو آپ کی غیر موجودگی میں Mac کو MLX Network کے کام پر لگا سکتا ہے (ماخذ)۔ گائیڈ: MLX Harness کیسے استعمال کریں۔

LM Studio

ایک نفیس ایپ جو MLX اور GGUF ماڈلز ساتھ ساتھ چلاتی ہے، اور اس میں Hugging Face پر بنی ماڈل سرچ ہے (LM Studio)۔ جولائی 2025 سے یہ گھر اور کام دونوں جگہ استعمال کے لیے مفت ہے (LM Studio)۔ اس کا کمانڈ لائن ٹول، SDKs اور MLX انجن MIT لائسنس کے تحت ہیں؛ ڈیسک ٹاپ ایپ کا سورس شائع نہیں کیا گیا (GitHub)۔ اسے Apple Silicon پر macOS 14 یا اس سے نیا ورژن چاہیے، اور یہ 16 GB میموری تجویز کرتی ہے (ضروریات)۔ اس کا لوکل سرور OpenAI فارمیٹ سمجھتا ہے اور، ورژن 0.4.1 سے، Anthropic فارمیٹ بھی (چینج لاگ)۔

Ollama

ایک کمانڈ سے ماڈل چلانے کا طریقہ، اپنی ماڈل لائبریری کے ساتھ، اور جولائی 2025 سے Mac پر ایک چیٹ ایپ بھی (Ollama)۔ یہ MIT لائسنس کے تحت ہے اور llama.cpp کے ذریعے GGUF ماڈلز چلاتا ہے (GitHub)۔ مارچ 2026 سے Apple Silicon پر اس میں پری ویو میں ایک MLX انجن ہے، 32 GB سے زیادہ میموری والے Macs اور ماڈلز کی بڑھتی ہوئی فہرست کے لیے (Ollama)۔ اسے macOS 14 یا اس سے نیا ورژن چاہیے (ڈاکس)، اور پورٹ 11434 پر اس کا API وہی ہے جس کی بہت سی دوسری ایپس توقع کرتی ہیں۔

Jan

Mac، Windows اور Linux کے لیے ایک اوپن سورس (Apache 2.0) چیٹ ایپ، جس میں llama.cpp انجن شامل ہے، فروری 2026 سے MLX کی نیٹو سپورٹ، MCP ٹولز، اور OpenAI سے مطابقت رکھنے والا ایک سرور ہے (GitHub، چینج لاگ)۔ اگر آپ دونوں کے لیے ایک ہی ایپ چاہیں تو یہ کلاؤڈ ماڈلز سے بھی جڑ سکتی ہے۔

llama.cpp

وہ انجن جس پر لوکل AI کا بڑا حصہ چلتا ہے: MIT لائسنس والا C/C++، جس میں Metal کے ذریعے Apple Silicon «فرسٹ کلاس سٹیزن» ہے (GitHub)۔ اسے brew install llama.cpp سے انسٹال کریں؛ llama-server آپ کو ایک ویب چیٹ اور OpenAI اور Anthropic سے مطابقت رکھنے والا API دیتا ہے (سرور ڈاکس)۔ یہ GGUF فائلیں چلاتا ہے، جو سب سے زیادہ شائع ہونے والا فارمیٹ ہے۔

mlx-lm

لینگویج ماڈلز کے لیے Apple کے اپنے MLX ٹولز، MIT لائسنس کے تحت: کمانڈ لائن سے ٹیکسٹ جنریٹ کریں، چیٹ کریں، ماڈلز کنورٹ اور کوانٹائز کریں، اور LoRA سے ان کی فائن ٹیوننگ کریں (GitHub)۔ mlx_lm.server ایک بنیادی OpenAI طرز اینڈ پوائنٹ دیتا ہے جسے اس کے بنانے والے پروڈکشن کے لیے تجویز نہیں کرتے (سرور ڈاکس)۔ ہزاروں کنورٹ شدہ ماڈلز Hugging Face پر mlx-community آرگنائزیشن میں موجود ہیں۔

3کون سی چنیں

• آپ کو ایک اوپن سورس ایپ چاہیے جو Apple Silicon کے لیے بنی ہو: MLX Harness۔
• آپ کو MLX اور GGUF ماڈلز ایک نفیس ایپ میں چاہییں، اور بند سورس سے فرق نہیں پڑتا: LM Studio۔
• کوئی دوسری ایپ یا کوڈنگ ایجنٹ Ollama API کی توقع کرتا ہے: Ollama (MLX Harness بھی Ollama طرز کے اینڈ پوائنٹس فراہم کرتی ہے)۔
• آپ کو Mac، Windows اور Linux پر، لوکل اور کلاؤڈ دونوں کے لیے، ایک ہی چیٹ ایپ چاہیے: Jan۔
• آپ اسکرپٹس لکھتے ہیں، سرور بناتے ہیں یا آپ کو کوئی خاص GGUF کوانٹائزیشن چاہیے: llama.cpp۔
• آپ فائن ٹیوننگ کرتے ہیں، ماڈلز کنورٹ کرتے ہیں یا Apple کی ریفرنس امپلیمنٹیشن چاہتے ہیں: mlx-lm۔

بہت سے لوگ دو استعمال کرتے ہیں: روزمرہ چیٹ کے لیے ایک ایپ اور اسکرپٹس کے لیے ایک کمانڈ لائن ٹول۔ دونوں ایک ہی Mac پر رہ سکتے ہیں، لیکن ہر ایک ماڈل فائلوں کی اپنی کاپی رکھتا ہے۔

4پہلے دیکھیں کہ آپ کا Mac کیا سنبھال سکتا ہے

کوئی ایپ یہ حساب نہیں بدلتی: ماڈل اور اس کا کانٹیکسٹ یونیفائیڈ میموری کے اس حصے میں سمانا چاہیے جسے macOS، GPU کو استعمال کرنے دیتا ہے، ڈیفالٹ طور پر تقریباً 75%، اور میموری بینڈوڈتھ طے کرتی ہے کہ یہ کتنی تیزی سے لکھتا ہے۔ ایک ہی ماڈل کی ایک ہی پریسیژن پر MLX اور GGUF فائلیں تقریباً ایک ہی سائز کی ہوتی ہیں۔

آپ کے Mac میں سمانے والا ہر ماڈل دیکھیں، ہر میموری سائز کے لیے بہترین ماڈلز دیکھیں، یا کسی ماڈل سے شروع کر کے دیکھیں کہ اسے کون سا Mac چاہیے۔

5جب Mac فارغ ہو

جو Mac لوکل AI اچھی طرح چلاتا ہے وہ اسے دوسروں کے لیے چلانے میں بھی اچھا ہے۔ MLX Node جب آپ Mac استعمال نہیں کر رہے ہوتے، آپ کی مقرر کردہ حدود کے اندر، MLX Network کے لیے AI کام چلاتا ہے اور تصدیق شدہ کام پر MLX ٹوکن کماتا ہے۔ MLX Harness میں یہ شامل ہے۔ MLX ٹوکن اپنی قدر کھو سکتے ہیں؛ خطرات پڑھیں۔

6سوالات

کیا LM Studio کام کے لیے مفت ہے؟

ہاں۔ جولائی 2025 سے LM Studio گھر اور کام دونوں جگہ استعمال کے لیے مفت ہے؛ پیڈ پلانز ٹیموں اور اداروں کے لیے ہیں (LM Studio)۔

کیا Ollama، Mac پر MLX استعمال کرتا ہے؟

مارچ 2026 سے پری ویو میں، 32 GB سے زیادہ میموری والے Apple Silicon Macs پر، سپورٹڈ ماڈلز کے لیے۔ ورنہ یہ llama.cpp کے ذریعے GGUF ماڈلز چلاتا ہے (Ollama)۔

کون سی ایپ MLX اور GGUF دونوں ماڈلز چلاتی ہے؟

LM Studio اور Jan دونوں چلاتی ہیں؛ Ollama، GGUF چلاتا ہے اور، پری ویو میں، MLX۔ MLX Harness اور mlx-lm صرف MLX چلاتے ہیں؛ llama.cpp صرف GGUF۔

کون سی لوکل LLM ایپس اوپن سورس ہیں؟

MLX Harness (Apache 2.0)، Ollama (MIT)، Jan (Apache 2.0)، llama.cpp (MIT) اور mlx-lm (MIT)۔ LM Studio اپنا کمانڈ لائن ٹول، SDKs اور MLX انجن MIT کے تحت شائع کرتا ہے، لیکن ڈیسک ٹاپ ایپ نہیں۔