بهطور خلاصه
- برای Apple Silicon دو فرمت مدل وجود دارد: MLX که برای تراشههای Apple ساخته شده، و GGUF از llama.cpp که همهجا اجرا میشود.
- MLX Harness و mlx-lm فرمت MLX را اجرا میکنند؛ llama.cpp فرمت GGUF را؛ LM Studio، Jan و (در پیشنمایش) Ollama هر دو را.
- کاملاً متنباز: MLX Harness، Ollama، Jan، llama.cpp و mlx-lm. LM Studio رایگان است، برای کار هم، اما کد منبع اپ دسکتاپ آن منتشر نشده است.
- هر کدام را انتخاب کنید، حافظه تعیین میکند کدام مدلها جا میشوند: اول Mac خود را بررسی کنید.
1در یک نگاه
| متنباز | اجرا روی Mac | اپ | API محلی | |
|---|---|---|---|---|
| MLX Harness | بله (Apache 2.0) | MLX | اپ Mac | به سبک OpenAI، Anthropic و Ollama |
| LM Studio | CLI، SDKها و موتور MLX (MIT)؛ کد منبع اپ منتشر نشده | MLX و GGUF | اپ Mac و CLI | OpenAI و Anthropic |
| Ollama | بله (MIT) | GGUF؛ MLX در پیشنمایش | اپ Mac و CLI | API خودش، بهعلاوهٔ بخشهایی از OpenAI و Anthropic |
| Jan | بله (Apache 2.0) | GGUF و MLX | اپ Mac | OpenAI |
| llama.cpp | بله (MIT) | GGUF | خط فرمان و یک رابط وب | OpenAI و Anthropic |
| mlx-lm | بله (MIT) | MLX | خط فرمان | به سبک OpenAI، ساده |
2هر کدام در چند خط
MLX Harness
یک اپ رایگان و متنباز Mac برای چت، ایجنتهای کدنویسی با ابزارهای داخلی، تولید تصویر و یک API محلی که فرمتهای OpenAI، Anthropic و Ollama را میفهمد. مدلها را با MLX اپل اجرا میکند و از Hugging Face دانلود میکند؛ فایلهای GGUF را اجرا نمیکند. به macOS 14.5 یا جدیدتر روی Apple Silicon نیاز دارد. این اپ مال ماست، بر پایهٔ vMLX از JANGQ AI ساخته شده، و MLX Node را همراه دارد که میتواند وقتی شما نیستید Mac را برای MLX Network به کار بگیرد (منبع). راهنما: چطور از MLX Harness استفاده کنیم.
LM Studio
یک اپ صیقلخورده که مدلهای MLX و GGUF را کنار هم اجرا میکند، با جستوجوی مدل بر پایهٔ Hugging Face (LM Studio). از ژوئیهٔ 2025 استفاده از آن در خانه و محل کار رایگان است (LM Studio). ابزار خط فرمان، SDKها و موتور MLX آن مجوز MIT دارند؛ کد منبع اپ دسکتاپ منتشر نشده است (GitHub). به macOS 14 یا جدیدتر روی Apple Silicon نیاز دارد و 16 GB حافظه را توصیه میکند (نیازمندیها). سرور محلی آن فرمت OpenAI را میفهمد و از نسخهٔ 0.4.1 فرمت Anthropic را هم (فهرست تغییرات).
Ollama
راه تکفرمانی برای اجرای یک مدل، با کتابخانهٔ مدل خودش و، از ژوئیهٔ 2025، یک اپ چت روی Mac (Ollama). مجوز MIT دارد و مدلهای GGUF را از طریق llama.cpp اجرا میکند (GitHub). از مارس 2026 روی Apple Silicon یک موتور MLX در پیشنمایش دارد، برای Macهایی با بیش از 32 GB حافظه و فهرستی رو به رشد از مدلها (Ollama). به macOS 14 یا جدیدتر نیاز دارد (مستندات)، و API آن روی پورت 11434 همان چیزی است که بسیاری از اپهای دیگر انتظارش را دارند.
Jan
یک اپ چت متنباز (Apache 2.0) برای Mac، Windows و Linux، با موتور llama.cpp همراه، پشتیبانی بومی از MLX از فوریهٔ 2026، ابزارهای MCP و یک سرور سازگار با OpenAI (GitHub، فهرست تغییرات). اگر یک اپ برای هر دو میخواهید، میتواند به مدلهای ابری هم وصل شود.
llama.cpp
موتوری که زیر بخش بزرگی از هوش مصنوعی محلی کار میکند: کد C/C++ با مجوز MIT که Apple Silicon در آن از طریق Metal «شهروند درجهیک» است (GitHub). با brew install llama.cpp نصبش کنید؛ llama-server یک چت وب و یک API سازگار با OpenAI و Anthropic در اختیارتان میگذارد (مستندات سرور). فایلهای GGUF را اجرا میکند، که پرانتشارترین فرمت است.
mlx-lm
ابزارهای MLX خود Apple برای مدلهای زبانی، با مجوز MIT: تولید متن، چت، تبدیل و کوانتیزهکردن مدلها و فاینتیون آنها با LoRA، از خط فرمان (GitHub). mlx_lm.server یک نقطهٔ پایانی سادهٔ به سبک OpenAI میدهد که سازندگانش آن را برای محیط عملیاتی توصیه نمیکنند (مستندات سرور). هزاران مدل تبدیلشده در سازمان mlx-community در Hugging Face هست.
3کدام را انتخاب کنید
- یک اپ متنباز میخواهید که برای Apple Silicon ساخته شده باشد: MLX Harness.
- مدلهای MLX و GGUF را در یک اپ صیقلخورده میخواهید و بستهبودن کد برایتان مهم نیست: LM Studio.
- یک اپ دیگر یا ایجنت کدنویسی، API Ollama را انتظار دارد: Ollama (MLX Harness هم نقطههای پایانی به سبک Ollama ارائه میکند).
- یک اپ چت برای Mac، Windows و Linux میخواهید، محلی و ابری: Jan.
- اسکریپت مینویسید، سرور میسازید یا به یک کوانتیزاسیون خاص GGUF نیاز دارید: llama.cpp.
- فاینتیون میکنید، مدل تبدیل میکنید یا پیادهسازی مرجع Apple را میخواهید: mlx-lm.
بسیاری از افراد دو تا را به کار میبرند: یک اپ برای چت روزمره و یک ابزار خط فرمان برای اسکریپتها. هر دو میتوانند روی یک Mac باشند، اما هر کدام نسخهٔ خودش از فایلهای مدل را نگه میدارد.
4اول ببینید Mac شما چه چیزی را جا میدهد
هیچ اپی این حساب را عوض نمیکند: مدل و context آن باید در سهمی از حافظهٔ یکپارچه جا شوند که macOS اجازه میدهد GPU استفاده کند، بهطور پیشفرض حدود 75%، و پهنای باند حافظه تعیین میکند با چه سرعتی متن مینویسد. فایلهای MLX و GGUF یک مدل با دقت یکسان تقریباً هماندازهاند.
همهٔ مدلهایی را که در Mac شما جا میشوند ببینید، بهترین مدلها برای هر اندازهٔ حافظه را، یا از یک مدل شروع کنید تا ببینید چه Macی لازم دارد.
5وقتی Mac بیکار است
Macی که هوش مصنوعی محلی را خوب اجرا میکند، در اجرای آن برای دیگران هم خوب است. MLX Node وقتی از Mac استفاده نمیکنید، در محدودههایی که خودتان تعیین میکنید، کارهای هوش مصنوعی را برای MLX Network اجرا میکند و برای کار تأییدشده توکن MLX کسب میکند. MLX Harness آن را همراه دارد. توکنهای MLX ممکن است ارزش خود را از دست بدهند؛ ریسکها را بخوانید.
6پرسشها
- آیا LM Studio برای کار رایگان است؟
- بله. از ژوئیهٔ 2025 استفاده از LM Studio هم در خانه و هم در محل کار رایگان است؛ پلنهای پولی برای تیمها و سازمانها هستند (LM Studio).
- آیا Ollama روی Mac از MLX استفاده میکند؟
- از مارس 2026 در پیشنمایش، روی Macهای Apple Silicon با بیش از 32 GB حافظه، برای مدلهای پشتیبانیشده. در غیر این صورت مدلهای GGUF را از طریق llama.cpp اجرا میکند (Ollama).
- کدام اپ هم مدلهای MLX و هم GGUF را اجرا میکند؟
- LM Studio و Jan هر دو را اجرا میکنند؛ Ollama فرمت GGUF و، در پیشنمایش، MLX را. MLX Harness و mlx-lm فقط MLX را اجرا میکنند؛ llama.cpp فقط GGUF را.
- کدام اپهای LLM محلی متنباز هستند؟
- MLX Harness (Apache 2.0)، Ollama (MIT)، Jan (Apache 2.0)، llama.cpp (MIT) و mlx-lm (MIT). LM Studio ابزار خط فرمان، SDKها و موتور MLX خود را با مجوز MIT منتشر میکند، اما اپ دسکتاپ را نه.
منابع
- MLX Harnessgithub.com
- LM Studio در GitHubgithub.com
- LM Studio MLXlmstudio.ai
- Ollamagithub.com
- پیشنمایش MLX در Ollamaollama.com
- Jangithub.com
- سرور llama.cppgithub.com
- سرور mlx-lmgithub.com
- LM Studiolmstudio.ai
- نیازمندیهاlmstudio.ai
- فهرست تغییراتlmstudio.ai
- Ollamaollama.com
- مستنداتdocs.ollama.com
- فهرست تغییراتjan.ai
- GitHubgithub.com
- GitHubgithub.com
- انتشارهاgithub.com