به‌طور خلاصه
- 16 GB: فقط مدلهای عمومی کوچک راحت اجرا میشوند؛ Qwen3 Coder 30B A3B فقط با دقت پایینتر جا میشود. 24 GB: Devstral Small 2 (24B). 32–64 GB: Qwen3 Coder 30B A3B و Devstral Small 2 در 4 بیت.
- 96 GB و بیشتر: Qwen3 Coder Next (80B، 3B فعال). 128 GB: Devstral 2 (123B) هم، به‌کندی. 512 GB: Kimi K2.7 Code، با دقت پایین.
- مدلهای کدنویسی ترکیب متخصصان (MoE) برای هر توکن فقط چند میلیارد وزن می‌خوانند، پس Qwen3 Coder 30B A3B روی همان Mac میتواند چند برابر سریعتر از Devstral Small 2 متراکم بنویسد.
- ایجنتهای کدنویسی پرامپت‌های طولانی می‌فرستند: چند گیگابایت برای کانتکست کنار بگذارید و برای اجرای LLM چقدر رم لازم است را ببینید.
1مدلهای کدنویسی که خوب اجرا میشوند، بر اساس حافظه
«خوب اجرا میشود» یعنی در 4 بیت یا بهتر با جای کافی برای کانتکست جا شود، با 10 توکن در ثانیه یا بیشتر؛ همان قاعدهٔ همهٔ صفحه‌های Mac. مدلهای ساخته‌شده برای کد از کاتالوگ مدلهای باز ما، به‌علاوهٔ مدل عمومی با بالاترین Artificial Analysis Intelligence Index که در آن اندازه خوب اجرا میشود و کد هم مینویسد:
| حافظهٔ Mac | ساخته‌شده برای کد | قوی‌ترین مدل عمومی |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B فقط با دقت پایینتر | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B، Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B، Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B، Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next، Qwen3 Coder 30B A3B، Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next، Devstral 2 (123B) (کندتر) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next، Devstral 2 (کندتر) | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code با دقت پایینتر، Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2چرا مدلهای کدنویسی MoE سریع به نظر می‌رسند
سرعت نوشتن به این محدود است که برای هر توکن چند بایت وزن خوانده میشود. یک مدل متراکم همهٔ آن‌ها را می‌خواند؛ یک مدل ترکیب متخصصان فقط بخش فعالش را. روی یک Mac mini با M5 Pro (307 GB/s، Apple)، در 4 بیت:
| مدل | پارامترها | خوانده‌شده برای هر توکن | سقف برای یک چت |
|---|---|---|---|
| Qwen3 Coder 30B A3B | 30.5B در کل، 3.3B فعال | حدود 1.9 GB | حدود 165 توکن در ثانیه |
| Devstral Small 2 | 24B، متراکم | حدود 13.5 GB | حدود 23 توکن در ثانیه |
سرعت همان کیفیت نیست: یک مدل متراکم با همان حافظه میتواند کدنویس بهتری باشد. هر دو را روی کد خودتان امتحان کنید.
3برای کانتکست جا بگذارید
ابزارهای کدنویسی متن زیادی می‌فرستند: فایل‌های درگیر، شرح ابزارها و گفت‌وگو تا اینجا. این کانتکست کنار مدل در حافظه نگه داشته میشود، در KV cache، و با هر توکن بزرگ‌تر میشود. برای Qwen3 8B، 32,000 توکن حدود 4.8 GB می‌گیرد (اینجا حساب شده). مدلهای بزرگ‌تر برای هر توکن بیشتر لازم دارند.
پس وقتی مدلی به‌زور جا میشود، به جای فشردن کانتکست، مدل کوچکتر بعدی یا دقت پایینتر را انتخاب کنید. پرامپت‌های طولانی پیش از ظاهر شدن اولین کلمه هم زمان خواندن می‌خواهند؛ نسل M5 پرامپت‌ها را سریعتر از M4 می‌خواند (Apple).
4در ویرایشگر یا ایجنت خود از آن استفاده کنید
ابزارهای کدنویسی از طریق یک API با مدل حرف می‌زنند. مدل را محلی اجرا کنید و ابزار را به آن وصل کنید:
- سرور محلی LM Studio قالب‌های OpenAI و Anthropic را پشتیبانی میکند، و LM Studio برای Claude Code، Codex، OpenClaw و Hermes Agent راهنمای راهاندازی دارد (LM Studio).
- mlx-lm: فرمان
mlx_lm.server --model <model>یک API به سبک OpenAI روی پورت 8080 ارائه میکند (mlx-lm). - Ollama هم API سازگار با OpenAI ارائه میکند: بهترین اپ‌ها برای اجرای LLM روی Mac آن‌ها را مقایسه میکند.
ایجنت‌ها ابزار فراخوانی می‌کنند، پس مدل باید فراخوانی ابزار را در قالبی بسازد که سرور بفهمد. مدلهای ساخته‌شده برای کد و ایجنت، مثل Qwen3 Coder و Devstral، برای این کار آموزش دیده‌اند؛ مدلهای عمومی کوچک اغلب در آن قابل اعتماد نیستند.
بخش برنامه‌نویسی در AI App Store عامل‌ها و ویرایشگرهای کدنویسی مانند Claude Code و Codex را فهرست میکند، هرکدام با دانلود رسمی سازنده، قیمت و اینکه داده‌های شما کجا می‌رود.
5پرسش‌ها
- بهترین LLM محلی برای کدنویسی روی Mac با 32 GB چیست؟
- Qwen3 Coder 30B A3B و Devstral Small 2 هر دو در 4 بیت خوب اجرا میشوند. Qwen3 Coder خیلی سریعتر مینویسد، چون برای هر توکن فقط 3.3B از 30.5B پارامترش خوانده میشود؛ هر دو را روی کد خودتان امتحان کنید.
- آیا Mac با 16 GB میتواند مدل کدنویسی اجرا کند؟
- مدلهای کوچک، بله. Qwen3 Coder 30B A3B فقط با دقت پایینتر و با جای کم برای کانتکست در 16 GB جا میشود. برای ایجنتهای کدنویسی، 32 GB یا بیشتر شروع بهتری است.
- آیا میتوانم Claude Code یا Codex را با یک مدل محلی به کار ببرم؟
- بله. LM Studio برای هر دو راهنمای راهاندازی دارد: سرور محلی آن قالب Anthropic را که Claude Code به کار میبرد و قالب OpenAI را که Codex به کار میبرد پشتیبانی میکند (LM Studio). اینکه چقدر خوب کار کنند به مدلی بستگی دارد که بارگذاری میکنید.
- آیا یک مدل کدنویسی محلی به خوبی یک مدل ابری است؟
- بزرگترین مدلهای باز در بسیاری از کارها نزدیک میشوند، اما به یک Mac Studio با 256 یا 512 GB نیاز دارند. مدلهایی که در 32–64 GB جا میشوند برای تکمیل کد، توضیح دادن و کارهای کوچکتر ایجنت مفیدند و کد شما را روی Mac خودتان نگه میدارند.