Mac mini به‌عنوان سرور هوش مصنوعی شما.

1چرا Mac mini

نوشتن متن با یک مدل زبانی به سرعت خواندن وزن‌ها از حافظه محدود است. روی Mac، GPU حافظهٔ یکپارچه را مستقیم می‌خواند، پس یک Mac mini با 64 GB مدل‌هایی را جا می‌دهد که روی یک کارت گرافیک مصرفی جا نمی‌شوند، آن هم با چند وات در حالت بیکار. جای کمی می‌گیرد و macOS دارد، پس همان ابزارهای MacBook روی آن کار می‌کنند.

محدودیت‌هایش حافظه و پهنای باند است. بزرگ‌ترین Mac mini حافظهٔ 64 GB با 307 GB/s دارد؛ برای مدل‌های ردهٔ 70B با دقت بالاتر یا بزرگ‌ترین مدل‌های باز، Mac Studio با حداکثر 512 GB قدم بعدی است (Apple). بهترین Mac برای LLM محلی را ببینید.

2کدام Mac mini برای کدام مدل‌ها

پهنای باند سرعت را تعیین می‌کند: M5 Pro حافظه را حدود 80% سریع‌تر از M6 با 24 یا 32 GB می‌خواند، پس همان مدل روی آن تا حدود 80% سریع‌تر می‌نویسد. هر ردیف به همهٔ مدل‌هایی که روی آن Mac خوب اجرا می‌شوند، همراه با سرعت، پیوند دارد. Mac miniهای قبلی با M4 و M4 Pro هم همین‌طور کار می‌کنند: Mac mini M4 Pro.

ایجنت‌ها و اسناد طولانی علاوه بر مدل، حافظهٔ کانتکست هم لازم دارند. اگر کار اصلی یک ایجنت هوش مصنوعی است، حافظهٔ بیشتر را به تراشهٔ سریع‌تر ترجیح دهید.

3بیدار و در دسترس نگهش دارید

روی Mac mini بخش System Settings › Energy را باز کنید (Apple):

• Prevent automatic sleeping when the display is off: روشن، تا سرور بدون نمایشگر متصل هم پاسخ بدهد.
• Start up automatically after a power failure: روشن، تا خودش دوباره بالا بیاید.
• Wake for network access: روشن، اگر اجازه می‌دهید به خواب برود.
• Low Power Mode: Apple آن را برای کامپیوترهای همیشه‌روشن، مثل سرورها، پیشنهاد می‌کند تا مصرف انرژی و صدای فن کم شود.

برای مدیریت بدون نمایشگر، Remote Login (SSH) یا Screen Sharing را در System Settings › General › Sharing روشن کنید (Apple). اپ سرور را طوری تنظیم کنید که هنگام ورود باز شود تا با هر راه‌اندازی مجدد همه‌چیز برگردد.

4مدل را به دستگاه‌های دیگرتان ارائه کنید

هر کدام از این‌ها یک مدل را روی Mac mini اجرا می‌کند و به اپ‌های دیگرتان یک API با فرمت API شرکت OpenAI می‌دهد که بیشتر اپ‌های چت، ابزارهای کدنویسی و ایجنت‌ها آن را می‌پذیرند:

برای نمونه با mlx-lm:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama به‌طور پیش‌فرض پس از 5 دقیقه بدون درخواست، مدل را از حافظه خارج می‌کند؛ روی سرور OLLAMA_KEEP_ALIVE را تنظیم کنید تا در حافظه بماند (Ollama). بهترین اپ‌ها برای اجرای LLM روی Mac این ابزارها را با جزئیات مقایسه می‌کند.

AI App Store این ابزارها و دیگر برنامه‌هایی را که مدل‌ها را محلی اجرا می‌کنند فهرست می‌کند، هرکدام با دانلود رسمی سازنده، مجوزش و اینکه داده‌های شما کجا می‌رود.

5اجرای ایجنت‌های هوش مصنوعی روی آن

بسیاری از Mac miniها حالا ایجنت‌های هوش مصنوعی را اجرا می‌کنند که شبانه‌روز با اپ‌های چت، فایل‌ها و وب کار می‌کنند. برای نمونه OpenClaw یک دستیار متن‌باز است که روی کامپیوتر خودتان اجرا می‌شود و مدل‌ها، از جمله مدل‌های محلی، در آن افزونه‌هایی قابل تعویض‌اند (OpenClaw). چنین ایجنتی را به نشانی سرور محلی وصل کنید تا به جای یک API ابری، از مدل روی Mac mini شما استفاده کند.

برای ایجنت‌ها دو چیز مهم‌تر از چت است. کانتکست: ایجنت‌ها پرامپت‌های طولانی با شرح ابزارها و تاریخچه می‌فرستند که علاوه بر مدل حافظه می‌گیرد (چرایی‌اش را ببینید). و کیفیت مدل: بزرگ‌ترین مدلی که روی Mac mini شما خوب اجرا شود، دستورها را بهتر از یک مدل کوچک دنبال می‌کند و ابزارها را مطمئن‌تر فراخوانی می‌کند.

6خصوصی نگهش دارید

• این سرورها تا وقتی تنظیمشان را عوض نکنید فقط روی خود Mac گوش می‌دهند. آن‌ها را فقط روی شبکهٔ خانه یا دفتر باز کنید، و فقط اگر به دستگاه‌های آن شبکه اعتماد دارید.
• مستندات خود mlx-lm می‌گوید سرورش برای محیط عملیاتی توصیه نمی‌شود، چون فقط بررسی‌های امنیتی پایه را پیاده می‌کند (mlx-lm).
• هیچ پورتی را به اینترنت باز نکنید. برای دسترسی به Mac mini از بیرون، از یک شبکهٔ خصوصی مثل VPN استفاده کنید.
• ایجنتی که می‌تواند فرمان اجرا کند یا پیام بفرستد با حساب‌های شما کار می‌کند: فقط دسترسی‌ای را که لازم دارد به آن بدهید.

7هزینه‌اش، و ساعت‌های بیکاری‌اش

یک سرور خانگی بیشتر روزش را در انتظار می‌گذراند. MLX Node می‌تواند از این ساعت‌ها استفاده کند: در چارچوب محدودیت‌هایی که تعیین می‌کنید، از جمله اینکه هر کار چقدر حافظه بگیرد، کارهای هوش مصنوعی MLX Network را اجرا می‌کند و روی جایگاه رایگان MLX Tokens به دست می‌آورد، تا 1 MLX در روز. وقتی Mac mini را با سرعت کامل لازم دارید متوقفش کنید، یا بگذارید فقط پس از بیکار ماندن Mac شروع کند. درآمد به شبکه بستگی دارد و تضمینی نیست: ریسک‌ها را بخوانید.

8پرسش‌ها

آیا Mac mini برای هوش مصنوعی خوب است؟

برای اجرای محلی مدل‌ها، بله: GPU آن حافظهٔ یکپارچه را مستقیم می‌خواند، پس M5 Pro با 64 GB مدل‌هایی تا حدود 85B پارامتر را در 4 بیت جا می‌دهد، با چند وات در حالت بیکار. برای آموزش مدل یا بزرگ‌ترین مدل‌ها، Mac Studio یا یک سرور GPU ابزار بهتری است.

برای سرور LLM محلی کدام Mac mini را بخرم؟

تا جایی که می‌توانید حافظهٔ بیشتر: حافظه تعیین می‌کند کدام مدل‌ها جا شوند و بعداً قابل ارتقا نیست. M5 Pro همچنین حافظه را حدود 80% سریع‌تر از M6 با 24 یا 32 GB می‌خواند، پس سریع‌تر می‌نویسد. همهٔ پیکربندی‌ها را در Mac mini M5 Pro و Mac mini M6 مقایسه کنید.

آیا Mac mini می‌تواند مدل 70B اجرا کند؟

فقط M5 Pro با 64 GB، در 4 بیت و با کانتکست کوتاه: وزن‌ها حدود 39 GB از 48 GB را می‌گیرند که GPU به‌طور پیش‌فرض می‌تواند به کار ببرد. آهسته می‌نویسد، چند توکن در ثانیه. Llama 3.3 70B روی Mac را ببینید.

چطور از لپ‌تاپ یا گوشی‌ام از مدل Mac mini استفاده کنم؟

سرور را طوری اجرا کنید که روی شبکه‌تان گوش بدهد (برای نمونه mlx_lm.server --host 0.0.0.0)، سپس اپ دستگاه دیگر را به‌عنوان یک نقطهٔ پایانی سازگار با OpenAI به http://<mac-mini-name>.local:8080/v1 وصل کنید.

یک سرور هوش مصنوعی Mac mini چقدر برق مصرف می‌کند؟

یک Mac mini با M6 در حالت بیکار حدود 4 W و تا 70 W مصرف می‌کند؛ M5 Pro از 6 W تا 145 W. با حداکثر توان برای یک روز کامل، این حداکثر 1.68 یا 3.48 kWh است (Apple).