چطور از MLX Harness استفاده کنیم.

MLX Harness اپ رایگان ما برای Mac است که مدل‌های زبانی، بینایی و تصویر را با فریم‌ورک MLX اپل روی Mac خودتان اجرا می‌کند. دانلودش رایگان است. اینجا می‌بینید چه می‌کند، صفحه به صفحه.

به‌روزرسانی

به‌طور خلاصه

  • MLX Harness مدل‌های هوش مصنوعی را روی Mac شما اجرا می‌کند. پرامپت‌ها و پاسخ‌ها روی Mac می‌مانند، مگر اینکه خودتان یک endpoint راه دور وصل کنید.
  • بر پایهٔ vMLX از JANGQ AI ساخته شده و مجوز Apache 2.0 دارد. آن را از harness.mlx.app یا mlx.app/download دانلود کنید.
  • چهار صفحه: Chat & Images، Servers & API، Models و Network، و Preferences در پایین نوار کناری.
  • هر مدلی که در حال اجراست روی یک API محلی در localhost:8080 با قالب‌های OpenAI، Anthropic و Ollama ارائه می‌شود تا اپ‌ها و ایجنت‌های کدنویسی از آن استفاده کنند.

1نصب MLX Harness

MLX Harness را از harness.mlx.app دانلود کنید. امضا و توسط Apple notarize شده است، MLX Node را در خود دارد و وقتی نسخهٔ تازه‌ای بیاید، داخل اپ خبرتان می‌کند.

به یک Mac با Apple Silicon و macOS 14.5 یا جدیدتر نیاز دارید. موتور استنتاج داخل خود اپ است، پس چیز دیگری برای نصب نیست: دانلودش کنید، MLX Harness را به Applications ببرید و بازش کنید.

MLX Harness نسخهٔ تغییریافتهٔ vMLX از JANGQ AI است که تحت Apache License 2.0 منتشر شده است. موتور زیرین همان موتور vMLX و بدون تغییر است؛ MLX Harness اپِ اطراف آن را تغییر می‌دهد و صفحهٔ Network را اضافه می‌کند.

2انتخاب و دانلود مدل

مدل‌ها از Hugging Face می‌آیند و بیشترشان در قالب MLX از سازمان mlx-community هستند. پیش از دانلود ببینید چه چیزی جا می‌شود: Compare نشان می‌دهد حافظهٔ Mac شما کدام مدل‌ها را جا می‌دهد و هرکدام تقریباً با چه سرعتی می‌نویسد.

  1. Models را باز کنید و Find & download را انتخاب کنید. جست‌وجو کنید و بر اساس دانلود، ترند، لایک، آخرین به‌روزرسانی یا اندازهٔ مدل مرتب کنید؛ جست‌وجو مدل‌های MLX را فهرست می‌کند.
  2. روی یک مدل کلیک کنید تا README آن را بخوانید، بعد دانلودش کنید. دانلودها در پس‌زمینه انجام می‌شوند و Downloads پیشرفتشان را نشان می‌دهد.
  3. برای مدل‌های محدود مثل Llama، اول توکن Hugging Face خود را در فیلد HF Token: وارد کنید و مجوز مدل را در huggingface.co بپذیرید.
  4. Library & tools مدل‌های روی Mac شما را فهرست می‌کند. Inspect Model فرادادهٔ مدل را نشان می‌دهد، Diagnose Model بررسی سلامت انجام می‌دهد و Convert Model یک مدل Hugging Face را به مدل MLX کوانتیزه‌شده تبدیل می‌کند: Balanced (4-bit)، Quality (8-bit) یا Compact (3-bit).

دانلودها به پوشهٔ کش Hugging Face می‌روند، مگر اینکه زیر Download to: جای دیگری انتخاب کنید. MLX Harness مدل‌هایی را هم که از قبل در آن کش، در ~/.mlxstudio/models و در پوشه‌هایی که زیر Directories اضافه می‌کنید هستند پیدا می‌کند.

3چت و تصویر

چت و استدلال

  1. Chat & Images را باز کنید و از منوی مدل در نوار ابزار چت یک مدل انتخاب کنید، یا Add local model را بزنید. مدل با پیش‌فرض‌های شناسایی‌شده‌اش شروع می‌کند؛ گزینه‌های پیشرفته در Servers & API می‌مانند.
  2. پیامی بنویسید. مدل‌های استدلالی فکر کردنشان را در کادری جداگانه نشان می‌دهند. Enable Thinking در تنظیمات چت آن را روی Auto، On یا Off می‌گذارد و Reasoning Effort عمق آن را برای مدل‌هایی که پشتیبانی می‌کنند تعیین می‌کند.
  3. مدل‌های بینایی تصویر می‌پذیرند: فایلی را روی چت رها کنید یا از دکمهٔ پیوست استفاده کنید. فایل‌های ویدیو، صوت و متن با مدل‌هایی که آن‌ها را می‌پذیرند کار می‌کنند.
  4. گفت‌وگوها در نوار کناری ذخیره می‌شوند و قابل جست‌وجو هستند. تنظیمات برای هر مدل جداگانه ذخیره می‌شود.

می‌توانید با مدلی که جای دیگری اجرا می‌شود هم چت کنید: Connect remote endpoint آدرس هر API سازگار با OpenAI را می‌پذیرد. فقط در این حالت پرامپت‌های شما از Mac خارج می‌شوند.

تولید و ویرایش تصویر

در Chat & Images، Image را انتخاب کنید. مدل‌های تصویر از طریق mflux اجرا می‌شوند و سرور تصویر مدل را از پوشه‌ای روی Mac بارگذاری می‌کند: Find mflux models جست‌وجوی تصویر را در Models باز می‌کند و سپس Load selected folder آن را راه می‌اندازد.

کاربردخانواده‌های مدل
تولیدFlux Schnell، Flux Dev، Z-Image Turbo، FLUX.2 Klein 4B و 9B، Qwen Image، Qwen Image 2.1، FIBO، Ideogram 4
ویرایشQwen Image Edit، Qwen Image 2.1، Flux Kontext، FLUX.2 Klein Edit، Flux Fill (inpainting با ماسکی که خودتان می‌کشید)
افزایش وضوحSeedVR2 3B
خانواده‌هایی که MLX Harness می‌تواند بارگذاری کند. حافظهٔ لازم به مدل و دقت بستگی دارد؛ اپ برای Mac با 16 GB، Flux Schnell یا Klein 4B را در 4 بیت پیشنهاد می‌کند و برای مدل‌های ویرایش 8 بیت یا دقت کامل را.

برخی مدل‌های تصویر، مثل Flux Dev، در Hugging Face محدودند و پیش از دانلود به توکن شما و پذیرش مجوز نیاز دارند.

4ایجنت‌ها و ابزارها

MLX Harness می‌تواند به مدل اجازه دهد روی Mac شما کار انجام دهد. در تنظیمات چت، Enable Built-in Coding Tools را روشن کنید و یک Working Directory انتخاب کنید: هر عملیات فایل و هر فرمان داخل آن اجرا می‌شود. سپس دسته‌های ابزار را روشن یا خاموش کنید:

دستهابزارهای داخلی
File I/Oread_file, write_file, edit_file, patch_file, batch_edit, insert_text, replace_lines, apply_regex, copy_file, move_file, delete_file, create_directory, list_directory, read_image, read_video
Searchsearch_files, find_files, file_info, get_tree, diff_files, get_diagnostics
Shellrun_command, spawn_process, get_process_output, run_applescript
Web Searchddg_search: رایگان، اول DuckDuckGo و بعد Mojeek را امتحان می‌کند
Brave Searchweb_search، با کلید API جست‌وجوی Brave
URL Fetchfetch_url
Gitgit: status، diff، log، blame، commit، branch، stash
Utilitiescount_tokens, clipboard_read, clipboard_write, get_current_datetime؛ ask_user همیشه روشن است
از فهرست ابزارهای داخلی MLX Harness. سرورهای MCP ابزارهای خودشان را کنار این‌ها اضافه می‌کنند.

Max Tool Iterations سقف تعداد دورهای فراخوانی ابزار برای یک پیام را تعیین می‌کند (پیش‌فرض 10). ابزارهای Shell و فایل روی فایل‌های واقعی کار می‌کنند، پس پوشهٔ کاری را روی یک پروژه بگذارید نه پوشهٔ خانه، و از مدلی استفاده کنید که در این کار به آن اعتماد دارید.

5استفاده از اپ‌های دیگر: API محلی

هر مدلی که راه‌اندازی می‌کنید روی Mac شما ارائه می‌شود. API Gateway در http://localhost:8080 هر درخواست را بر اساس نام مدل در درخواست به مدل درست می‌فرستد و اگر مدل متوقفی درخواست شود آن را راه می‌اندازد. هر مدل پورت خودش را هم دارد، از 8000 به بالا. به‌طور پیش‌فرض فقط Mac شما به آن‌ها دسترسی دارد؛ روشن کردن LAN آن‌ها را روی شبکهٔ شما باز می‌کند.

قالبEndpointها
OpenAI/v1/chat/completions, /v1/responses, /v1/completions, /v1/models, /v1/embeddings
Anthropic/v1/messages
Ollama/api/chat, /api/generate, /api/tags, /api/show, /api/embed
تصویر/v1/images/generations, /v1/images/edits
صوت/v1/audio/transcriptions (Whisper)، /v1/audio/speech (Kokoro)
Servers & API → API همهٔ endpointهای مدل‌های در حال اجرا را با نمونه‌کدهای آمادهٔ کپی به زبان‌های curl، Python و JavaScript فهرست می‌کند.

پشت API، موتور آنچه را قبلاً خوانده کش می‌کند. با روشن بودن Continuous Batching، Prefix Cache باعث می‌شود یک گفت‌وگوی طولانی یا دستورالعمل‌های تکراری یک ایجنت کدنویسی در نوبت بعد از کار تکراری بگذرند، KV Cache Quantization این کش را کوچک می‌کند و Disk Cache (Persistent) آن را روی SSD نگه می‌دارد. این گزینه‌ها در تنظیمات سرور هر مدل هستند.

یک درخواست در قالب OpenAI، با نام مدلی که صفحهٔ API نشان می‌دهد:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

هر OpenAI SDK با تنظیم base_url روی http://localhost:8080/v1 کار می‌کند؛ کلید می‌تواند هر متنی باشد، مگر اینکه روی نشست کلیدی تعیین کنید. برای ایجنت‌های کدنویسی، Coding Tool Integration با Auto-Configure ابزارهای Claude Code، Codex CLI، OpenCode، OpenClaw و Hermes Agent را تنظیم می‌کند یا یک Manual Setup نشان می‌دهد. برای Claude Code یعنی ادغام این در ~/.claude/settings.json:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6صفحهٔ Network و MLX Node

Network وضعیت زندهٔ MLX Network را از mlx.app نشان می‌دهد: Macهای آنلاین و در حال کار، توکن در ثانیه، توکن‌های هوش مصنوعی امروز و کشورها. بررسی می‌کند MLX Node روی این Mac نصب است و اجرا می‌شود یا نه، و آن را باز می‌کند یا به صفحهٔ دانلود لینک می‌دهد. نام کیف پولتان را زیر Your wallet بنویسید و Show را بزنید تا بالا رفتن MLX استخراج‌شده‌اش را ببینید؛ این نام فقط روی همین Mac نگه داشته می‌شود.

خود MLX Harness هرگز استخراج نمی‌کند؛ برای شما مدل اجرا می‌کند. MLX Node اپ جداگانهٔ نوار منو است که زمان بیکاری Mac شما را در اختیار MLX Network می‌گذارد و توکن MLX کسب می‌کند: روی جایگاه رایگان تا 1 MLX در روز، با 30 روز قفل. اگر از هر دو استفاده کنید، حافظه و GPU مشترکی دارند، پس محدودیت Memory MLX may use در MLX Node و Start و Stop دستی آن را از سر راهتان کنار نگه می‌دارند. توکن MLX ممکن است ارزشش را از دست بدهد؛ ریسک‌ها را بخوانید.

7پرسش‌ها

آیا MLX Harness رایگان است؟
بله. رایگان است و مانند vMLX، پروژه‌ای که بر پایهٔ آن ساخته شده، مجوز Apache License 2.0 دارد.
کی می‌توانم MLX Harness را دانلود کنم؟
همین حالا. دانلودش در harness.mlx.app و mlx.app/download رایگان است، برای Macهای دارای Apple Silicon با macOS 14.5 یا جدیدتر. کد منبع روی GitHub در github.com/MLXapp/studio است.
MLX Harness روی کدام Macها اجرا می‌شود؟
Macهای دارای Apple Silicon (M1 یا جدیدتر) با macOS 14.5 یا جدیدتر. حافظهٔ Mac تعیین می‌کند کدام مدل‌ها جا می‌شوند؛ Compare در mlx.app آن‌ها را نشان می‌دهد.
آیا MLX Harness پرامپت‌های من را جایی می‌فرستد؟
خیر. مدل‌های لوکال روی Mac شما اجرا می‌شوند و API فقط روی Mac شما گوش می‌دهد، مگر اینکه LAN را روشن کنید. پرامپت‌ها فقط وقتی از Mac خارج می‌شوند که یک endpoint راه دور وصل کنید.
آیا MLX Harness توکن MLX کسب می‌کند؟
خیر. MLX Harness برای شما مدل اجرا می‌کند و فقط آمار عمومی شبکه را می‌خواند. MLX Node اپی است که برای کار هوش مصنوعی توکن MLX کسب می‌کند.

منابع

  1. vMLXgithub.com
  2. Hugging Facehuggingface.co
  3. mlx-communityhuggingface.co
  4. mfluxgithub.com

بیشتر بخوانید

آموزش MLX Harness: اجرای مدل‌های هوش مصنوعی به‌صورت لوکال روی مک