สรุปสั้น ๆ
- MLX Harness รันโมเดล AI บน Mac ของคุณ พรอมต์และคำตอบอยู่บน Mac เว้นแต่คุณจะเชื่อมต่อปลายทางระยะไกลเอง
- แอปสร้างบน vMLX ของ JANGQ AI และใช้สัญญาอนุญาต Apache 2.0 ดาวน์โหลดได้ที่ harness.mlx.app หรือ mlx.app/download
- มีสี่หน้า: Chat & Images, Servers & API, Models และ Network โดยมี Preferences อยู่ด้านล่างของแถบด้านข้าง
- โมเดลที่รันอยู่ทุกตัวให้บริการผ่าน API ในเครื่องที่ localhost:8080 ในรูปแบบ OpenAI, Anthropic และ Ollama แอปและเอเจนต์เขียนโค้ดจึงใช้งานได้
1ติดตั้ง MLX Harness
คุณต้องมี Mac ที่ใช้ Apple Silicon และ macOS 14.5 ขึ้นไป เอนจินอินเฟอเรนซ์มาพร้อมแอป จึงไม่ต้องติดตั้งอะไรเพิ่ม: ดาวน์โหลด ย้าย MLX Harness ไปไว้ใน Applications แล้วเปิดแอป
MLX Harness เป็นเวอร์ชันดัดแปลงของ vMLX โดย JANGQ AI ซึ่งเผยแพร่ภายใต้ Apache License 2.0 เอนจินข้างในเป็นของ vMLX โดยไม่มีการแก้ไข MLX Harness เปลี่ยนตัวแอปที่ครอบอยู่และเพิ่มหน้า Network
2เลือกและดาวน์โหลดโมเดล
โมเดลมาจาก Hugging Face ส่วนใหญ่อยู่ในฟอร์แมต MLX จากองค์กร mlx-community ก่อนดาวน์โหลด ตรวจดูว่าโมเดลไหนใส่ได้: หน้าเปรียบเทียบแสดงว่าโมเดลไหนพอดีกับหน่วยความจำของ Mac และแต่ละตัวเขียนได้เร็วประมาณเท่าไร
- เปิด Models แล้วเลือก Find & download ค้นหาและเรียงตามยอดดาวน์โหลด กำลังมาแรง ยอดถูกใจ อัปเดตล่าสุด หรือขนาดโมเดล ผลการค้นหาแสดงโมเดล MLX
- คลิกโมเดลเพื่ออ่าน README แล้วดาวน์โหลด การดาวน์โหลดทำงานเบื้องหลัง และ Downloads แสดงความคืบหน้า
- สำหรับโมเดลที่จำกัดการเข้าถึง (gated) เช่น Llama ให้ใส่โทเค็น Hugging Face ในช่อง HF Token: ก่อน และยอมรับสัญญาอนุญาตของโมเดลที่ huggingface.co
- Library & tools แสดงโมเดลที่อยู่บน Mac Inspect Model แสดงเมทาดาทาของโมเดล Diagnose Model ตรวจสุขภาพโมเดล และ Convert Model แปลงโมเดล Hugging Face เป็นโมเดล MLX ที่ควอนไทซ์แล้ว: Balanced (4-bit), Quality (8-bit) หรือ Compact (3-bit)
ไฟล์ดาวน์โหลดจะไปอยู่ในโฟลเดอร์แคชของ Hugging Face เว้นแต่คุณเลือกที่อื่นใน Download to: MLX Harness ยังค้นพบโมเดลที่มีอยู่แล้วในแคชนั้น ใน ~/.mlxstudio/models และในโฟลเดอร์ที่คุณเพิ่มไว้ใน Directories
3แชตและภาพ
แชตและการให้เหตุผล
- เปิด Chat & Images เลือกโมเดลจากเมนูโมเดลบนแถบเครื่องมือแชต หรือ Add local model โมเดลจะเริ่มด้วยค่าเริ่มต้นที่ตรวจพบ ส่วนตัวเลือกขั้นสูงอยู่ใน Servers & API
- พิมพ์ข้อความ โมเดลให้เหตุผลจะแสดงความคิดในกล่องแยก Enable Thinking ในการตั้งค่าแชตตั้งเป็น Auto, On หรือ Off และ Reasoning Effort ตั้งระดับความลึกสำหรับโมเดลที่รองรับ
- โมเดลวิชันรับภาพได้: ลากไฟล์มาวางในแชตหรือใช้ปุ่มแนบไฟล์ ไฟล์วิดีโอ เสียง และข้อความใช้ได้กับโมเดลที่รองรับ
- แชตบันทึกไว้ในแถบด้านข้างและค้นหาได้ การตั้งค่าบันทึกแยกตามโมเดล
คุณยังแชตกับโมเดลที่อยู่ที่อื่นได้: Connect remote endpoint รับที่อยู่ API ใดก็ได้ที่เข้ากันได้กับ OpenAI เฉพาะกรณีนี้เท่านั้นที่พรอมต์จะออกจาก Mac
สร้างและแก้ไขภาพ
ใน Chat & Images เลือก Image โมเดลภาพรันผ่าน mflux และเซิร์ฟเวอร์ภาพจะโหลดโมเดลจากโฟลเดอร์บน Mac: Find mflux models เปิดการค้นหาภาพใน Models จากนั้น Load selected folder จะเริ่มโมเดล
| การใช้งาน | ตระกูลโมเดล |
|---|---|
| สร้างภาพ | Flux Schnell, Flux Dev, Z-Image Turbo, FLUX.2 Klein 4B และ 9B, Qwen Image, Qwen Image 2.1, FIBO, Ideogram 4 |
| แก้ไขภาพ | Qwen Image Edit, Qwen Image 2.1, Flux Kontext, FLUX.2 Klein Edit, Flux Fill (inpainting ด้วยมาสก์ที่คุณระบายเอง) |
| ขยายความละเอียด | SeedVR2 3B |
โมเดลภาพบางตัว เช่น Flux Dev จำกัดการเข้าถึงบน Hugging Face และต้องใช้โทเค็นของคุณพร้อมยอมรับสัญญาอนุญาตก่อนจึงจะดาวน์โหลดได้
4เอเจนต์และเครื่องมือ
MLX Harness ให้โมเดลลงมือทำงานบน Mac ได้ ในการตั้งค่าแชต เปิด Enable Built-in Coding Tools แล้วเลือก Working Directory: การทำงานกับไฟล์และคำสั่งทุกอย่างจะรันภายในโฟลเดอร์นั้น จากนั้นเปิดหรือปิดหมวดเครื่องมือ:
| หมวด | เครื่องมือในตัว |
|---|---|
| File I/O | read_file, write_file, edit_file, patch_file, batch_edit, insert_text, replace_lines, apply_regex, copy_file, move_file, delete_file, create_directory, list_directory, read_image, read_video |
| Search | search_files, find_files, file_info, get_tree, diff_files, get_diagnostics |
| Shell | run_command, spawn_process, get_process_output, run_applescript |
| Web Search | ddg_search: ฟรี ลองใช้ DuckDuckGo ก่อน แล้วจึง Mojeek |
| Brave Search | web_search ใช้คีย์ API ของ Brave Search |
| URL Fetch | fetch_url |
| Git | git: status, diff, log, blame, commit, branch, stash |
| Utilities | count_tokens, clipboard_read, clipboard_write, get_current_datetime ส่วน ask_user เปิดอยู่เสมอ |
Max Tool Iterations จำกัดจำนวนรอบการเรียกเครื่องมือต่อหนึ่งข้อความ (ค่าเริ่มต้น 10) เครื่องมือ shell และไฟล์ทำงานกับไฟล์จริง จึงควรชี้ working directory ไปที่โปรเจกต์ ไม่ใช่โฟลเดอร์โฮม และใช้โมเดลที่คุณไว้ใจ
5ใช้จากแอปอื่น: API ในเครื่อง
โมเดลทุกตัวที่คุณเริ่มจะให้บริการบน Mac ของคุณ API Gateway ที่ http://localhost:8080 ส่งคำขอแต่ละรายการไปยังโมเดลที่ถูกต้องตามชื่อในคำขอ และเริ่มโมเดลที่หยุดอยู่เมื่อมีการเรียกใช้ โมเดลแต่ละตัวยังมีพอร์ตของตัวเองตั้งแต่ 8000 ขึ้นไป ค่าเริ่มต้นคือเข้าถึงได้จาก Mac ของคุณเท่านั้น การเปิด LAN จะเปิดให้เครือข่ายของคุณเข้าถึง
| รูปแบบ | เอนด์พอยต์ |
|---|---|
| OpenAI | /v1/chat/completions, /v1/responses, /v1/completions, /v1/models, /v1/embeddings |
| Anthropic | /v1/messages |
| Ollama | /api/chat, /api/generate, /api/tags, /api/show, /api/embed |
| ภาพ | /v1/images/generations, /v1/images/edits |
| เสียง | /v1/audio/transcriptions (Whisper), /v1/audio/speech (Kokoro) |
เบื้องหลัง API เอนจินจะแคชสิ่งที่อ่านไปแล้ว เมื่อเปิด Continuous Batching แล้ว Prefix Cache ช่วยให้แชตยาว ๆ หรือคำสั่งที่ซ้ำกันของเอเจนต์เขียนโค้ดข้ามงานบางส่วนในรอบถัดไปได้ KV Cache Quantization ย่อขนาดแคชนั้น และ Disk Cache (Persistent) เก็บแคชไว้บน SSD ทั้งหมดนี้อยู่ในการตั้งค่าเซิร์ฟเวอร์ของแต่ละโมเดล
ตัวอย่างคำขอในรูปแบบ OpenAI โดยใช้ชื่อโมเดลที่แสดงในหน้า API:
curl http://localhost:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "YOUR-MODEL",
"messages": [{"role": "user", "content": "Hello!"}]
}'OpenAI SDK ใดก็ใช้ได้โดยตั้ง base_url เป็น http://localhost:8080/v1 คีย์จะเป็นข้อความอะไรก็ได้ เว้นแต่คุณตั้งคีย์ไว้ในเซสชัน สำหรับเอเจนต์เขียนโค้ด Coding Tool Integration ตั้งค่า Claude Code, Codex CLI, OpenCode, OpenClaw และ Hermes Agent ให้ด้วย Auto-Configure หรือแสดง Manual Setup สำหรับ Claude Code หมายถึงการรวมค่านี้เข้าไปใน ~/.claude/settings.json:
{
"env": {
"ANTHROPIC_BASE_URL": "http://localhost:8080",
"ANTHROPIC_MODEL": "YOUR-MODEL",
"ANTHROPIC_API_KEY": "mlxstudio"
}
}6หน้า Network และ MLX Node
Network แสดง MLX Network แบบสดจาก mlx.app: Mac ที่ออนไลน์และกำลังทำงาน โทเค็นต่อวินาที โทเค็น AI วันนี้ และจำนวนประเทศ หน้านี้ตรวจว่ามีการติดตั้ง MLX Node บน Mac เครื่องนี้และกำลังรันอยู่หรือไม่ แล้วเปิดแอปหรือลิงก์ไปยังหน้าดาวน์โหลด พิมพ์ชื่อวอลเล็ตในช่อง Your wallet แล้วกด Show เพื่อดู MLX ที่ขุดได้นับเพิ่มขึ้น ชื่อจะเก็บไว้บน Mac เครื่องนี้เท่านั้น
MLX Harness เองไม่ขุดเลย แอปรันโมเดลให้คุณ MLX Node เป็นแอปแถบเมนูแยกต่างหากที่ให้ MLX Network ยืมเวลาว่างของ Mac และได้รับโทเค็น MLX: สูงสุด 1 MLX ต่อวันบนที่นั่งฟรี ล็อก 30 วัน หากใช้ทั้งสองแอป ทั้งคู่จะใช้หน่วยความจำและ GPU ร่วมกัน ขีดจำกัด Memory MLX may use และการกด Start และ Stop เองใน MLX Node จึงช่วยไม่ให้รบกวนงานของคุณ โทเค็น MLX อาจสูญเสียมูลค่า อ่านความเสี่ยง
7คำถาม
- MLX Harness ใช้ฟรีไหม
- ใช่ ใช้ฟรีและใช้สัญญาอนุญาต Apache License 2.0 เช่นเดียวกับ vMLX ซึ่งเป็นโปรเจกต์ต้นทาง
- ดาวน์โหลด MLX Harness ได้เมื่อไร
- ได้แล้วตอนนี้ ดาวน์โหลดฟรีที่ harness.mlx.app และ mlx.app/download สำหรับ Mac ที่ใช้ Apple Silicon และ macOS 14.5 ขึ้นไป ซอร์สโค้ดอยู่บน GitHub ที่ github.com/MLXapp/studio
- MLX Harness รันบน Mac รุ่นไหนได้บ้าง
- Mac ที่ใช้ Apple Silicon (M1 ขึ้นไป) และ macOS 14.5 ขึ้นไป หน่วยความจำของ Mac กำหนดว่าโมเดลไหนใส่ได้ ดูได้ที่หน้าเปรียบเทียบบน mlx.app
- MLX Harness ส่งพรอมต์ของฉันไปที่ไหนไหม
- ไม่ส่ง โมเดลในเครื่องรันบน Mac และ API รับคำขอบน Mac เท่านั้น เว้นแต่คุณจะเปิด LAN พรอมต์จะออกจาก Mac ก็ต่อเมื่อคุณเชื่อมต่อปลายทางระยะไกล
- MLX Harness ได้รับโทเค็น MLX ไหม
- ไม่ได้ MLX Harness รันโมเดลให้คุณและอ่านเฉพาะตัวเลขสาธารณะของเครือข่าย MLX Node คือแอปที่ได้รับโทเค็น MLX จากงาน AI
แหล่งที่มา
- vMLXgithub.com
- Hugging Facehuggingface.co
- mlx-communityhuggingface.co
- mfluxgithub.com