MLX Harness இலவசமா?

ஆம். அது இலவசம்; அது அடிப்படையாகக் கொண்ட vMLX ப்ராஜெக்ட்டைப் போலவே Apache License 2.0-இன் கீழ் உரிமம் பெற்றது.

MLX Harness-வை எப்போது பதிவிறக்கலாம்?

இப்போதே. harness.mlx.app, mlx.app/download ஆகியவற்றில் இலவசமாகப் பதிவிறக்கலாம்; macOS 14.5 அல்லது அதற்குப் பிந்தைய பதிப்பு கொண்ட Apple Silicon Mac-களுக்கானது. மூலக் குறியீடு GitHub-இல் github.com/MLXapp/studio-இல் உள்ளது.

MLX Harness எந்த Mac-களில் இயங்கும்?

Apple Silicon (M1 அல்லது அதற்குப் பிந்தையது), macOS 14.5 அல்லது அதற்குப் பிந்தைய பதிப்பு கொண்ட Mac-களில். எந்த மாடல்கள் பொருந்தும் என்பதை உங்கள் Mac-இன் மெமரி தீர்மானிக்கிறது; mlx.app-இல் உள்ள Compare அவற்றைக் காட்டுகிறது.

MLX Harness என் ப்ராம்ப்ட்களை எங்காவது அனுப்புகிறதா?

இல்லை. லோக்கல் மாடல்கள் உங்கள் Mac-இல் இயங்குகின்றன; நீங்கள் LAN-ஐ ஆன் செய்யாதவரை API உங்கள் Mac-இல் மட்டுமே கேட்கிறது. நீங்கள் ஒரு ரிமோட் எண்ட்பாயின்ட்டை இணைத்தால் மட்டுமே ப்ராம்ப்ட்கள் Mac-ஐ விட்டு வெளியேறும்.

MLX Harness MLX டோக்கன்களை ஈட்டுமா?

இல்லை. MLX Harness உங்களுக்காக மாடல்களை இயக்குகிறது, பொது நெட்வொர்க் எண்களை மட்டுமே படிக்கிறது. AI வேலைக்கு MLX டோக்கன்களை ஈட்டும் ஆப் MLX Node.

MLX Harness பயன்படுத்துவது எப்படி: Mac-இல் AI மாடல்களை லோக்கலாக இயக்க

சுருக்கமாக

MLX Harness உங்கள் Mac-இல் AI மாடல்களை இயக்குகிறது. நீங்களே ஒரு ரிமோட் எண்ட்பாயின்ட்டை இணைக்காதவரை ப்ராம்ப்ட்களும் பதில்களும் Mac-இலேயே இருக்கும்.
இது JANGQ AI உருவாக்கிய vMLX-இன் அடிப்படையில் கட்டப்பட்டது, Apache 2.0 உரிமத்தில் உள்ளது. harness.mlx.app அல்லது mlx.app/download-இல் பதிவிறக்குங்கள்.
நான்கு பக்கங்கள்: Chat & Images, Servers & API, Models, Network; சைட்பாரின் கீழே Preferences.
இயங்கும் ஒவ்வொரு மாடலும் localhost:8080-இல் உள்ள லோக்கல் API-இல் OpenAI, Anthropic, Ollama வடிவங்களில் வழங்கப்படுகிறது; எனவே ஆப்களும் கோடிங் ஏஜென்ட்களும் அதைப் பயன்படுத்தலாம்.

1MLX Harness-வை நிறுவுங்கள்

MLX Harness-வை harness.mlx.app-இல் பதிவிறக்குங்கள். இது கையொப்பமிடப்பட்டு Apple-ஆல் நோட்டரைஸ் செய்யப்பட்டது, உள்ளேயே MLX Node உள்ளது, புதிய பதிப்பு வந்தால் ஆப்பிலேயே உங்களுக்குத் தெரிவிக்கும்.

Apple Silicon-உம் macOS 14.5 அல்லது அதற்குப் பிந்தைய பதிப்பும் கொண்ட Mac தேவை. இன்ஃபரன்ஸ் என்ஜின் ஆப்புக்குள்ளேயே வருகிறது, எனவே வேறு எதையும் நிறுவ வேண்டியதில்லை: பதிவிறக்கி, MLX Harness-வை Applications-க்கு நகர்த்தித் திறங்கள்.

MLX Harness என்பது JANGQ AI உருவாக்கிய vMLX-இன் மாற்றியமைக்கப்பட்ட பதிப்பு, Apache License 2.0-இன் கீழ் வெளியிடப்பட்டது. அடியில் உள்ள என்ஜின் vMLX-உடையது, மாற்றமில்லாதது; MLX Harness அதைச் சுற்றியுள்ள ஆப்பை மாற்றி, Network பக்கத்தைச் சேர்க்கிறது.

2ஒரு மாடலைத் தேர்ந்தெடுத்துப் பதிவிறக்குங்கள்

மாடல்கள் Hugging Face-இலிருந்து வருகின்றன; அவற்றில் பெரும்பாலானவை mlx-community அமைப்பின் MLX வடிவத்தில் உள்ளன. பதிவிறக்கும் முன், எது பொருந்தும் என்று பாருங்கள்: உங்கள் Mac-இன் மெமரி எந்த மாடல்களைக் கொள்ளும், ஒவ்வொன்றும் தோராயமாக எவ்வளவு வேகமாக எழுதும் என்பதை Compare காட்டுகிறது.

Models திறந்து Find & download தேர்வு செய்யுங்கள். தேடுங்கள், பிறகு பதிவிறக்கங்கள், டிரெண்டிங், லைக்குகள், சமீபத்திய அப்டேட் அல்லது மாடல் அளவு வாரியாக வரிசைப்படுத்துங்கள்; தேடல் MLX மாடல்களைப் பட்டியலிடுகிறது.
ஒரு மாடலைக் கிளிக் செய்து அதன் README-ஐப் படித்து, பிறகு பதிவிறக்குங்கள். பதிவிறக்கங்கள் பின்னணியில் நடக்கும்; Downloads அவற்றின் முன்னேற்றத்தைக் காட்டுகிறது.
Llama போன்ற கேட்டட் (gated) மாடல்களுக்கு, முதலில் HF Token: புலத்தில் உங்கள் Hugging Face டோக்கனைச் சேர்த்து, huggingface.co-இல் மாடலின் லைசென்ஸை ஏற்றுக்கொள்ளுங்கள்.
Library & tools உங்கள் Mac-இல் உள்ள மாடல்களைப் பட்டியலிடுகிறது. Inspect Model ஒரு மாடலின் மெட்டாடேட்டாவைக் காட்டுகிறது, Diagnose Model ஹெல்த் சோதனைகளை இயக்குகிறது, Convert Model ஒரு Hugging Face மாடலைக் குவான்டைஸ் செய்யப்பட்ட MLX மாடலாக மாற்றுகிறது: Balanced (4-bit), Quality (8-bit) அல்லது Compact (3-bit).

Download to: என்பதன் கீழ் வேறு இடத்தைத் தேர்ந்தெடுக்காவிட்டால், பதிவிறக்கங்கள் உங்கள் Hugging Face கேஷ் ஃபோல்டருக்குச் செல்லும். அந்தக் கேஷிலும், ~/.mlxstudio/models-இலும், Directories என்பதன் கீழ் நீங்கள் சேர்க்கும் ஃபோல்டர்களிலும் ஏற்கெனவே உள்ள மாடல்களையும் MLX Harness கண்டறிகிறது.

3சாட், படங்கள்

சாட், ரீசனிங்

Chat & Images திறந்து, சாட் டூல்பாரின் மாடல் மெனுவில் ஒரு மாடலைத் தேர்ந்தெடுங்கள், அல்லது Add local model. அது கண்டறியப்பட்ட இயல்புநிலை அமைப்புகளுடன் தொடங்கும்; மேம்பட்ட விருப்பங்கள் Servers & API-இல் இருக்கும்.
ஒரு மெசேஜை டைப் செய்யுங்கள். ரீசனிங் மாடல்கள் தங்கள் சிந்தனையைத் தனிப் பெட்டியில் காட்டும். சாட் அமைப்புகளில் உள்ள Enable Thinking அதை Auto, On அல்லது Off ஆக அமைக்கிறது; ஆதரிக்கும் மாடல்களுக்கு Reasoning Effort அதன் ஆழத்தை அமைக்கிறது.
விஷன் மாடல்கள் படங்களை ஏற்கும்: ஒரு கோப்பைச் சாட்டில் இழுத்துவிடுங்கள் அல்லது அட்டாச் பொத்தானைப் பயன்படுத்துங்கள். வீடியோ, ஆடியோ, உரைக் கோப்புகள் அவற்றை ஏற்கும் மாடல்களுடன் வேலை செய்யும்.
சாட்கள் சைட்பாரில் சேமிக்கப்படுகின்றன, தேடக்கூடியவை. அமைப்புகள் ஒவ்வொரு மாடலுக்கும் தனியாகச் சேமிக்கப்படுகின்றன.

வேறு இடத்தில் உள்ள மாடலுடனும் சாட் செய்யலாம்: Connect remote endpoint எந்த OpenAI-இணக்கமான API முகவரியையும் ஏற்கும். அப்போது மட்டுமே உங்கள் ப்ராம்ப்ட்கள் Mac-ஐ விட்டு வெளியேறும்.

படங்களை உருவாக்குங்கள், திருத்துங்கள்

Chat & Images-இல் Image தேர்வு செய்யுங்கள். பட மாடல்கள் mflux மூலம் இயங்குகின்றன; பட சர்வர் உங்கள் Mac-இல் உள்ள ஒரு ஃபோல்டரிலிருந்து மாடலை லோடு செய்கிறது: Find mflux models, Models-இல் படத் தேடலைத் திறக்கிறது; பிறகு Load selected folder அதைத் தொடங்குகிறது.

பயன்பாடு	மாடல் குடும்பங்கள்
உருவாக்கம்	Flux Schnell, Flux Dev, Z-Image Turbo, FLUX.2 Klein 4B, 9B, Qwen Image, Qwen Image 2.1, FIBO, Ideogram 4
திருத்தம்	Qwen Image Edit, Qwen Image 2.1, Flux Kontext, FLUX.2 Klein Edit, Flux Fill (நீங்கள் வரையும் மாஸ்க்குடன் இன்பெயின்டிங்)
அப்ஸ்கேல்	SeedVR2 3B

MLX Harness லோடு செய்யக்கூடிய குடும்பங்கள். மாடல், துல்லியத்தைப் பொறுத்து மெமரி மாறுபடும்; 16 GB Mac-க்கு 4-பிட்டில் Flux Schnell அல்லது Klein 4B-ஐயும், எடிட்டிங் மாடல்களுக்கு 8-பிட் அல்லது முழுத் துல்லியத்தையும் ஆப் பரிந்துரைக்கிறது.

Flux Dev போன்ற சில பட மாடல்கள் Hugging Face-இல் கேட்டட் ஆனவை; பதிவிறக்கும் முன் உங்கள் டோக்கனும் ஏற்றுக்கொண்ட லைசென்ஸும் தேவை.

4ஏஜென்ட்கள், டூல்கள்

MLX Harness ஒரு மாடலை உங்கள் Mac-இல் செயல்பட அனுமதிக்கலாம். சாட் அமைப்புகளில் Enable Built-in Coding Tools-ஐ ஆன் செய்து ஒரு Working Directory-ஐத் தேர்ந்தெடுங்கள்: ஒவ்வொரு கோப்புச் செயல்பாடும் கட்டளையும் அதற்குள்ளேயே இயங்கும். பிறகு டூல் வகைகளை ஆன் அல்லது ஆஃப் செய்யுங்கள்:

வகை	உள்ளமைந்த டூல்கள்
File I/O	`read_file`, `write_file`, `edit_file`, `patch_file`, `batch_edit`, `insert_text`, `replace_lines`, `apply_regex`, `copy_file`, `move_file`, `delete_file`, `create_directory`, `list_directory`, `read_image`, `read_video`
Search	`search_files`, `find_files`, `file_info`, `get_tree`, `diff_files`, `get_diagnostics`
Shell	`run_command`, `spawn_process`, `get_process_output`, `run_applescript`
Web Search	`ddg_search`: இலவசம், DuckDuckGo-வை முயல்கிறது, பிறகு Mojeek
Brave Search	`web_search`, Brave Search API கீயுடன்
URL Fetch	`fetch_url`
Git	`git`: status, diff, log, blame, commit, branch, stash
Utilities	`count_tokens`, `clipboard_read`, `clipboard_write`, `get_current_datetime`; `ask_user` எப்போதும் ஆன்

MLX Harness-வின் உள்ளமைந்த டூல் பட்டியலிலிருந்து. MCP சர்வர்கள் இவற்றுடன் தங்கள் சொந்த டூல்களைச் சேர்க்கின்றன.

Max Tool Iterations, ஒரு மெசேஜ் எத்தனை சுற்று டூல் அழைப்புகளை எடுக்கலாம் என்பதற்கு வரம்பிடுகிறது (இயல்பாக 10). Shell, கோப்பு டூல்கள் உண்மையான கோப்புகளில் செயல்படுகின்றன; எனவே வொர்க்கிங் டைரக்டரியை உங்கள் ஹோம் ஃபோல்டருக்கு அல்ல, ஒரு ப்ராஜெக்ட்டுக்குக் காட்டுங்கள்; அதை நம்பி ஒப்படைக்கக்கூடிய மாடலைப் பயன்படுத்துங்கள்.

5மற்ற ஆப்களிலிருந்து பயன்படுத்துங்கள்: லோக்கல் API

நீங்கள் தொடங்கும் ஒவ்வொரு மாடலும் உங்கள் Mac-இல் வழங்கப்படுகிறது. http://localhost:8080-இல் உள்ள API Gateway ஒவ்வொரு கோரிக்கையையும் அதில் உள்ள பெயரின்படி சரியான மாடலுக்கு அனுப்புகிறது; நிறுத்தப்பட்ட மாடல் கேட்கப்பட்டால் அதைத் தொடங்குகிறது. ஒவ்வொரு மாடலுக்கும் 8000 முதல் தனி போர்ட்டும் உண்டு. இயல்பாக உங்கள் Mac மட்டுமே அவற்றை அணுக முடியும்; LAN-ஐ ஆன் செய்தால் உங்கள் நெட்வொர்க்குக்கும் திறக்கும்.

வடிவம்	எண்ட்பாயின்ட்கள்
OpenAI	`/v1/chat/completions`, `/v1/responses`, `/v1/completions`, `/v1/models`, `/v1/embeddings`
Anthropic	`/v1/messages`
Ollama	`/api/chat`, `/api/generate`, `/api/tags`, `/api/show`, `/api/embed`
படங்கள்	`/v1/images/generations`, `/v1/images/edits`
ஆடியோ	`/v1/audio/transcriptions` (Whisper), `/v1/audio/speech` (Kokoro)

Servers & API → API, நீங்கள் இயக்கும் மாடல்களுக்கான ஒவ்வொரு எண்ட்பாயின்ட்டையும் curl, Python, JavaScript-இல் காப்பி-பேஸ்ட் உதாரணங்களுடன் பட்டியலிடுகிறது.

API-க்குப் பின்னால், என்ஜின் ஏற்கெனவே படித்ததை கேஷ் செய்கிறது. Continuous Batching ஆன் ஆக இருக்கும்போது, நீண்ட சாட்டோ கோடிங் ஏஜென்ட்டின் திரும்பத் திரும்ப வரும் அறிவுறுத்தல்களோ அடுத்த சுற்றில் வேலையைத் தவிர்க்க Prefix Cache உதவுகிறது; KV Cache Quantization அந்தக் கேஷைச் சுருக்குகிறது; Disk Cache (Persistent) அதை SSD-இல் வைத்திருக்கிறது. இவை ஒவ்வொரு மாடலின் சர்வர் அமைப்புகளிலும் உள்ளன.

API பக்கம் காட்டும் மாடல் பெயருடன், OpenAI வடிவத்தில் ஒரு கோரிக்கை:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

base_url-ஐ http://localhost:8080/v1 என அமைத்தால் எந்த OpenAI SDK-உம் வேலை செய்யும்; செஷனில் நீங்கள் ஒரு கீயை அமைக்காதவரை, கீ எந்த உரையாகவும் இருக்கலாம். கோடிங் ஏஜென்ட்களுக்கு, Coding Tool Integration, Claude Code, Codex CLI, OpenCode, OpenClaw, Hermes Agent ஆகியவற்றை Auto-Configure மூலம் அமைக்கிறது, அல்லது Manual Setup-ஐக் காட்டுகிறது. Claude Code-க்கு, இதை ~/.claude/settings.json-இல் இணைப்பதுதான் அது:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Network பக்கம், MLX Node

Network, mlx.app-இலிருந்து MLX Network-ஐ நேரலையில் காட்டுகிறது: ஆன்லைனில் உள்ள, வேலை செய்யும் Mac-கள், வினாடிக்கான டோக்கன்கள், இன்றைய AI டோக்கன்கள், நாடுகள். MLX Node இந்த Mac-இல் நிறுவப்பட்டு இயங்குகிறதா என்று சரிபார்த்து, அதைத் திறக்கிறது அல்லது பதிவிறக்கத்துக்கான இணைப்பைத் தருகிறது. Your wallet என்பதன் கீழ் உங்கள் வாலெட் பெயரை டைப் செய்து Show அழுத்தினால், அது மைன் செய்யும் MLX எண்ணிக்கை உயர்வதைப் பார்க்கலாம்; பெயர் இந்த Mac-இல் மட்டுமே வைக்கப்படுகிறது.

MLX Harness தானே ஒருபோதும் மைன் செய்வதில்லை. அது உங்களுக்காக மாடல்களை இயக்குகிறது. MLX Node என்பது தனி மெனு பார் ஆப்; அது உங்கள் Mac-இன் சும்மா இருக்கும் நேரத்தை MLX Network-க்குக் கொடுத்து MLX டோக்கன்களை ஈட்டுகிறது: இலவச இருக்கையில் நாளுக்கு 1 MLX வரை, 30 நாட்கள் லாக். இரண்டையும் பயன்படுத்தினால், அவை ஒரே மெமரியையும் GPU-வையும் பகிர்கின்றன; எனவே MLX Node-இன் Memory MLX may use வரம்பும், மேனுவல் Start, Stop-உம் அதை உங்கள் வழியில் குறுக்கிடாமல் வைக்கின்றன. MLX டோக்கன்கள் மதிப்பை இழக்கலாம்; அபாயங்களைப் படியுங்கள்.

7கேள்விகள்

MLX Harness இலவசமா?: ஆம். அது இலவசம்; அது அடிப்படையாகக் கொண்ட vMLX ப்ராஜெக்ட்டைப் போலவே Apache License 2.0-இன் கீழ் உரிமம் பெற்றது.
MLX Harness-வை எப்போது பதிவிறக்கலாம்?: இப்போதே. harness.mlx.app, mlx.app/download ஆகியவற்றில் இலவசமாகப் பதிவிறக்கலாம்; macOS 14.5 அல்லது அதற்குப் பிந்தைய பதிப்பு கொண்ட Apple Silicon Mac-களுக்கானது. மூலக் குறியீடு GitHub-இல் github.com/MLXapp/studio-இல் உள்ளது.
MLX Harness எந்த Mac-களில் இயங்கும்?: Apple Silicon (M1 அல்லது அதற்குப் பிந்தையது), macOS 14.5 அல்லது அதற்குப் பிந்தைய பதிப்பு கொண்ட Mac-களில். எந்த மாடல்கள் பொருந்தும் என்பதை உங்கள் Mac-இன் மெமரி தீர்மானிக்கிறது; mlx.app-இல் உள்ள Compare அவற்றைக் காட்டுகிறது.
MLX Harness என் ப்ராம்ப்ட்களை எங்காவது அனுப்புகிறதா?: இல்லை. லோக்கல் மாடல்கள் உங்கள் Mac-இல் இயங்குகின்றன; நீங்கள் LAN-ஐ ஆன் செய்யாதவரை API உங்கள் Mac-இல் மட்டுமே கேட்கிறது. நீங்கள் ஒரு ரிமோட் எண்ட்பாயின்ட்டை இணைத்தால் மட்டுமே ப்ராம்ப்ட்கள் Mac-ஐ விட்டு வெளியேறும்.
MLX Harness MLX டோக்கன்களை ஈட்டுமா?: இல்லை. MLX Harness உங்களுக்காக மாடல்களை இயக்குகிறது, பொது நெட்வொர்க் எண்களை மட்டுமே படிக்கிறது. AI வேலைக்கு MLX டோக்கன்களை ஈட்டும் ஆப் MLX Node.

ஆதாரங்கள்

vMLXgithub.com
Hugging Facehuggingface.co
mlx-communityhuggingface.co
mfluxgithub.com

MLX Harness-வை எப்படிப் பயன்படுத்துவது.