MLX Harness কি ফ্রি?

হ্যাঁ। এটি বিনামূল্যে এবং Apache License 2.0-এর অধীন, ঠিক vMLX-এর মতো, যে প্রজেক্টের ওপর এটি তৈরি।

MLX Harness কবে ডাউনলোড করা যাবে?

এখনই। harness.mlx.app আর mlx.app/download-এ এটি ফ্রি ডাউনলোড, macOS 14.5 বা নতুন চালানো Apple Silicon Mac-এর জন্য। সোর্স কোড GitHub-এ, github.com/MLXapp/studio-তে।

MLX Harness কোন Mac-এ চলে?

Apple Silicon (M1 বা নতুন) আর macOS 14.5 বা নতুন থাকা Mac-এ। কোন মডেল ধরবে তা ঠিক করে আপনার Mac-এর মেমরি; mlx.app-এর Compare সেগুলো দেখায়।

MLX Harness কি আমার প্রম্পট কোথাও পাঠায়?

না। লোকাল মডেল আপনার Mac-এ চলে, আর LAN চালু না করলে API শুধু আপনার Mac-এই শোনে। রিমোট এন্ডপয়েন্ট যুক্ত করলে তবেই প্রম্পট Mac-এর বাইরে যায়।

MLX Harness কি MLX টোকেন আয় করে?

না। MLX Harness আপনার জন্য মডেল চালায় আর শুধু নেটওয়ার্কের প্রকাশ্য সংখ্যা পড়ে। AI কাজের বিনিময়ে MLX টোকেন আয় করে MLX Node অ্যাপটি।

MLX Harness কীভাবে ব্যবহার করবেন: Mac-এ লোকালি AI মডেল চালান

সংক্ষেপে

MLX Harness আপনার Mac-এ AI মডেল চালায়। প্রম্পট ও উত্তর Mac-এই থাকে, যদি না আপনি নিজে কোনো রিমোট এন্ডপয়েন্ট যুক্ত করেন।
এটি JANGQ AI-এর vMLX-এর ওপর তৈরি এবং Apache 2.0 লাইসেন্সের অধীন। ডাউনলোড করুন harness.mlx.app বা mlx.app/download থেকে।
চারটি পেজ: Chat & Images, Servers & API, Models ও Network, আর সাইডবারের নিচে Preferences।
চালু থাকা প্রতিটি মডেল localhost:8080-এ একটি লোকাল API-তে OpenAI, Anthropic ও Ollama ফরম্যাটে পাওয়া যায়, যাতে অ্যাপ ও কোডিং এজেন্ট এটি ব্যবহার করতে পারে।

1MLX Harness ইনস্টল করুন

MLX Harness ডাউনলোড করুন harness.mlx.app থেকে। এটি সাইন করা ও Apple-এর নোটারাইজড, ভেতরে MLX Node আছে, আর নতুন সংস্করণ এলে অ্যাপেই জানিয়ে দেয়।

লাগবে Apple Silicon চিপের Mac আর macOS 14.5 বা নতুন। ইনফারেন্স ইঞ্জিন অ্যাপের ভেতরেই আছে, তাই আর কিছু ইনস্টল করতে হবে না: ডাউনলোড করুন, MLX Harness-কে Applications-এ সরিয়ে খুলুন।

MLX Harness হলো JANGQ AI-এর vMLX-এর একটি পরিবর্তিত সংস্করণ, যা Apache License 2.0-এর অধীনে প্রকাশিত। ভেতরের ইঞ্জিনটি vMLX-এরই, অপরিবর্তিত; MLX Harness এর চারপাশের অ্যাপটি বদলায় আর Network পেজ যোগ করে।

2মডেল বাছুন ও ডাউনলোড করুন

মডেল আসে Hugging Face থেকে, বেশিরভাগই mlx-community সংস্থার MLX ফরম্যাটে। ডাউনলোডের আগে দেখে নিন কী ধরবে: Compare দেখায় আপনার Mac-এর মেমরিতে কোন মডেলগুলো ধরে আর প্রতিটি মোটামুটি কত দ্রুত লেখে।

Models খুলে Find & download বেছে নিন। খুঁজুন, আর ডাউনলোড, ট্রেন্ডিং, লাইক, সাম্প্রতিক আপডেট বা মডেলের আকার অনুযায়ী সাজান; সার্চে MLX মডেল দেখায়।
কোনো মডেলে ক্লিক করে তার README পড়ুন, তারপর ডাউনলোড করুন। ডাউনলোড চলে ব্যাকগ্রাউন্ডে, আর Downloads তার অগ্রগতি দেখায়।
Llama-র মতো গেটেড মডেলের জন্য আগে HF Token: ঘরে আপনার Hugging Face টোকেন দিন, আর huggingface.co-তে মডেলের লাইসেন্স মেনে নিন।
Library & tools আপনার Mac-এ থাকা মডেলগুলো দেখায়। Inspect Model মডেলের মেটাডেটা দেখায়, Diagnose Model হেলথ চেক চালায় আর Convert Model একটি Hugging Face মডেলকে কোয়ান্টাইজড MLX মডেলে বদলায়: Balanced (4-bit), Quality (8-bit) বা Compact (3-bit)।

ডাউনলোড যায় আপনার Hugging Face ক্যাশ ফোল্ডারে, যদি না Download to:-এর নিচে অন্য জায়গা বাছেন। MLX Harness সেই ক্যাশে, ~/.mlxstudio/models-এ আর Directories-এর নিচে যোগ করা ফোল্ডারে আগে থেকে থাকা মডেলও খুঁজে পায়।

3চ্যাট ও ছবি

চ্যাট ও রিজনিং

Chat & Images খুলুন, চ্যাট টুলবারের মডেল মেনু থেকে একটি মডেল বাছুন, অথবা Add local model। এটি শনাক্ত করা ডিফল্ট সেটিংস নিয়ে শুরু হয়; উন্নত বিকল্পগুলো থাকে Servers & API-তে।
মেসেজ লিখুন। রিজনিং মডেল তাদের চিন্তা আলাদা একটি বাক্সে দেখায়। চ্যাট সেটিংসে Enable Thinking এটিকে Auto, On বা Off করে, আর যে মডেলে সমর্থন আছে সেখানে Reasoning Effort এর গভীরতা ঠিক করে।
ভিশন মডেল ছবি নেয়: ফাইল চ্যাটে ছেড়ে দিন বা অ্যাটাচ বোতাম ব্যবহার করুন। ভিডিও, অডিও ও টেক্সট ফাইল কাজ করে সেই মডেলে, যেগুলো এগুলো গ্রহণ করে।
চ্যাট সাইডবারে সেভ থাকে এবং খোঁজা যায়। সেটিংস প্রতিটি মডেলের জন্য আলাদা সেভ হয়।

অন্য কোথাও চলা মডেলের সঙ্গেও চ্যাট করতে পারেন: Connect remote endpoint যেকোনো OpenAI-সামঞ্জস্যপূর্ণ API-র ঠিকানা নেয়। কেবল তখনই আপনার প্রম্পট Mac-এর বাইরে যায়।

ছবি তৈরি ও এডিট করুন

Chat & Images-এ Image বেছে নিন। ইমেজ মডেল চলে mflux দিয়ে, আর ইমেজ সার্ভার আপনার Mac-এর একটি ফোল্ডার থেকে মডেল লোড করে: Find mflux models Models-এ ইমেজ সার্চ খোলে, তারপর Load selected folder সেটি চালু করে।

কাজ	মডেল ফ্যামিলি
তৈরি	Flux Schnell, Flux Dev, Z-Image Turbo, FLUX.2 Klein 4B ও 9B, Qwen Image, Qwen Image 2.1, FIBO, Ideogram 4
এডিট	Qwen Image Edit, Qwen Image 2.1, Flux Kontext, FLUX.2 Klein Edit, Flux Fill (আপনার আঁকা মাস্ক দিয়ে inpainting)
আপস্কেল	SeedVR2 3B

যে ফ্যামিলিগুলো MLX Harness লোড করতে পারে। মেমরি মডেল ও প্রিসিশন অনুযায়ী বদলায়; 16 GB-এর Mac-এর জন্য অ্যাপটি 4-bit-এ Flux Schnell বা Klein 4B, আর এডিটিং মডেলের জন্য 8-bit বা পূর্ণ প্রিসিশন প্রস্তাব করে।

কিছু ইমেজ মডেল, যেমন Flux Dev, Hugging Face-এ গেটেড এবং ডাউনলোডের আগে আপনার টোকেন ও মেনে নেওয়া লাইসেন্স চায়।

4এজেন্ট ও টুল

MLX Harness একটি মডেলকে আপনার Mac-এ কাজ করতে দিতে পারে। চ্যাট সেটিংসে Enable Built-in Coding Tools চালু করুন আর একটি Working Directory বাছুন: প্রতিটি ফাইল অপারেশন ও কমান্ড চলে এর ভেতরে। তারপর টুলের বিভাগগুলো চালু বা বন্ধ করুন:

বিভাগ	বিল্ট-ইন টুল
File I/O	`read_file`, `write_file`, `edit_file`, `patch_file`, `batch_edit`, `insert_text`, `replace_lines`, `apply_regex`, `copy_file`, `move_file`, `delete_file`, `create_directory`, `list_directory`, `read_image`, `read_video`
Search	`search_files`, `find_files`, `file_info`, `get_tree`, `diff_files`, `get_diagnostics`
Shell	`run_command`, `spawn_process`, `get_process_output`, `run_applescript`
Web Search	`ddg_search`: ফ্রি, আগে DuckDuckGo চেষ্টা করে, তারপর Mojeek
Brave Search	`web_search`, একটি Brave Search API কী দিয়ে
URL Fetch	`fetch_url`
Git	`git`: status, diff, log, blame, commit, branch, stash
Utilities	`count_tokens`, `clipboard_read`, `clipboard_write`, `get_current_datetime`; `ask_user` সবসময় চালু

MLX Harness-র বিল্ট-ইন টুলের তালিকা থেকে। MCP সার্ভার এগুলোর পাশে নিজেদের টুল যোগ করে।

Max Tool Iterations ঠিক করে একটি মেসেজ সর্বোচ্চ কত রাউন্ড টুল কল নিতে পারে (ডিফল্ট 10)। Shell ও ফাইল টুল আসল ফাইলে কাজ করে, তাই ওয়ার্কিং ডিরেক্টরি রাখুন কোনো প্রজেক্টে, হোম ফোল্ডারে নয়, আর এমন মডেল ব্যবহার করুন যাকে এ কাজে ভরসা করেন।

5অন্য অ্যাপ থেকে ব্যবহার: লোকাল API

আপনি যে মডেলই চালু করুন, তা আপনার Mac-এ পাওয়া যায়। http://localhost:8080-এ API Gateway প্রতিটি অনুরোধে দেওয়া নাম দেখে সঠিক মডেলে পাঠায়, আর থেমে থাকা মডেল চাওয়া হলে তা চালু করে। প্রতিটি মডেলের নিজস্ব পোর্টও আছে, 8000 থেকে ওপরে। ডিফল্টভাবে শুধু আপনার Mac এগুলোতে পৌঁছাতে পারে; LAN চালু করলে এগুলো আপনার নেটওয়ার্কে খুলে যায়।

ফরম্যাট	এন্ডপয়েন্ট
OpenAI	`/v1/chat/completions`, `/v1/responses`, `/v1/completions`, `/v1/models`, `/v1/embeddings`
Anthropic	`/v1/messages`
Ollama	`/api/chat`, `/api/generate`, `/api/tags`, `/api/show`, `/api/embed`
ছবি	`/v1/images/generations`, `/v1/images/edits`
অডিও	`/v1/audio/transcriptions` (Whisper), `/v1/audio/speech` (Kokoro)

Servers & API → API আপনার চালু থাকা মডেলগুলোর সব এন্ডপয়েন্ট দেখায়, curl, Python ও JavaScript-এ কপি-পেস্ট স্নিপেটসহ।

API-র পেছনে ইঞ্জিন যা আগে পড়েছে তা ক্যাশ করে। Continuous Batching চালু থাকলে Prefix Cache দীর্ঘ চ্যাট বা কোডিং এজেন্টের বারবার আসা নির্দেশনাকে পরের পালায় কাজ বাদ দিতে দেয়, KV Cache Quantization সেই ক্যাশ ছোট করে, আর Disk Cache (Persistent) তা SSD-তে রাখে। এগুলো প্রতিটি মডেলের সার্ভার সেটিংসে আছে।

OpenAI ফরম্যাটে একটি অনুরোধ, API পেজে দেখানো মডেলের নামসহ:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR-MODEL",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

যেকোনো OpenAI SDK কাজ করে base_url http://localhost:8080/v1-এ সেট করলে; সেশনে কী ঠিক না করলে কী যেকোনো টেক্সট হতে পারে। কোডিং এজেন্টের জন্য Coding Tool Integration Auto-Configure দিয়ে Claude Code, Codex CLI, OpenCode, OpenClaw ও Hermes Agent সেটআপ করে, অথবা একটি Manual Setup দেখায়। Claude Code-এর জন্য এর মানে ~/.claude/settings.json-এ এটি মিলিয়ে দেওয়া:

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:8080",
    "ANTHROPIC_MODEL": "YOUR-MODEL",
    "ANTHROPIC_API_KEY": "mlxstudio"
  }
}

6Network পেজ, আর MLX Node

Network mlx.app থেকে MLX Network-এর লাইভ অবস্থা দেখায়: অনলাইন ও কাজ করা Mac, প্রতি সেকেন্ডে টোকেন, আজকের AI টোকেন আর দেশ। এটি যাচাই করে এই Mac-এ MLX Node ইনস্টল ও চালু আছে কি না, আর সেটি খোলে বা ডাউনলোডের লিংক দেয়। Your wallet-এর নিচে আপনার ওয়ালেটের নাম লিখে Show চাপুন, তাহলে এর মাইন করা MLX বাড়তে দেখবেন; নামটি শুধু এই Mac-এই রাখা হয়।

MLX Harness নিজে কখনো মাইন করে না; এটি আপনার জন্য মডেল চালায়। MLX Node আলাদা একটি মেনু বার অ্যাপ, যা আপনার Mac-এর অলস সময় MLX Network-কে দেয় এবং MLX টোকেন আয় করে: ফ্রি সিটে দিনে 1 MLX পর্যন্ত, 30 দিন লক। দুটোই ব্যবহার করলে এরা একই মেমরি ও GPU ভাগ করে, তাই MLX Node-এর Memory MLX may use সীমা আর ম্যানুয়াল Start ও Stop একে আপনার কাজের পথ থেকে দূরে রাখে। MLX টোকেন মূল্য হারাতে পারে; ঝুঁকি পড়ুন।

7প্রশ্নোত্তর

MLX Harness কি ফ্রি?: হ্যাঁ। এটি বিনামূল্যে এবং Apache License 2.0-এর অধীন, ঠিক vMLX-এর মতো, যে প্রজেক্টের ওপর এটি তৈরি।
MLX Harness কবে ডাউনলোড করা যাবে?: এখনই। harness.mlx.app আর mlx.app/download-এ এটি ফ্রি ডাউনলোড, macOS 14.5 বা নতুন চালানো Apple Silicon Mac-এর জন্য। সোর্স কোড GitHub-এ, github.com/MLXapp/studio-তে।
MLX Harness কোন Mac-এ চলে?: Apple Silicon (M1 বা নতুন) আর macOS 14.5 বা নতুন থাকা Mac-এ। কোন মডেল ধরবে তা ঠিক করে আপনার Mac-এর মেমরি; mlx.app-এর Compare সেগুলো দেখায়।
MLX Harness কি আমার প্রম্পট কোথাও পাঠায়?: না। লোকাল মডেল আপনার Mac-এ চলে, আর LAN চালু না করলে API শুধু আপনার Mac-এই শোনে। রিমোট এন্ডপয়েন্ট যুক্ত করলে তবেই প্রম্পট Mac-এর বাইরে যায়।
MLX Harness কি MLX টোকেন আয় করে?: না। MLX Harness আপনার জন্য মডেল চালায় আর শুধু নেটওয়ার্কের প্রকাশ্য সংখ্যা পড়ে। AI কাজের বিনিময়ে MLX টোকেন আয় করে MLX Node অ্যাপটি।

তথ্যসূত্র

vMLXgithub.com
Hugging Facehuggingface.co
mlx-communityhuggingface.co
mfluxgithub.com

MLX Harness কীভাবে ব্যবহার করবেন।