পাশাপাশি
| M3 Ultra | DGX Spark | |
|---|---|---|
| এটি কী | Mac Studio (2025) | একটি সম্পূর্ণ ছোট কম্পিউটার |
| মেমরি সাইজ | 96, 256, 512 GB | 128 GB |
| মেমরি ব্যান্ডউইথ | 819 GB/s | 273 GB/s |
| মডেলের জন্য, সর্বোচ্চ | প্রায় 384 GB | প্রায় 96 GB |
| যত মডেল ভালো চলে | 73টির মধ্যে 60টি | 73টির মধ্যে 39টি |
| মাপা: লেখা | 92 tok/s | 57 tok/s |
| মাপা: প্রম্পট পড়া | 1,471 tok/s | 3,062 tok/s |
মাপা সারি: llama.cpp-র পাবলিক বেঞ্চমার্কে Llama 2 7B Q4_0 দিয়ে প্রতিটি মেশিনের দ্রুততম ফল, 128 টোকেন লেখার সময় (tg128) আর 512 টোকেনের প্রম্পট পড়ার সময় (pp512), প্রতি সেকেন্ডে টোকেনে। Mac চলেছে Metal-এ, DGX Spark চলেছে CUDA-এ। Apple Silicon-এর ফল · DGX Spark-এর ফল মডেলের জন্য আমরা দুটোতেই মেমরির প্রায় 75% ধরি, যা macOS-এর ডিফল্ট, কারণ DGX Spark-তেও CPU আর GPU একটাই মেমরি ভাগ করে। এর GPU আসলে কতটা ব্যবহার করতে পারে তা অপারেটিং সিস্টেম আর সেটিংসের ওপর নির্ভর করে।
কে কোথায় এগিয়ে
- লেখার গতি। M3 Ultra মেমরি পড়ে DGX Spark-এর চেয়ে প্রায় 200% দ্রুত (819 বনাম 273 GB/s), তাই দুটোতেই ধরে এমন যেকোনো মডেলে এটি প্রায় 200% দ্রুত লেখে।
- মডেলের আকার। M3 Ultra-এর মডেলের জন্য প্রায় 384 GB আছে, DGX Spark-এর প্রায় 96 GB। 73টি জনপ্রিয় ওপেন মডেলের মধ্যে 60টি M3 Ultra-তে ভালো চলে, আর 39টি DGX Spark-তে।
- লম্বা প্রম্পট পড়া। llama.cpp-র মাপা পরীক্ষায় DGX Spark প্রম্পট প্রায় 2.1× দ্রুত পড়ে (প্রতি সেকেন্ডে 3,062 বনাম 1,471 টোকেন)। প্রম্পট পড়া মেমরি ব্যান্ডউইথ নয়, GPU-র গণনা ক্ষমতার ওপর নির্ভর করে, আর লম্বা ডকুমেন্ট বা কোডবেসে প্রথম শব্দ আসা পর্যন্ত অপেক্ষা এটাই ঠিক করে।
- সফটওয়্যার। DGX Spark NVIDIA-র CUDA ব্যবহার করে, যাকে বেশিরভাগ AI সফটওয়্যার সবার আগে সমর্থন করে, ট্রেনিং কোড আর অনেক ছবি ও ভিডিও টুলসহ। Mac-এ মডেল চলে তার বদলে MLX, llama.cpp-র Metal ব্যাকএন্ড বা PyTorch-এর MPS ব্যাকএন্ড দিয়ে।
- চারপাশে। দুটোই সম্পূর্ণ কম্পিউটার, যা মডেলকে CPU আর GPU-র ভাগ করা একটাই মেমরিতে রাখে।
- Mac। এটি রোজকার কম্পিউটারও, আর Apple Silicon-এর জন্য তৈরি MLX Harness ও MLX Node চালায়।
জনপ্রিয় মডেলে গতি
একটি কথোপকথনের জন্য সেকেন্ডে টোকেন, প্রতিটি চিপ তার সবচেয়ে বড় মেমরি সাইজে (512 GB ও 128 GB), মডেলের যে সেরা ভার্সন ধরে তা দিয়ে।
| মডেল | M3 Ultra | DGX Spark |
|---|---|---|
| Llama 3.1 8B Instruct8B | 43–77 8-bit | 14–26 8-bit |
| gpt-oss-20b21B · 3.6B সক্রিয় | 194–345 নেটিভ 4.25-bit | 65–115 নেটিভ 4.25-bit |
| Qwen3.6 35B A3B35B · 3B সক্রিয় | 115–205 8-bit | 38–68 8-bit |
| Qwen3.8 27B27B | 13–23 8-bit | 4–8 8-bit |
| Llama 3.3 70B Instruct70B | 5–9 8-bit | 2–3 8-bit |
| gpt-oss-120b117B · 5.1B সক্রিয় | 137–243 নেটিভ 4.25-bit | 45–81 নেটিভ 4.25-bit |
| Qwen3.5 122B A10B122B · 10B সক্রিয় | 35–62 8-bit | 22–39 4-bit |
| DeepSeek V4 Flash 0731284B · 13B সক্রিয় | 27–47 8-bit | 30–53 2-bit কম মান |
প্রশ্ন
- LLM-এর জন্য DGX Spark কি M3 Ultra-এর চেয়ে দ্রুত?
- M3 Ultra মেমরি পড়ে DGX Spark-এর চেয়ে প্রায় 200% দ্রুত (819 বনাম 273 GB/s), তাই দুটোতেই ধরে এমন যেকোনো মডেলে এটি প্রায় 200% দ্রুত লেখে। llama.cpp-র মাপা পরীক্ষায় DGX Spark প্রম্পট প্রায় 2.1× দ্রুত পড়ে (প্রতি সেকেন্ডে 3,062 বনাম 1,471 টোকেন)। প্রম্পট পড়া মেমরি ব্যান্ডউইথ নয়, GPU-র গণনা ক্ষমতার ওপর নির্ভর করে, আর লম্বা ডকুমেন্ট বা কোডবেসে প্রথম শব্দ আসা পর্যন্ত অপেক্ষা এটাই ঠিক করে।
- বড় মডেল কোনটি চালাতে পারে, M3 Ultra না DGX Spark?
- M3 Ultra-এর মডেলের জন্য প্রায় 384 GB আছে, DGX Spark-এর প্রায় 96 GB। 73টি জনপ্রিয় ওপেন মডেলের মধ্যে 60টি M3 Ultra-তে ভালো চলে, আর 39টি DGX Spark-তে।
- MLX Node কি DGX Spark-তে চলে?
- না। MLX Node আর MLX Harness শুধু Apple Silicon-যুক্ত Mac-এ, Apple-এর MLX ফ্রেমওয়ার্কে চলে।
আরও তুলনা
- M4 Max vs DGX Spark
- M5 Max vs DGX Spark
- M5 Ultra vs DGX Spark
- M2 Ultra vs M3 Ultra
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M3 Ultra vs M5 Ultra
লোকাল AI-এর জন্য M3 Ultra · সব মডেল তুলনা করুন · লোকাল LLM-এর জন্য সেরা Mac
হিসাব কীভাবে করা হয়েছে
মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।
DGX Spark-এর তথ্য: NVIDIA: DGX Spark (specs)।