পাশাপাশি
| M5 Max | RTX 5090 | |
|---|---|---|
| এটি কী | MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra) | ডেস্কটপ PC-র জন্য গ্রাফিক্স কার্ড |
| মেমরি সাইজ | 36, 48, 64, 128 GB | 32 GB |
| মেমরি ব্যান্ডউইথ | 460–614 GB/s | 1,792 GB/s |
| মডেলের জন্য, সর্বোচ্চ | প্রায় 96 GB | প্রায় 31 GB |
| যত মডেল ভালো চলে | 73টির মধ্যে 47টি | 73টির মধ্যে 38টি |
| মাপা: লেখা | 120 tok/s | 290 tok/s |
| মাপা: প্রম্পট পড়া | 3,220 tok/s | 14,073 tok/s |
মাপা সারি: llama.cpp-র পাবলিক বেঞ্চমার্কে Llama 2 7B Q4_0 দিয়ে প্রতিটি মেশিনের দ্রুততম ফল, 128 টোকেন লেখার সময় (tg128) আর 512 টোকেনের প্রম্পট পড়ার সময় (pp512), প্রতি সেকেন্ডে টোকেনে। Mac চলেছে Metal-এ, RTX 5090 চলেছে CUDA-এ। Apple Silicon-এর ফল · RTX 5090-এর ফল মডেলের জন্য আমরা RTX 5090-এর নিজের 32 GB থেকে প্রায় 1 GB বাদ দিয়ে, আর Mac-এর ইউনিফায়েড মেমরির প্রায় 75% ধরি, যা macOS-এর ডিফল্ট।
কে কোথায় এগিয়ে
- লেখার গতি। RTX 5090 মেমরি পড়ে M5 Max-এর চেয়ে প্রায় 192% দ্রুত (1,792 বনাম 614 GB/s), তাই দুটোতেই ধরে এমন যেকোনো মডেলে এটি প্রায় 192% দ্রুত লেখে।
- মডেলের আকার। M5 Max-এর মডেলের জন্য প্রায় 96 GB আছে, RTX 5090-এর প্রায় 31 GB। 73টি জনপ্রিয় ওপেন মডেলের মধ্যে 47টি M5 Max-তে ভালো চলে, আর 38টি RTX 5090-তে।
- লম্বা প্রম্পট পড়া। llama.cpp-র মাপা পরীক্ষায় RTX 5090 প্রম্পট প্রায় 4.4× দ্রুত পড়ে (প্রতি সেকেন্ডে 14,073 বনাম 3,220 টোকেন)। প্রম্পট পড়া মেমরি ব্যান্ডউইথ নয়, GPU-র গণনা ক্ষমতার ওপর নির্ভর করে, আর লম্বা ডকুমেন্ট বা কোডবেসে প্রথম শব্দ আসা পর্যন্ত অপেক্ষা এটাই ঠিক করে।
- সফটওয়্যার। RTX 5090 NVIDIA-র CUDA ব্যবহার করে, যাকে বেশিরভাগ AI সফটওয়্যার সবার আগে সমর্থন করে, ট্রেনিং কোড আর অনেক ছবি ও ভিডিও টুলসহ। Mac-এ মডেল চলে তার বদলে MLX, llama.cpp-র Metal ব্যাকএন্ড বা PyTorch-এর MPS ব্যাকএন্ড দিয়ে।
- চারপাশে। গ্রাফিক্স কার্ডের চারপাশে একটি PC লাগে, আর এর নিজের 32 GB-ই সীমা: যে মডেল আঁটে না তাকে আংশিকভাবে PC-র অনেক ধীর সিস্টেম মেমরি থেকে চালাতে হয়, বা দ্বিতীয় কার্ডে ভাগ করতে হয়।
- Mac। এটি রোজকার কম্পিউটারও, আর Apple Silicon-এর জন্য তৈরি MLX Harness ও MLX Node চালায়।
জনপ্রিয় মডেলে গতি
একটি কথোপকথনের জন্য সেকেন্ডে টোকেন, প্রতিটি চিপ তার সবচেয়ে বড় মেমরি সাইজে (128 GB ও 32 GB), মডেলের যে সেরা ভার্সন ধরে তা দিয়ে।
| মডেল | M5 Max | RTX 5090 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 33–58 8-bit | 95–169 8-bit |
| gpt-oss-20b21B · 3.6B সক্রিয় | 145–259 নেটিভ 4.25-bit | 424–755 নেটিভ 4.25-bit |
| Qwen3.6 35B A3B35B · 3B সক্রিয় | 86–154 8-bit | 336–597 6-bit |
| Qwen3.8 27B27B | 10–17 8-bit | 28–50 8-bit |
| Llama 3.3 70B Instruct70B | 4–7 8-bit | 37–65 2-bit কম মান |
| gpt-oss-120b117B · 5.1B সক্রিয় | 102–182 নেটিভ 4.25-bit | খুব বড় |
| Qwen3.5 122B A10B122B · 10B সক্রিয় | 49–88 4-bit | খুব বড় |
| DeepSeek V4 Flash 0731284B · 13B সক্রিয় | 67–120 2-bit কম মান | খুব বড় |
প্রশ্ন
- LLM-এর জন্য RTX 5090 কি M5 Max-এর চেয়ে দ্রুত?
- RTX 5090 মেমরি পড়ে M5 Max-এর চেয়ে প্রায় 192% দ্রুত (1,792 বনাম 614 GB/s), তাই দুটোতেই ধরে এমন যেকোনো মডেলে এটি প্রায় 192% দ্রুত লেখে। llama.cpp-র মাপা পরীক্ষায় RTX 5090 প্রম্পট প্রায় 4.4× দ্রুত পড়ে (প্রতি সেকেন্ডে 14,073 বনাম 3,220 টোকেন)। প্রম্পট পড়া মেমরি ব্যান্ডউইথ নয়, GPU-র গণনা ক্ষমতার ওপর নির্ভর করে, আর লম্বা ডকুমেন্ট বা কোডবেসে প্রথম শব্দ আসা পর্যন্ত অপেক্ষা এটাই ঠিক করে।
- বড় মডেল কোনটি চালাতে পারে, M5 Max না RTX 5090?
- M5 Max-এর মডেলের জন্য প্রায় 96 GB আছে, RTX 5090-এর প্রায় 31 GB। 73টি জনপ্রিয় ওপেন মডেলের মধ্যে 47টি M5 Max-তে ভালো চলে, আর 38টি RTX 5090-তে।
- MLX Node কি RTX 5090-তে চলে?
- না। MLX Node আর MLX Harness শুধু Apple Silicon-যুক্ত Mac-এ, Apple-এর MLX ফ্রেমওয়ার্কে চলে।
আরও তুলনা
- M5 Max vs DGX Spark
- M5 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ PRO 495
- M1 Max vs M5 Max
- M3 Ultra vs M5 Max
- M4 Pro vs M5 Max
- M4 Max vs M5 Max
- M5 Pro vs M5 Max
লোকাল AI-এর জন্য M5 Max · সব মডেল তুলনা করুন · লোকাল LLM-এর জন্য সেরা Mac
হিসাব কীভাবে করা হয়েছে
মেমরি: মডেলের প্যারামিটার প্রতি ওয়েটে 8, 6, 4, 3 বা 2 bit-এ, সঙ্গে MLX-এর গ্রুপ স্কেল (প্রতি ওয়েটে আধা bit), অথবা তার নেটিভ ফরম্যাট, আর তার ওপর কনটেক্সটের জায়গা। ডিফল্টভাবে macOS GPU-কে ইউনিফায়েড মেমরির প্রায় 75% ব্যবহার করতে দেয়। গতি: মেমরি ব্যান্ডউইথকে প্রতি টোকেনে পড়া বাইট দিয়ে ভাগ করলে একটি কথোপকথনের সর্বোচ্চ সীমা পাওয়া যায়; llama.cpp-এর পাবলিক Apple Silicon বেঞ্চমার্কে আসল রান এর প্রায় 45% থেকে 80% পর্যন্ত পৌঁছায়, আর সেই রেঞ্জটাই দেখানো হয়েছে। এগুলো অনুমান, মাপা ফল নয়: MLX Bench-এ আপনার নিজের Mac মাপুন। মডেলের তথ্য প্রতিটি অফিশিয়াল মডেল কার্ড থেকে, চিপের তথ্য Apple-এর Tech Specs থেকে। যাচাই করা হয়েছে 2026-10-19। mlx.app/compare-এর একই ডেটা।
RTX 5090-এর তথ্য: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4)।