Hy-Memory-30B-A3B کو کتنی میموری چاہیے؟

4-bit پر ویٹس کے لیے تقریباً 16.9 GB، اور کانٹیکسٹ کی گنجائش: کل 18.4 GB۔ Mac پر اس کا مطلب ہے 32 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔

Mac پر Hy-Memory-30B-A3B کتنا تیز ہے؟

لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 96 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 159–282 ٹوکن (8-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 32 GB کے ساتھ، M2 Max پر تقریباً 100–178 تک پہنچتا ہے۔

Hy-Memory-30B-A3B اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟

یہ mixture-of-experts ماڈل ہے: یہ میموری میں 30.1B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 3.2B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔

کیا Mac پر Hy-Memory-30B-A3B چلے گا؟ میموری اور رفتار

ہر پریسیژن پر میموری

ورژن	ویٹس	کانٹیکسٹ کے ساتھ	سب سے چھوٹا Mac
8-bit	31.9 GB	34.5 GB	48 GB
6-bit	24.4 GB	26.4 GB	36 GB
4-bit	16.9 GB	18.4 GB	32 GB
3-bit کم معیار	13.2 GB	14.7 GB	24 GB
2-bit کم معیار	9.4 GB	10.9 GB	16 GB

ہر Apple چپ پر

ہر چپ کا سب سے کم میموری سائز جو Hy-Memory-30B-A3B چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔

چپ	درکار	ورژن	ٹوکن/سیکنڈ
M6	32 GB	4-bit اچھا چلتا ہے	43–76
M5 Ultra	96 GB	8-bit اچھا چلتا ہے	159–282
M5 Max	36 GB	6-bit اچھا چلتا ہے	80–142
M5 Pro	48 GB	8-bit اچھا چلتا ہے	41–72
M5	32 GB	4-bit اچھا چلتا ہے	38–68
M4 Max	36 GB	6-bit اچھا چلتا ہے	71–126
M4 Pro	48 GB	8-bit اچھا چلتا ہے	36–64
M4	32 GB	4-bit اچھا چلتا ہے	30–53
M3 Ultra	96 GB	8-bit اچھا چلتا ہے	108–193
M3 Max	36 GB	6-bit اچھا چلتا ہے	52–92
M3 Pro	36 GB	6-bit اچھا چلتا ہے	26–46
M3	16 GB	2-bit اچھا چلتا ہے	45–80
M2 Ultra	64 GB	8-bit اچھا چلتا ہے	106–188
M2 Max	32 GB	4-bit اچھا چلتا ہے	100–178
M2 Pro	32 GB	4-bit اچھا چلتا ہے	50–89
M2	16 GB	2-bit اچھا چلتا ہے	45–80
M1 Ultra	64 GB	8-bit اچھا چلتا ہے	106–188
M1 Max	32 GB	4-bit اچھا چلتا ہے	100–178
M1 Pro	32 GB	4-bit اچھا چلتا ہے	50–89
M1	16 GB	2-bit اچھا چلتا ہے	31–54

اسے کیسے چلائیں

آسان طریقہ: MLX Harness ڈاؤن لوڈ کریں، مفت اور اوپن سورس۔ Hy-Memory-30B-A3B تلاش کریں، وہ ورژن ڈاؤن لوڈ کریں جو آپ کے Mac میں سماتا ہو، اور چیٹ کریں۔ یہ OpenAI سے مطابقت رکھنے والی API کے ذریعے ماڈل کو آپ کی دوسری ایپس کو بھی فراہم کرتا ہے۔MLX Harness ڈاؤن لوڈ کریںمفت · Apple Silicon · macOS 14.5 یا نیا
Terminal میں Apple کے MLX کے ساتھ:pip install mlx-lmmlx_lm.chat --model mlx-community/Hy-Memory-30B-A3B-4bit --trust-remote-code--trust-remote-code سے mlx-lm اس بلڈ کے ساتھ آنے والا Python کوڈ چلا سکتا ہے، جس کے بغیر ماڈل لوڈ نہیں ہوتا۔بلڈ: Hugging Face پر mlx-community/Hy-Memory-30B-A3B-4bit۔ دوسری پریسیژنز اسی کے ساتھ موجود ہیں۔

مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp

Hy-Memory-30B-A3B کے بارے میں

بنانے والا	Tencent
پیرامیٹرز	کل 30.1B · فعال 3.2B (mixture-of-experts)
کانٹیکسٹ	256K ٹوکن
لائسنس	Apache-2.0
ریلیز	2026-10
ان پٹ	ٹیکسٹ
ویٹس	tencent/Hy-Memory-30B-A3B

سوالات

Hy-Memory-30B-A3B کو کتنی میموری چاہیے؟: 4-bit پر ویٹس کے لیے تقریباً 16.9 GB، اور کانٹیکسٹ کی گنجائش: کل 18.4 GB۔ Mac پر اس کا مطلب ہے 32 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔
Mac پر Hy-Memory-30B-A3B کتنا تیز ہے؟: لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 96 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 159–282 ٹوکن (8-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 32 GB کے ساتھ، M2 Max پر تقریباً 100–178 تک پہنچتا ہے۔
Hy-Memory-30B-A3B اپنے سائز کی توقع سے زیادہ تیز کیوں چلتا ہے؟: یہ mixture-of-experts ماڈل ہے: یہ میموری میں 30.1B پیرامیٹرز رکھتا ہے لیکن ہر ٹوکن کے لیے صرف 3.2B پڑھتا ہے، اس لیے یہ کہیں چھوٹے ماڈل کی رفتار سے لکھتا ہے۔

ملتے جلتے ماڈلز

تمام ماڈلز · تمام Mac · اپنے Mac کا موازنہ کریں

آپ کے ماڈل کارڈ یا README کے لیے

وہ سب سے چھوٹا Mac دکھاتا ہے جو Hy-Memory-30B-A3B کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔

[![Runs on a Mac](https://mlx.app/badge/run/hy-memory-30b-a3b.svg)](https://mlx.app/run/hy-memory-30b-a3b)

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

اوپن ڈیٹا: mlx.app/data (JSON, CSV)