لاگ انوالیٹ بنائیں

کیا Mac پر Gemma 4 12B Unified چل سکتا ہے؟

جی ہاں، 16 GB یا زیادہ یونیفائیڈ میموری کے ساتھ۔ Gemma 4 12B Unified میں 12B پیرامیٹرز ہیں؛ یہاں ہر پریسیژن پر درکار میموری ہے اور یہ کہ ہر Apple چپ اسے کتنی تیزی سے چلاتی ہے۔

4-bit پر میموری8.2 GBویٹس 6.7 GB + کانٹیکسٹ
سب سے چھوٹا Mac16 GB4-bit · 58 Mac کنفیگریشنز
سب سے تیز Mac43–76ٹوکن/سیکنڈ · M5 Ultra 96 GB (اندازہ)

ہر پریسیژن پر میموری

ورژنویٹسکانٹیکسٹ کے ساتھسب سے چھوٹا Mac
8-bit12.7 GB14.2 GB24 GB
6-bit9.7 GB11.2 GB16 GB
4-bit6.7 GB8.2 GB16 GB
3-bit کم معیار5.2 GB6.7 GB16 GB
2-bit کم معیار3.7 GB5.2 GB8 GB

ہر Apple چپ پر

ہر چپ کا سب سے کم میموری سائز جو Gemma 4 12B Unified چلاتا ہے، اس میں سمانے والا بہترین ورژن، اور لکھنے کی متوقع رفتار۔

چپدرکارورژنٹوکن/سیکنڈ
M616 GB4-bit اچھا چلتا ہے10–18
M5 Ultra96 GB8-bit اچھا چلتا ہے43–76
M5 Max36 GB8-bit اچھا چلتا ہے16–29
M5 Pro24 GB8-bit اچھا چلتا ہے11–19
M516 GB4-bit اچھا چلتا ہے10–18
M4 Max36 GB8-bit اچھا چلتا ہے15–26
M4 Pro24 GB8-bit اچھا چلتا ہے10–17
M416 GB6-bit سست6–10
M3 Ultra96 GB8-bit اچھا چلتا ہے29–52
M3 Max36 GB8-bit اچھا چلتا ہے11–19
M3 Pro18 GB4-bit اچھا چلتا ہے10–18
M316 GB6-bit سست5–8
M2 Ultra64 GB8-bit اچھا چلتا ہے28–50
M2 Max32 GB8-bit اچھا چلتا ہے14–25
M2 Pro16 GB4-bit اچھا چلتا ہے13–24
M216 GB6-bit سست5–8
M1 Ultra64 GB8-bit اچھا چلتا ہے28–50
M1 Max32 GB8-bit اچھا چلتا ہے14–25
M1 Pro16 GB4-bit اچھا چلتا ہے13–24
M116 GB6-bit سست3–6

اسے کیسے چلائیں

  1. آسان طریقہ: MLX Harness ڈاؤن لوڈ کریں، مفت اور اوپن سورس۔ Gemma 4 12B Unified تلاش کریں، وہ ورژن ڈاؤن لوڈ کریں جو آپ کے Mac میں سماتا ہو، اور چیٹ کریں۔ یہ OpenAI سے مطابقت رکھنے والی API کے ذریعے ماڈل کو آپ کی دوسری ایپس کو بھی فراہم کرتا ہے۔MLX Harness ڈاؤن لوڈ کریںمفت · Apple Silicon · macOS 14.5 یا نیا
  2. Terminal میں Apple کے MLX کے ساتھ:pip install mlx-lmmlx_lm.chat --model mlx-community/gemma-4-12B-it-4bitبلڈ: Hugging Face پر mlx-community/gemma-4-12B-it-4bit۔ دوسری پریسیژنز اسی کے ساتھ موجود ہیں۔

مرحلہ وار: Mac پر LLMs ڈاؤن لوڈ کریں اور چلائیں · MLX Harness کیسے استعمال کریں · MLX بمقابلہ Ollama بمقابلہ llama.cpp

Gemma 4 12B Unified کے بارے میں

بنانے والاGoogle DeepMind
پیرامیٹرز12B (ڈینس)
کانٹیکسٹ256K ٹوکن
لائسنسApache-2.0
ریلیز2026-05
ان پٹٹیکسٹ اور تصاویر
ویٹسgoogle/gemma-4-12B-it

سوالات

Gemma 4 12B Unified کو کتنی میموری چاہیے؟
4-bit پر ویٹس کے لیے تقریباً 6.7 GB، اور کانٹیکسٹ کی گنجائش: کل 8.2 GB۔ Mac پر اس کا مطلب ہے 16 GB یا زیادہ یونیفائیڈ میموری، کیونکہ macOS ڈیفالٹ طور پر GPU کو اس کا تقریباً 75% استعمال کرنے دیتا ہے۔
Mac پر Gemma 4 12B Unified کتنا تیز ہے؟
لکھنے کی رفتار میموری بینڈوڈتھ پر منحصر ہے۔ یہاں اس کے لیے سب سے تیز Mac، 96 GB والا M5 Ultra ہے، فی سیکنڈ تقریباً 43–76 ٹوکن (8-bit)۔ اسے چلانے والا سب سے چھوٹا Mac، 16 GB کے ساتھ، M2 Pro پر تقریباً 13–24 تک پہنچتا ہے۔
کیا کوانٹائزیشن سے Gemma 4 12B Unified کو نقصان ہوتا ہے؟
4 bits پر زیادہ تر ماڈل اصل معیار کے قریب رہتے ہیں؛ 4 bits سے نیچے معیار تیزی سے گرتا ہے۔ وہ سب سے اونچی پریسیژن چنیں جو آپ کے Mac میں گنجائش کے ساتھ سما جائے۔

ملتے جلتے ماڈلز

تمام ماڈلز · تمام Mac · اپنے Mac کا موازنہ کریں

آپ کے ماڈل کارڈ یا README کے لیے

Runs on a Mac: Gemma 4 12B Unified وہ سب سے چھوٹا Mac دکھاتا ہے جو Gemma 4 12B Unified کو اچھا چلاتا ہے، اور یہاں لنک کرتا ہے۔

[![Runs on a Mac](https://mlx.app/badge/run/gemma-4-12b.svg)](https://mlx.app/run/gemma-4-12b)

یہ کیسے نکالا گیا

میموری: ماڈل کے پیرامیٹرز فی ویٹ 8، 6، 4، 3 یا 2 bits پر، ساتھ MLX کے گروپ اسکیلز (فی ویٹ آدھا bit)، یا اس کا اصل فارمیٹ، اور اوپر سے کانٹیکسٹ کی گنجائش۔ macOS ڈیفالٹ طور پر GPU کو یونیفائیڈ میموری کا تقریباً 75% استعمال کرنے دیتا ہے۔ رفتار: میموری بینڈوڈتھ کو فی ٹوکن پڑھے جانے والے بائٹس سے تقسیم کریں تو ایک گفتگو کی حد ملتی ہے؛ llama.cpp کے Apple Silicon پر پبلک بینچ مارکس میں اصل رنز اس کے تقریباً 45% سے 80% تک پہنچتے ہیں، اور یہی رینج دکھائی گئی ہے۔ یہ اندازے ہیں، پیمائشیں نہیں: اپنا Mac MLX Bench پر ناپیں۔ ماڈل کے اعداد ہر ماڈل کے آفیشل ماڈل کارڈ سے، چپ کے اعداد Apple کی Tech Specs سے۔ 2026-10-19 کو چیک کیا گیا۔ وہی ڈیٹا جو mlx.app/compare پر ہے۔

کیا Mac پر Gemma 4 12B Unified چلے گا؟ میموری اور رفتار