بهترین LLMها برای Mac با 8 GB.

16 از 73 مدل باز در 8 GB خوب اجرا می‌شوند. GPU به‌طور پیش‌فرض می‌تواند حدود 6 GB از آن را استفاده کند. سرعت به تراشه بستگی دارد: از 68 GB/s روی M1 تا 100 GB/s روی M2.

باهوش‌ترین که خوب اجرا می‌شودMiniCPM5 2B8 بیت · 2.7 GB · 11–30 tok/sبزرگ‌ترین که خوب اجرا می‌شودGranite 4.2 8B4 بیت · 4.5 GB · 7–18 tok/s

Macهای دارای 8 GB

3 تراشه از M1 تا M3 با 8 GB عرضه می‌شوند. هر کدام را برای فهرست و سرعت‌های خودش باز کنید.

خوب اجرا می‌شوند 21

با جای کافی برای کانتکست جا می‌شود، با 10 توکن یا بیشتر در ثانیه روی M2.

مدلنسخهحافظهM1M2
MiniCPM5 2B2.52B · هوش 12.58 بیت2.7 GB11–2017–30
Granite 4.2 8B8B · هوش 11.14 بیت4.5 GB7–1210–18
Granite 4.2 3B3B · هوش 9.18 بیت3.2 GB10–1714–25
Gemma 4 E4B8B · هوش 8.94 بیت4.5 GB12–2218–32
Nemotron 3 Nano 4B3.97B · هوش 4.88 بیت4.2 GB10–1711–19
Llama 3.1 8B Instruct8B4 بیت4.5 GB7–1210–18
Gemma 4 E2B5.1B6 بیت4.1 GB16–2924–42
Qwen3.5 4B4B8 بیت4.3 GB13–2410–19
Phi-4 mini instruct3.8B8 بیت4 GB10–1811–20
Llama 3.2 3B Instruct3.21B8 بیت3.4 GB12–2113–24
SmolLM3 3B3B8 بیت3.2 GB10–1714–25
LFM2.5 2.6B2.69B8 بیت2.9 GB11–1916–28
Qwen3.5 2B2B8 بیت2.1 GB15–2621–38
Llama 3.2 1B Instruct1.23B8 بیت1.3 GB24–4235–62
Qwen3.5 0.8B0.8B8 بیت0.9 GB34–6050–89
Qwen3 0.6B0.6B8 بیت0.6 GB51–9175–133
Qwen3.5 9B9B · هوش 11.23 بیت کیفیت پایین‌تر3.9 GB8–1412–21
Ministral 3 8B8.9B · هوش 5.53 بیت کیفیت پایین‌تر3.9 GB8–1412–21
Phi-4 (14B)14B2 بیت کیفیت پایین‌تر4.4 GB7–1210–18
Gemma 4 12B Unified12B2 بیت کیفیت پایین‌تر3.7 GB8–1512–22
Qwen3 8B8.2B3 بیت کیفیت پایین‌تر3.6 GB9–1513–22

به‌زحمت جا می‌شوند 1

تقریباً همهٔ حافظه را لازم دارد: سقف حافظهٔ GPU را بالا ببرید و کانتکست را کوتاه نگه دارید.

مدلنسخهحافظهM1M2
Phi-4 Reasoning Vision 15B15B2 بیت کیفیت پایین‌تر4.7 GB7–1210–17

خیلی بزرگ 51

حتی در 2 بیت، بیش از 8 GB حافظه لازم دارد.

پرسش‌ها

بهترین LLM برای Mac با 8 GB کدام است؟
از میان مدل‌هایی که Intelligence Index منتشرشده دارند، MiniCPM5 2B بالاترین امتیاز را در بین مدل‌هایی دارد که در 8 GB خوب اجرا می‌شوند (8 بیت). بزرگ‌ترین مدلی که خوب اجرا می‌شود Granite 4.2 8B است.
آیا 8 GB برای هوش مصنوعی محلی روی Mac کافی است؟
16 از 73 مدل باز اینجا در 4 بیت یا بهتر در آن خوب اجرا می‌شوند. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 6 GB از آن را استفاده کند؛ مدل و کانتکستش باید در همین مقدار جا شوند.
آیا Mac با 8 GB می‌تواند gpt-oss-20b را اجرا کند؟
نه: بیش از 6 GB که GPU به‌طور پیش‌فرض می‌تواند استفاده کند لازم دارد.

اندازه‌های دیگر: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

آن‌ها را با MLX Harness (رایگان و متن‌باز) یا mlx-lm از Apple در Terminal اجرا کنید: گام به گام.

چطور محاسبه شده

حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.

بهترین LLMهای محلی برای Mac با 8 GB (M1 تا M3): چه اجرا می‌شود