بر اساس اندازهٔ حافظه
| حافظه | خوب اجرا میشوند | بزرگترین که خوب اجرا میشود | gpt-oss-20b |
|---|---|---|---|
| 8 GB100 GB/s | 16 | Granite 4.2 8B | خیلی بزرگ |
| 16 GB100 GB/s | 17 | Qwen3 8B | 28–50 tok/s |
| 24 GB100 GB/s | 20 | Gemma 4 26B A4B | 24–42 tok/s |
مدلها: MacBook Pro (13-inch, M2, 2022). هر اندازهٔ حافظه برای هر مدلی عرضه نمیشود؛ مشخصات فنی Apple فهرست میکند که هر کدام با چه حافظهای عرضه میشود.
پرسشها
- آیا MacBook Pro با M2 برای LLMهای محلی خوب است؟
- با 24 GB، 20 از 73 مدل باز را خوب اجرا میکند، تا Gemma 4 26B A4B، و با gpt-oss-20b حدود 24–42 توکن در ثانیه مینویسد. M2 حافظه را با 100 GB/s میخواند، که سرعت نوشتن را تعیین میکند.
- یک MacBook Pro با M2 برای هوش مصنوعی چقدر حافظه باید داشته باشد؟
- با 8 GB، 16 مدل باز خوب اجرا میشوند؛ با 24 GB، 20 مدل، تا Gemma 4 26B A4B. حافظه تعیین میکند کدام مدلها جا میشوند و بعداً قابل ارتقا نیست.
Macهای دیگر
MacBook Pro با تراشههای دیگر:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M3 Max
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Macهای دیگر با M2:
رودررو:
تراشهٔ M2 برای هوش مصنوعی محلی · بهترین Mac برای LLM محلی · همهٔ Macها
چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن بهعلاوهٔ مقیاسهای گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، بهاضافهٔ جا برای کانتکست. macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایتهایی که برای هر توکن خوانده میشود، سقف سرعت یک گفتوگوست؛ در بنچمارکهای عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن میرسند و همین بازه نمایش داده میشود. اینها برآوردند، نه اندازهگیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدلها از کارت رسمی هر مدل و ارقام تراشهها از مشخصات فنی Apple است. بررسیشده در 2026-10-19. همان دادههای mlx.app/compare.