بر اساس اندازهٔ حافظه
| حافظه | خوب اجرا میشوند | بزرگترین که خوب اجرا میشود | gpt-oss-20b |
|---|---|---|---|
| 36 GB410 GB/s | 38 | Qwen3.6 35B A3B | 97–173 tok/s |
| 48 GB546 GB/s | 38 | Qwen3.6 35B A3B | 129–230 tok/s |
| 64 GB546 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 129–230 tok/s |
| 128 GB546 GB/s | 47 | Qwen3.5 122B A10B | 129–230 tok/s |
مدلها: Mac Studio (2025). هر اندازهٔ حافظه برای هر مدلی عرضه نمیشود؛ مشخصات فنی Apple فهرست میکند که هر کدام با چه حافظهای عرضه میشود.
پرسشها
- آیا Mac Studio با M4 Max برای LLMهای محلی خوب است؟
- با 128 GB، 47 از 73 مدل باز را خوب اجرا میکند، تا Qwen3.5 122B A10B، و با gpt-oss-20b حدود 129–230 توکن در ثانیه مینویسد. M4 Max حافظه را با 546 GB/s میخواند، که سرعت نوشتن را تعیین میکند.
- یک Mac Studio با M4 Max برای هوش مصنوعی چقدر حافظه باید داشته باشد؟
- با 36 GB، 38 مدل باز خوب اجرا میشوند؛ با 128 GB، 47 مدل، تا Qwen3.5 122B A10B. حافظه تعیین میکند کدام مدلها جا میشوند و بعداً قابل ارتقا نیست.
Macهای دیگر
Mac Studio با تراشههای دیگر:
- Mac Studio M5 Max
- Mac Studio M5 Ultra
- Mac Studio M3 Ultra
- Mac Studio M2 Max
- Mac Studio M2 Ultra
- Mac Studio M1 Max
- Mac Studio M1 Ultra
Macهای دیگر با M4 Max:
رودررو:
- M1 Max vs M4 Max
- M2 Max vs M4 Max
- M2 Ultra vs M4 Max
- M3 Max vs M4 Max
- M3 Ultra vs M4 Max
- M4 Pro vs M4 Max
- M4 Max vs M5 Max
- M4 Max vs M5 Ultra
در برابر PC و کارت گرافیک:
تراشهٔ M4 Max برای هوش مصنوعی محلی · بهترین Mac برای LLM محلی · همهٔ Macها
چطور محاسبه شده
حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن بهعلاوهٔ مقیاسهای گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، بهاضافهٔ جا برای کانتکست. macOS بهطور پیشفرض اجازه میدهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایتهایی که برای هر توکن خوانده میشود، سقف سرعت یک گفتوگوست؛ در بنچمارکهای عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن میرسند و همین بازه نمایش داده میشود. اینها برآوردند، نه اندازهگیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدلها از کارت رسمی هر مدل و ارقام تراشهها از مشخصات فنی Apple است. بررسیشده در 2026-10-19. همان دادههای mlx.app/compare.