ورودساخت کیف پول

Mac Studio با M1 Max برای هوش مصنوعی محلی.

M1 Max حافظه را با 400 GB/s می‌خواند، که سرعت نوشتن را تعیین می‌کند. حافظه تعیین می‌کند کدام مدل‌ها جا می‌شوند و بعداً قابل ارتقا نیست، پس اندازه را همین‌جا انتخاب کنید.

32 GB38 مدل خوب اجرا می‌شوندQwen3.6 35B A3B · 106–188 tok/s64 GB39 مدل خوب اجرا می‌شوندNemotron 3.5 Bolt 74B A9B · 35–63 tok/s

بر اساس اندازهٔ حافظه

حافظهخوب اجرا می‌شوندبزرگ‌ترین که خوب اجرا می‌شودgpt-oss-20b
32 GB400 GB/s38Qwen3.6 35B A3B95–168 tok/s
64 GB400 GB/s39Nemotron 3.5 Bolt 74B A9B95–168 tok/s

مدل‌ها: Mac Studio (2022). هر اندازهٔ حافظه برای هر مدلی عرضه نمی‌شود؛ مشخصات فنی Apple فهرست می‌کند که هر کدام با چه حافظه‌ای عرضه می‌شود.

پرسش‌ها

آیا Mac Studio با M1 Max برای LLMهای محلی خوب است؟
با 64 GB، 39 از 73 مدل باز را خوب اجرا می‌کند، تا Nemotron 3.5 Bolt 74B A9B، و با gpt-oss-20b حدود 95–168 توکن در ثانیه می‌نویسد. M1 Max حافظه را با 400 GB/s می‌خواند، که سرعت نوشتن را تعیین می‌کند.
یک Mac Studio با M1 Max برای هوش مصنوعی چقدر حافظه باید داشته باشد؟
با 32 GB، 38 مدل باز خوب اجرا می‌شوند؛ با 64 GB، 39 مدل، تا Nemotron 3.5 Bolt 74B A9B. حافظه تعیین می‌کند کدام مدل‌ها جا می‌شوند و بعداً قابل ارتقا نیست.

Macهای دیگر

Mac Studio با تراشه‌های دیگر:

Macهای دیگر با M1 Max:

رودررو:

تراشهٔ M1 Max برای هوش مصنوعی محلی · بهترین Mac برای LLM محلی · همهٔ Macها

چطور محاسبه شده

حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.

Mac Studio با M1 Max برای هوش مصنوعی محلی: LLMها بر اساس حافظه