آیا Mac Studio با M2 Max برای LLMهای محلی خوب است؟

با 96 GB، 43 از 73 مدل باز را خوب اجرا میکند، تا gpt-oss-120b، و با gpt-oss-20b حدود 95–168 توکن در ثانیه مینویسد. M2 Max حافظه را با 400 GB/s میخواند، که سرعت نوشتن را تعیین میکند.

یک Mac Studio با M2 Max برای هوش مصنوعی چقدر حافظه باید داشته باشد؟

با 32 GB، 38 مدل باز خوب اجرا میشوند؛ با 96 GB، 43 مدل، تا gpt-oss-120b. حافظه تعیین میکند کدام مدلها جا میشوند و بعداً قابل ارتقا نیست.

Mac Studio با M2 Max برای هوش مصنوعی محلی: LLMها بر اساس حافظه

بر اساس اندازهٔ حافظه

حافظه	خوب اجرا می‌شوند	بزرگ‌ترین که خوب اجرا می‌شود	gpt-oss-20b
32 GB400 GB/s	38	Qwen3.6 35B A3B	95–168 tok/s
64 GB400 GB/s	39	Nemotron 3.5 Bolt 74B A9B	95–168 tok/s
96 GB400 GB/s	43	gpt-oss-120b	95–168 tok/s

مدل‌ها: Mac Studio (2023). هر اندازهٔ حافظه برای هر مدلی عرضه نمی‌شود؛ مشخصات فنی Apple فهرست می‌کند که هر کدام با چه حافظه‌ای عرضه می‌شود.

پرسش‌ها

آیا Mac Studio با M2 Max برای LLMهای محلی خوب است؟: با 96 GB، 43 از 73 مدل باز را خوب اجرا می‌کند، تا gpt-oss-120b، و با gpt-oss-20b حدود 95–168 توکن در ثانیه می‌نویسد. M2 Max حافظه را با 400 GB/s می‌خواند، که سرعت نوشتن را تعیین می‌کند.
یک Mac Studio با M2 Max برای هوش مصنوعی چقدر حافظه باید داشته باشد؟: با 32 GB، 38 مدل باز خوب اجرا می‌شوند؛ با 96 GB، 43 مدل، تا gpt-oss-120b. حافظه تعیین می‌کند کدام مدل‌ها جا می‌شوند و بعداً قابل ارتقا نیست.

Macهای دیگر

Mac Studio با تراشه‌های دیگر:

Macهای دیگر با M2 Max:

MacBook Pro M2 Max

رودررو:

تراشهٔ M2 Max برای هوش مصنوعی محلی · بهترین Mac برای LLM محلی · همهٔ Macها

چطور محاسبه شده

حافظه: پارامترهای مدل در 8، 6، 4، 3 یا 2 بیت برای هر وزن به‌علاوهٔ مقیاس‌های گروهی MLX (نیم بیت برای هر وزن)، یا قالب اصلی آن، به‌اضافهٔ جا برای کانتکست. macOS به‌طور پیش‌فرض اجازه می‌دهد GPU حدود 75% حافظهٔ یکپارچه را استفاده کند. سرعت: پهنای باند حافظه تقسیم بر بایت‌هایی که برای هر توکن خوانده می‌شود، سقف سرعت یک گفت‌وگوست؛ در بنچمارک‌های عمومی llama.cpp روی Apple Silicon اجراهای واقعی به حدود 45% تا 80% آن می‌رسند و همین بازه نمایش داده می‌شود. این‌ها برآوردند، نه اندازه‌گیری: Mac خودتان را روی MLX Bench بسنجید. ارقام مدل‌ها از کارت رسمی هر مدل و ارقام تراشه‌ها از مشخصات فنی Apple است. بررسی‌شده در 2026-10-19. همان داده‌های mlx.app/compare.