ตามขนาดหน่วยความจำ
| หน่วยความจำ | รันได้ดี | ใหญ่ที่สุดที่รันได้ดี | gpt-oss-20b |
|---|---|---|---|
| 36 GB410 GB/s | 38 | Qwen3.6 35B A3B | 97–173 tok/s |
| 48 GB546 GB/s | 38 | Qwen3.6 35B A3B | 129–230 tok/s |
| 64 GB546 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 129–230 tok/s |
| 128 GB546 GB/s | 47 | Qwen3.5 122B A10B | 129–230 tok/s |
รุ่น: Mac Studio (2025) ไม่ใช่ทุกรุ่นที่มีหน่วยความจำครบทุกขนาด ดูได้จากข้อมูลจำเพาะทางเทคนิคของ Apple ว่าแต่ละรุ่นมีตัวเลือกอะไรบ้าง
คำถาม
- Mac Studio ชิป M4 Max เหมาะกับ LLM บนเครื่องไหม
- เมื่อมี 128 GB จะรันโมเดลแบบเปิดได้ดี 47 จาก 73 โมเดล สูงสุดถึง Qwen3.5 122B A10B และเขียนได้ราว 129–230 โทเค็นต่อวินาทีกับ gpt-oss-20b ส่วน M4 Max อ่านหน่วยความจำที่ 546 GB/s ซึ่งกำหนดความเร็วในการเขียน
- Mac Studio ชิป M4 Max ควรมีหน่วยความจำเท่าไรสำหรับ AI
- ที่ 36 GB รันโมเดลแบบเปิดได้ดี 38 โมเดล ที่ 128 GB ได้ 47 โมเดล สูงสุดถึง Qwen3.5 122B A10B หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้
Mac รุ่นอื่น
Mac Studio ที่ใช้ชิปอื่น:
- Mac Studio M5 Max
- Mac Studio M5 Ultra
- Mac Studio M3 Ultra
- Mac Studio M2 Max
- Mac Studio M2 Ultra
- Mac Studio M1 Max
- Mac Studio M1 Ultra
Mac รุ่นอื่นที่ใช้ชิป M4 Max:
ตัวต่อตัว:
- M1 Max vs M4 Max
- M2 Max vs M4 Max
- M2 Ultra vs M4 Max
- M3 Max vs M4 Max
- M3 Ultra vs M4 Max
- M4 Pro vs M4 Max
- M4 Max vs M5 Max
- M4 Max vs M5 Ultra
เทียบกับ PC และการ์ดจอ:
M4 Max สำหรับ AI บนเครื่อง · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง · Mac ทุกรุ่น
วิธีคำนวณ
หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare