MacBook Pro ชิป M2 Max สำหรับ AI บนเครื่อง

M2 Max อ่านหน่วยความจำที่ 400 GB/s ซึ่งกำหนดความเร็วในการเขียน หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้ จึงควรเลือกขนาดตรงนี้

32 GBรันได้ดี 38 โมเดลQwen3.6 35B A3B · 106–188 tok/s64 GBรันได้ดี 39 โมเดลNemotron 3.5 Bolt 74B A9B · 35–63 tok/s96 GBรันได้ดี 43 โมเดลgpt-oss-120b · 67–119 tok/s

ตามขนาดหน่วยความจำ

หน่วยความจำรันได้ดีใหญ่ที่สุดที่รันได้ดีgpt-oss-20b
32 GB400 GB/s38Qwen3.6 35B A3B95–168 tok/s
64 GB400 GB/s39Nemotron 3.5 Bolt 74B A9B95–168 tok/s
96 GB400 GB/s43gpt-oss-120b95–168 tok/s

รุ่น: MacBook Pro (14-inch, 2023), MacBook Pro (16-inch, 2023) ไม่ใช่ทุกรุ่นที่มีหน่วยความจำครบทุกขนาด ดูได้จากข้อมูลจำเพาะทางเทคนิคของ Apple ว่าแต่ละรุ่นมีตัวเลือกอะไรบ้าง

คำถาม

MacBook Pro ชิป M2 Max เหมาะกับ LLM บนเครื่องไหม
เมื่อมี 96 GB จะรันโมเดลแบบเปิดได้ดี 43 จาก 73 โมเดล สูงสุดถึง gpt-oss-120b และเขียนได้ราว 95–168 โทเค็นต่อวินาทีกับ gpt-oss-20b ส่วน M2 Max อ่านหน่วยความจำที่ 400 GB/s ซึ่งกำหนดความเร็วในการเขียน
MacBook Pro ชิป M2 Max ควรมีหน่วยความจำเท่าไรสำหรับ AI
ที่ 32 GB รันโมเดลแบบเปิดได้ดี 38 โมเดล ที่ 96 GB ได้ 43 โมเดล สูงสุดถึง gpt-oss-120b หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้

Mac รุ่นอื่น

MacBook Pro ที่ใช้ชิปอื่น:

Mac รุ่นอื่นที่ใช้ชิป M2 Max:

ตัวต่อตัว:

M2 Max สำหรับ AI บนเครื่อง · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง · Mac ทุกรุ่น

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

MacBook Pro ชิป M2 Max สำหรับ AI บนเครื่อง: รัน LLM อะไรได้บ้าง