MacBook Pro ชิป M5 Pro สำหรับ AI บนเครื่อง

M5 Pro อ่านหน่วยความจำที่ 307 GB/s ซึ่งกำหนดความเร็วในการเขียน หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้ จึงควรเลือกขนาดตรงนี้

24 GBรันได้ดี 28 โมเดลGemma 4 26B A4B · 66–117 tok/s48 GBรันได้ดี 33 โมเดลQwen3.6 35B A3B · 58–102 tok/s64 GBรันได้ดี 34 โมเดลNemotron 3.5 Bolt 74B A9B · 27–48 tok/s

ตามขนาดหน่วยความจำ

หน่วยความจำรันได้ดีใหญ่ที่สุดที่รันได้ดีgpt-oss-20b
24 GB307 GB/s28Gemma 4 26B A4B73–129 tok/s
48 GB307 GB/s33Qwen3.6 35B A3B73–129 tok/s
64 GB307 GB/s34Nemotron 3.5 Bolt 74B A9B73–129 tok/s

รุ่น: MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max) ไม่ใช่ทุกรุ่นที่มีหน่วยความจำครบทุกขนาด ดูได้จากข้อมูลจำเพาะทางเทคนิคของ Apple ว่าแต่ละรุ่นมีตัวเลือกอะไรบ้าง

คำถาม

MacBook Pro ชิป M5 Pro เหมาะกับ LLM บนเครื่องไหม
เมื่อมี 64 GB จะรันโมเดลแบบเปิดได้ดี 34 จาก 73 โมเดล สูงสุดถึง Nemotron 3.5 Bolt 74B A9B และเขียนได้ราว 73–129 โทเค็นต่อวินาทีกับ gpt-oss-20b ส่วน M5 Pro อ่านหน่วยความจำที่ 307 GB/s ซึ่งกำหนดความเร็วในการเขียน
MacBook Pro ชิป M5 Pro ควรมีหน่วยความจำเท่าไรสำหรับ AI
ที่ 24 GB รันโมเดลแบบเปิดได้ดี 28 โมเดล ที่ 64 GB ได้ 34 โมเดล สูงสุดถึง Nemotron 3.5 Bolt 74B A9B หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้

Mac รุ่นอื่น

MacBook Pro ที่ใช้ชิปอื่น:

Mac รุ่นอื่นที่ใช้ชิป M5 Pro:

ตัวต่อตัว:

M5 Pro สำหรับ AI บนเครื่อง · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง · Mac ทุกรุ่น

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

MacBook Pro ชิป M5 Pro สำหรับ AI บนเครื่อง: รัน LLM อะไรได้บ้าง