Mac Studio ชิป M3 Ultra สำหรับ AI บนเครื่อง

M3 Ultra อ่านหน่วยความจำที่ 819 GB/s ซึ่งกำหนดความเร็วในการเขียน หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้ จึงควรเลือกขนาดตรงนี้

96 GBรันได้ดี 43 โมเดลgpt-oss-120b · 137–243 tok/s256 GBรันได้ดี 53 โมเดลMiMo V2.6 Flash · 44–78 tok/s512 GBรันได้ดี 60 โมเดลDeepSeek V4.1 Flash 1017 · 41–73 tok/s

ตามขนาดหน่วยความจำ

หน่วยความจำรันได้ดีใหญ่ที่สุดที่รันได้ดีgpt-oss-20b
96 GB819 GB/s43gpt-oss-120b194–345 tok/s
256 GB819 GB/s53MiMo V2.6 Flash194–345 tok/s
512 GB819 GB/s60DeepSeek V4.1 Flash 1017194–345 tok/s

รุ่น: Mac Studio (2025) ไม่ใช่ทุกรุ่นที่มีหน่วยความจำครบทุกขนาด ดูได้จากข้อมูลจำเพาะทางเทคนิคของ Apple ว่าแต่ละรุ่นมีตัวเลือกอะไรบ้าง

คำถาม

Mac Studio ชิป M3 Ultra เหมาะกับ LLM บนเครื่องไหม
เมื่อมี 512 GB จะรันโมเดลแบบเปิดได้ดี 60 จาก 73 โมเดล สูงสุดถึง DeepSeek V4.1 Flash 1017 และเขียนได้ราว 194–345 โทเค็นต่อวินาทีกับ gpt-oss-20b ส่วน M3 Ultra อ่านหน่วยความจำที่ 819 GB/s ซึ่งกำหนดความเร็วในการเขียน
Mac Studio ชิป M3 Ultra ควรมีหน่วยความจำเท่าไรสำหรับ AI
ที่ 96 GB รันโมเดลแบบเปิดได้ดี 43 โมเดล ที่ 512 GB ได้ 60 โมเดล สูงสุดถึง DeepSeek V4.1 Flash 1017 หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้

Mac รุ่นอื่น

Mac Studio ที่ใช้ชิปอื่น:

ตัวต่อตัว:

เทียบกับ PC และการ์ดจอ:

M3 Ultra สำหรับ AI บนเครื่อง · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง · Mac ทุกรุ่น

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac Studio ชิป M3 Ultra สำหรับ AI บนเครื่อง: รัน LLM อะไรได้บ้าง