M5 Ultra เร็วกว่า M3 Ultra สำหรับ LLM ไหม

M5 Ultra อ่านหน่วยความจำเร็วกว่า M3 Ultra ราว 47% (1,200 เทียบกับ 819 GB/s) จึงเขียนได้เร็วกว่าราว 47% กับทุกโมเดลที่ใส่ได้ทั้งสองรุ่น ส่วนการอ่านพรอมต์ยาวๆ ขึ้นอยู่กับพลังประมวลผลของ GPU ซึ่งการเปรียบเทียบนี้ไม่ได้ครอบคลุม

M3 Ultra หรือ M5 Ultra รุ่นไหนรันโมเดลใหญ่กว่าได้

ไม่ต่างกัน ทั้งสองรุ่นสูงสุด 512 GB ที่ขนาดนั้น M3 Ultra รันได้ดี 60 และ M5 Ultra รันได้ดี 61 จาก 73 โมเดลแบบเปิด รุ่นที่เร็วกว่าทำให้โมเดลผ่านเกณฑ์ 10 โทเค็นต่อวินาทีได้มากกว่า

M3 Ultra vs M5 Ultra สำหรับ LLM: หน่วยความจำ ความเร็ว ซื้อรุ่นไหน

เทียบกัน

	M3 Ultra	M5 Ultra
ขนาดหน่วยความจำ	96, 256, 512 GB	96, 256, 512 GB
แบนด์วิดท์หน่วยความจำ	819 GB/s	1,200 GB/s
ใช้กับโมเดลได้สูงสุด	ราว 384 GB	ราว 384 GB
โมเดลที่รันได้ดี	60 จาก 73	61 จาก 73
ระดับที่นั่ง MLX	Ultra	Ultra Latest
มีใน	Mac Studio (2025)	Mac Studio (M5 Max or M5 Ultra)

ความเร็วกับโมเดลยอดนิยม

โทเค็นต่อวินาทีสำหรับหนึ่งบทสนทนา แต่ละชิปใช้ขนาดหน่วยความจำใหญ่ที่สุด (512 GB และ 512 GB) กับเวอร์ชันที่ดีที่สุดของโมเดลที่ใส่ได้

โมเดล	M3 Ultra	M5 Ultra
Llama 3.1 8B Instruct8B	43–77 8 บิต	64–113 8 บิต
gpt-oss-20b21B · ใช้งาน 3.6B	194–345 4.25 บิตแบบเนทีฟ	284–505 4.25 บิตแบบเนทีฟ
Qwen3.6 35B A3B35B · ใช้งาน 3B	115–205 8 บิต	169–300 8 บิต
Qwen3.8 27B27B	13–23 8 บิต	19–33 8 บิต
Llama 3.3 70B Instruct70B	5–9 8 บิต	14–24 4 บิต
gpt-oss-120b117B · ใช้งาน 5.1B	137–243 4.25 บิตแบบเนทีฟ	200–356 4.25 บิตแบบเนทีฟ
Qwen3.5 122B A10B122B · ใช้งาน 10B	35–62 8 บิต	51–91 8 บิต
DeepSeek V4 Flash 0731284B · ใช้งาน 13B	27–47 8 บิต	39–70 8 บิต

คำถาม

M5 Ultra เร็วกว่า M3 Ultra สำหรับ LLM ไหม: M5 Ultra อ่านหน่วยความจำเร็วกว่า M3 Ultra ราว 47% (1,200 เทียบกับ 819 GB/s) จึงเขียนได้เร็วกว่าราว 47% กับทุกโมเดลที่ใส่ได้ทั้งสองรุ่น ส่วนการอ่านพรอมต์ยาวๆ ขึ้นอยู่กับพลังประมวลผลของ GPU ซึ่งการเปรียบเทียบนี้ไม่ได้ครอบคลุม
M3 Ultra หรือ M5 Ultra รุ่นไหนรันโมเดลใหญ่กว่าได้: ไม่ต่างกัน ทั้งสองรุ่นสูงสุด 512 GB ที่ขนาดนั้น M3 Ultra รันได้ดี 60 และ M5 Ultra รันได้ดี 61 จาก 73 โมเดลแบบเปิด รุ่นที่เร็วกว่าทำให้โมเดลผ่านเกณฑ์ 10 โทเค็นต่อวินาทีได้มากกว่า

การเปรียบเทียบอื่นๆ

M3 Ultra สำหรับ AI บนเครื่อง · M5 Ultra สำหรับ AI บนเครื่อง · เปรียบเทียบทุกโมเดล · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare