เทียบกัน
ความเร็วกับโมเดลยอดนิยม
โทเค็นต่อวินาทีสำหรับหนึ่งบทสนทนา แต่ละชิปใช้ขนาดหน่วยความจำใหญ่ที่สุด (32 GB และ 32 GB) กับเวอร์ชันที่ดีที่สุดของโมเดลที่ใส่ได้
| โมเดล | M5 | M6 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 11–19 6 บิต | 12–21 6 บิต |
| gpt-oss-20b21B · ใช้งาน 3.6B | 36–64 4.25 บิตแบบเนทีฟ | 40–72 4.25 บิตแบบเนทีฟ |
| Qwen3.6 35B A3B35B · ใช้งาน 3B | 41–72 4 บิต | 45–80 4 บิต |
| Qwen3.8 27B27B | 3–6 6 บิต | 3–6 6 บิต |
| Llama 3.3 70B Instruct70B | 3–6 2 บิต คุณภาพต่ำลง | 3–6 2 บิต คุณภาพต่ำลง |
| gpt-oss-120b117B · ใช้งาน 5.1B | ใหญ่เกินไป | ใหญ่เกินไป |
| Qwen3.5 122B A10B122B · ใช้งาน 10B | ใหญ่เกินไป | ใหญ่เกินไป |
| DeepSeek V4 Flash 0731284B · ใช้งาน 13B | ใหญ่เกินไป | ใหญ่เกินไป |
คำถาม
- M6 เร็วกว่า M5 สำหรับ LLM ไหม
- M6 อ่านหน่วยความจำเร็วกว่า M5 ราว 11% (170 เทียบกับ 153 GB/s) จึงเขียนได้เร็วกว่าราว 11% กับทุกโมเดลที่ใส่ได้ทั้งสองรุ่น ส่วนการอ่านพรอมต์ยาวๆ ขึ้นอยู่กับพลังประมวลผลของ GPU ซึ่งการเปรียบเทียบนี้ไม่ได้ครอบคลุม
- M5 หรือ M6 รุ่นไหนรันโมเดลใหญ่กว่าได้
- ไม่ต่างกัน ทั้งสองรุ่นสูงสุด 32 GB ที่ขนาดนั้น M5 รันได้ดี 28 และ M6 รันได้ดี 29 จาก 73 โมเดลแบบเปิด รุ่นที่เร็วกว่าทำให้โมเดลผ่านเกณฑ์ 10 โทเค็นต่อวินาทีได้มากกว่า
การเปรียบเทียบอื่นๆ
M5 สำหรับ AI บนเครื่อง · M6 สำหรับ AI บนเครื่อง · เปรียบเทียบทุกโมเดล · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง
วิธีคำนวณ
หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare