เทียบกัน
ความเร็วกับโมเดลยอดนิยม
โทเค็นต่อวินาทีสำหรับหนึ่งบทสนทนา แต่ละชิปใช้ขนาดหน่วยความจำใหญ่ที่สุด (64 GB และ 128 GB) กับเวอร์ชันที่ดีที่สุดของโมเดลที่ใส่ได้
| โมเดล | M1 Max | M1 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 21–38 8 บิต | 42–75 8 บิต |
| gpt-oss-20b21B · ใช้งาน 3.6B | 95–168 4.25 บิตแบบเนทีฟ | 189–337 4.25 บิตแบบเนทีฟ |
| Qwen3.6 35B A3B35B · ใช้งาน 3B | 56–100 8 บิต | 113–200 8 บิต |
| Qwen3.8 27B27B | 12–21 4 บิต | 13–22 8 บิต |
| Llama 3.3 70B Instruct70B | 5–8 4 บิต | 5–9 8 บิต |
| gpt-oss-120b117B · ใช้งาน 5.1B | 113–200 2 บิต คุณภาพต่ำลง | 133–237 4.25 บิตแบบเนทีฟ |
| Qwen3.5 122B A10B122B · ใช้งาน 10B | 58–103 2 บิต คุณภาพต่ำลง | 64–114 4 บิต |
| DeepSeek V4 Flash 0731284B · ใช้งาน 13B | ใหญ่เกินไป | 88–156 2 บิต คุณภาพต่ำลง |
คำถาม
- M1 Ultra เร็วกว่า M1 Max สำหรับ LLM ไหม
- M1 Ultra อ่านหน่วยความจำเร็วกว่า M1 Max ราว 100% (800 เทียบกับ 400 GB/s) จึงเขียนได้เร็วกว่าราว 100% กับทุกโมเดลที่ใส่ได้ทั้งสองรุ่น ส่วนการอ่านพรอมต์ยาวๆ ขึ้นอยู่กับพลังประมวลผลของ GPU ซึ่งการเปรียบเทียบนี้ไม่ได้ครอบคลุม
- M1 Max หรือ M1 Ultra รุ่นไหนรันโมเดลใหญ่กว่าได้
- M1 Ultra: M1 Ultra มีหน่วยความจำได้สูงสุด 128 GB ส่วน M1 Max ได้ถึง 64 GB ที่ขนาดใหญ่ที่สุด รันโมเดลแบบเปิดได้ดี 47 จาก 73 โมเดล เทียบกับ 39
การเปรียบเทียบอื่นๆ
M1 Max สำหรับ AI บนเครื่อง · M1 Ultra สำหรับ AI บนเครื่อง · เปรียบเทียบทุกโมเดล · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง
วิธีคำนวณ
หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare