เทียบกัน
ความเร็วกับโมเดลยอดนิยม
โทเค็นต่อวินาทีสำหรับหนึ่งบทสนทนา แต่ละชิปใช้ขนาดหน่วยความจำใหญ่ที่สุด (128 GB และ 192 GB) กับเวอร์ชันที่ดีที่สุดของโมเดลที่ใส่ได้
| โมเดล | M1 Ultra | M2 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8 บิต | 42–75 8 บิต |
| gpt-oss-20b21B · ใช้งาน 3.6B | 189–337 4.25 บิตแบบเนทีฟ | 189–337 4.25 บิตแบบเนทีฟ |
| Qwen3.6 35B A3B35B · ใช้งาน 3B | 113–200 8 บิต | 113–200 8 บิต |
| Qwen3.8 27B27B | 13–22 8 บิต | 13–22 8 บิต |
| Llama 3.3 70B Instruct70B | 5–9 8 บิต | 5–9 8 บิต |
| gpt-oss-120b117B · ใช้งาน 5.1B | 133–237 4.25 บิตแบบเนทีฟ | 133–237 4.25 บิตแบบเนทีฟ |
| Qwen3.5 122B A10B122B · ใช้งาน 10B | 64–114 4 บิต | 34–60 8 บิต |
| DeepSeek V4 Flash 0731284B · ใช้งาน 13B | 88–156 2 บิต คุณภาพต่ำลง | 63–112 3 บิต คุณภาพต่ำลง |
คำถาม
- M2 Ultra เร็วกว่า M1 Ultra สำหรับ LLM ไหม
- พอๆ กัน แบนด์วิดท์หน่วยความจำต่างกันไม่กี่เปอร์เซ็นต์ M2 Ultra มีหน่วยความจำได้สูงสุด 192 GB ส่วน M1 Ultra ได้ถึง 128 GB
- M1 Ultra หรือ M2 Ultra รุ่นไหนรันโมเดลใหญ่กว่าได้
- M2 Ultra: M2 Ultra มีหน่วยความจำได้สูงสุด 192 GB ส่วน M1 Ultra ได้ถึง 128 GB ที่ขนาดใหญ่ที่สุด รันโมเดลแบบเปิดได้ดี 49 จาก 73 โมเดล เทียบกับ 47
การเปรียบเทียบอื่นๆ
M1 Ultra สำหรับ AI บนเครื่อง · M2 Ultra สำหรับ AI บนเครื่อง · เปรียบเทียบทุกโมเดล · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง
วิธีคำนวณ
หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare