เทียบกัน
ความเร็วกับโมเดลยอดนิยม
โทเค็นต่อวินาทีสำหรับหนึ่งบทสนทนา แต่ละชิปใช้ขนาดหน่วยความจำใหญ่ที่สุด (192 GB และ 512 GB) กับเวอร์ชันที่ดีที่สุดของโมเดลที่ใส่ได้
| โมเดล | M2 Ultra | M3 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8 บิต | 43–77 8 บิต |
| gpt-oss-20b21B · ใช้งาน 3.6B | 189–337 4.25 บิตแบบเนทีฟ | 194–345 4.25 บิตแบบเนทีฟ |
| Qwen3.6 35B A3B35B · ใช้งาน 3B | 113–200 8 บิต | 115–205 8 บิต |
| Qwen3.8 27B27B | 13–22 8 บิต | 13–23 8 บิต |
| Llama 3.3 70B Instruct70B | 5–9 8 บิต | 5–9 8 บิต |
| gpt-oss-120b117B · ใช้งาน 5.1B | 133–237 4.25 บิตแบบเนทีฟ | 137–243 4.25 บิตแบบเนทีฟ |
| Qwen3.5 122B A10B122B · ใช้งาน 10B | 34–60 8 บิต | 35–62 8 บิต |
| DeepSeek V4 Flash 0731284B · ใช้งาน 13B | 63–112 3 บิต คุณภาพต่ำลง | 27–47 8 บิต |
คำถาม
- M3 Ultra เร็วกว่า M2 Ultra สำหรับ LLM ไหม
- พอๆ กัน แบนด์วิดท์หน่วยความจำต่างกันไม่กี่เปอร์เซ็นต์ M3 Ultra มีหน่วยความจำได้สูงสุด 512 GB ส่วน M2 Ultra ได้ถึง 192 GB
- M2 Ultra หรือ M3 Ultra รุ่นไหนรันโมเดลใหญ่กว่าได้
- M3 Ultra: M3 Ultra มีหน่วยความจำได้สูงสุด 512 GB ส่วน M2 Ultra ได้ถึง 192 GB ที่ขนาดใหญ่ที่สุด รันโมเดลแบบเปิดได้ดี 60 จาก 73 โมเดล เทียบกับ 49
การเปรียบเทียบอื่นๆ
- M1 Ultra vs M2 Ultra
- M2 Max vs M2 Ultra
- M2 Ultra vs M4 Max
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M3 Ultra vs M5 Ultra
M2 Ultra สำหรับ AI บนเครื่อง · M3 Ultra สำหรับ AI บนเครื่อง · เปรียบเทียบทุกโมเดล · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง
วิธีคำนวณ
หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare