LLM ที่ดีที่สุดสำหรับ M2 Max ที่มี 64 GB คืออะไร

ในบรรดาโมเดลที่มีคะแนน Intelligence Index เผยแพร่ Qwen3.8 27B ได้คะแนนสูงสุดในกลุ่มที่รันที่นี่ได้ดี: 4 บิต ราว 12–21 โทเค็นต่อวินาที โมเดลใหญ่ที่สุดที่รันได้ดีคือ Nemotron 3.5 Bolt 74B A9B

M2 Max ที่มี 64 GB รัน Llama 3.3 70B ได้ไหม

ได้ แต่ช้า ที่ 4 บิต ราว 5–8 โทเค็นต่อวินาที

gpt-oss-20b เร็วแค่ไหนบน M2 Max

ราว 95–168 โทเค็นต่อวินาที (4.25 บิตแบบเนทีฟ) จากแบนด์วิดท์หน่วยความจำ 400 GB/s ของชิป

M2 Max 64 GB รัน LLM อะไรได้บ้าง ทุกโมเดลพร้อมความเร็ว

รันได้ดี 47

ใส่ได้และยังเหลือที่สำหรับบริบท ได้ 10 โทเค็นต่อวินาทีขึ้นไป

โมเดล	เวอร์ชัน	หน่วยความจำ	โทเค็น/วินาที
Qwen3.8 27B27B · ความฉลาด 33.7	4 บิต	15.2 GB	12–21
Nemotron 3.5 Bolt 74B A9B74B · ใช้งาน 9B · ความฉลาด 21.4	4 บิต	41.6 GB	35–63
Qwen3.6 35B A3B35B · ใช้งาน 3B · ความฉลาด 18.2	8 บิต	37.2 GB	56–100
Muse Glimmer 30B29.6B · ความฉลาด 17.5	4 บิต	16.7 GB	11–19
Gemma 4 31B30.7B · ความฉลาด 14.7	4 บิต	17.3 GB	10–18
Nemotron 3.5 Lightning 30B A3B30B · ใช้งาน 3B · ความฉลาด 12.9	8 บิต	31.9 GB	56–100
Granite 4.2 30B30B · ความฉลาด 12.7	4 บิต	16.9 GB	11–19
MiniCPM5 2B2.52B · ความฉลาด 12.5	8 บิต	2.7 GB	67–119
Qwen3.5 9B9B · ความฉลาด 11.2	8 บิต	9.6 GB	19–33
Granite 4.2 8B8B · ความฉลาด 11.1	8 บิต	8.5 GB	21–38
Granite 4.2 3B3B · ความฉลาด 9.1	8 บิต	3.2 GB	56–100
gpt-oss-20b21B · ใช้งาน 3.6B · ความฉลาด 9	4.25 บิตแบบเนทีฟ	13.8 GB	95–168
Nemotron 3 Nano 30B A3B30B · ใช้งาน 3.5B · ความฉลาด 8.9	8 บิต	31.9 GB	49–86
Gemma 4 E4B8B · ความฉลาด 8.9	8 บิต	8.5 GB	38–67
Ministral 3 8B8.9B · ความฉลาด 5.5	8 บิต	9.5 GB	19–34
Nemotron 3 Nano 4B3.97B · ความฉลาด 4.8	8 บิต	4.2 GB	43–76
Qwen3 Coder 30B A3B Instruct30.5B · ใช้งาน 3.3B	8 บิต	32.4 GB	51–91
GLM-4.7 Flash30B · ใช้งาน 3B	8 บิต	31.9 GB	56–100
Qwen3.6 27B27B	4 บิต	15.2 GB	12–21
Gemma 4 26B A4B25.2B · ใช้งาน 3.8B	8 บิต	26.8 GB	45–80
Devstral Small 2 (24B)24B	4 บิต	13.5 GB	13–24
Magistral Small 1.2 (2509)24B	4 บิต	13.5 GB	13–24
Mistral Small 3.2 (24B)24B	4 บิต	13.5 GB	13–24
LFM2.5 24B A2B24B · ใช้งาน 2B	8 บิต	25.5 GB	86–152
Phi-4 Reasoning Vision 15B15B	8 บิต	15.9 GB	11–20
Phi-4 (14B)14B	8 บิต	14.9 GB	12–21
Gemma 4 12B Unified12B	8 บิต	12.7 GB	14–25
Qwen3 8B8.2B	8 บิต	8.7 GB	21–37
Llama 3.1 8B Instruct8B	8 บิต	8.5 GB	21–38
Gemma 4 E2B5.1B	8 บิต	5.4 GB	75–133
Qwen3.5 4B4B	8 บิต	4.3 GB	42–74
Phi-4 mini instruct3.8B	8 บิต	4 GB	45–80
Llama 3.2 3B Instruct3.21B	8 บิต	3.4 GB	53–94
SmolLM3 3B3B	8 บิต	3.2 GB	56–100
LFM2.5 2.6B2.69B	8 บิต	2.9 GB	62–110
Qwen3.5 2B2B	8 บิต	2.1 GB	86–152
Llama 3.2 1B Instruct1.23B	8 บิต	1.3 GB	138–246
Qwen3.5 0.8B0.8B	8 บิต	0.9 GB	200–356
Qwen3 0.6B0.6B	8 บิต	0.6 GB	300–533
Qwen3.5 122B A10B122B · ใช้งาน 10B · ความฉลาด 15.6	2 บิต คุณภาพต่ำลง	38.1 GB	58–103
gpt-oss-120b117B · ใช้งาน 5.1B · ความฉลาด 11.6	2 บิต คุณภาพต่ำลง	36.6 GB	113–200
Mistral Small 4 (119B)119B · ใช้งาน 6.5B · ความฉลาด 11.3	2 บิต คุณภาพต่ำลง	37.2 GB	90–160
Qwen3 Coder Next80B · ใช้งาน 3B · ความฉลาด 9.2	3 บิต คุณภาพต่ำลง	35 GB	138–246
Llama 4 Scout 17B-16E Instruct109B · ใช้งาน 17B · ความฉลาด 6.5	2 บิต คุณภาพต่ำลง	34.1 GB	34–60
Ornith 1.5 122B122B · ใช้งาน 10B	2 บิต คุณภาพต่ำลง	38.1 GB	58–103
Nemotron 3 Super 120B A12B120B · ใช้งาน 12B	2 บิต คุณภาพต่ำลง	37.5 GB	47–84
GLM-4.5 Air106B · ใช้งาน 12B	2 บิต คุณภาพต่ำลง	33.1 GB	47–84

รันได้ แต่ช้า 3

ใส่ได้ แต่ต่ำกว่า 10 โทเค็นต่อวินาที เหมาะกับงานแบบแบตช์ แต่ช้าสำหรับการแชต

โมเดล	เวอร์ชัน	หน่วยความจำ	โทเค็น/วินาที
Llama 3.3 70B Instruct70B	4 บิต	39.4 GB	5–8
Mistral Medium 3.5 (128B)128B · ความฉลาด 14.2	2 บิต คุณภาพต่ำลง	40 GB	5–8
Devstral 2 (123B)123B	2 บิต คุณภาพต่ำลง	38.4 GB	5–8

ใหญ่เกินไป 23

ต้องใช้หน่วยความจำมากกว่า 64 GB แม้ที่ 2 บิต

Mac รุ่นอื่น

Mac ทุกรุ่นที่มี 64 GB ไม่ว่าชิปไหน

M2 Max ที่มีหน่วยความจำมากหรือน้อยกว่านี้:

ชิปใกล้เคียง:

ตัวต่อตัว:

เปรียบเทียบกับ Mac หรือ GPU ใดก็ได้ · M2 Max สำหรับ AI บนเครื่อง · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง · Mac ทุกรุ่น

คำถาม

LLM ที่ดีที่สุดสำหรับ M2 Max ที่มี 64 GB คืออะไร: ในบรรดาโมเดลที่มีคะแนน Intelligence Index เผยแพร่ Qwen3.8 27B ได้คะแนนสูงสุดในกลุ่มที่รันที่นี่ได้ดี: 4 บิต ราว 12–21 โทเค็นต่อวินาที โมเดลใหญ่ที่สุดที่รันได้ดีคือ Nemotron 3.5 Bolt 74B A9B
M2 Max ที่มี 64 GB รัน Llama 3.3 70B ได้ไหม: ได้ แต่ช้า ที่ 4 บิต ราว 5–8 โทเค็นต่อวินาที
gpt-oss-20b เร็วแค่ไหนบน M2 Max: ราว 95–168 โทเค็นต่อวินาที (4.25 บิตแบบเนทีฟ) จากแบนด์วิดท์หน่วยความจำ 400 GB/s ของชิป

รันด้วย MLX Harness (ฟรี โอเพนซอร์ส) หรือ mlx-lm ของ Apple ในเทอร์มินัล: ทีละขั้นตอน

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare