LLM ที่ดีที่สุดสำหรับ Mac ที่มี 8 GB คืออะไร

ในบรรดาโมเดลที่มีคะแนน Intelligence Index เผยแพร่ MiniCPM5 2B ได้คะแนนสูงสุดในกลุ่มที่รันได้ดีใน 8 GB (8 บิต) โมเดลใหญ่ที่สุดที่รันได้ดีคือ Granite 4.2 8B

8 GB พอสำหรับ AI บนเครื่องบน Mac ไหม

โมเดลแบบเปิด 16 จาก 73 โมเดลที่นี่รันได้ดีในขนาดนี้ที่ 4 บิตหรือดีกว่า โดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 6 GB และโมเดลกับบริบทต้องใส่ได้ในส่วนนั้น

Mac 8 GB รัน gpt-oss-20b ได้ไหม

ไม่ได้ ต้องใช้มากกว่า 6 GB ที่ GPU ใช้ได้โดยค่าเริ่มต้น

LLM บนเครื่องที่ดีที่สุดสำหรับ Mac 8 GB (M1 ถึง M3): รันอะไรได้

Mac ที่มี 8 GB

มีชิป 3 รุ่นจาก M1 ถึง M3 ที่มาพร้อม 8 GB เปิดแต่ละรุ่นเพื่อดูรายการและความเร็วของรุ่นนั้น

รันได้ดี 21

ใส่ได้และยังเหลือที่สำหรับบริบท ได้ 10 โทเค็นต่อวินาทีขึ้นไปบน M2

โมเดล	เวอร์ชัน	หน่วยความจำ	M1	M2
MiniCPM5 2B2.52B · ความฉลาด 12.5	8 บิต	2.7 GB	11–20	17–30
Granite 4.2 8B8B · ความฉลาด 11.1	4 บิต	4.5 GB	7–12	10–18
Granite 4.2 3B3B · ความฉลาด 9.1	8 บิต	3.2 GB	10–17	14–25
Gemma 4 E4B8B · ความฉลาด 8.9	4 บิต	4.5 GB	12–22	18–32
Nemotron 3 Nano 4B3.97B · ความฉลาด 4.8	8 บิต	4.2 GB	10–17	11–19
Llama 3.1 8B Instruct8B	4 บิต	4.5 GB	7–12	10–18
Gemma 4 E2B5.1B	6 บิต	4.1 GB	16–29	24–42
Qwen3.5 4B4B	8 บิต	4.3 GB	13–24	10–19
Phi-4 mini instruct3.8B	8 บิต	4 GB	10–18	11–20
Llama 3.2 3B Instruct3.21B	8 บิต	3.4 GB	12–21	13–24
SmolLM3 3B3B	8 บิต	3.2 GB	10–17	14–25
LFM2.5 2.6B2.69B	8 บิต	2.9 GB	11–19	16–28
Qwen3.5 2B2B	8 บิต	2.1 GB	15–26	21–38
Llama 3.2 1B Instruct1.23B	8 บิต	1.3 GB	24–42	35–62
Qwen3.5 0.8B0.8B	8 บิต	0.9 GB	34–60	50–89
Qwen3 0.6B0.6B	8 บิต	0.6 GB	51–91	75–133
Qwen3.5 9B9B · ความฉลาด 11.2	3 บิต คุณภาพต่ำลง	3.9 GB	8–14	12–21
Ministral 3 8B8.9B · ความฉลาด 5.5	3 บิต คุณภาพต่ำลง	3.9 GB	8–14	12–21
Phi-4 (14B)14B	2 บิต คุณภาพต่ำลง	4.4 GB	7–12	10–18
Gemma 4 12B Unified12B	2 บิต คุณภาพต่ำลง	3.7 GB	8–15	12–22
Qwen3 8B8.2B	3 บิต คุณภาพต่ำลง	3.6 GB	9–15	13–22

พอใส่ได้พอดี 1

ต้องใช้หน่วยความจำเกือบทั้งหมด ให้เพิ่มขีดจำกัดหน่วยความจำของ GPU และใช้บริบทสั้นๆ

โมเดล	เวอร์ชัน	หน่วยความจำ	M1	M2
Phi-4 Reasoning Vision 15B15B	2 บิต คุณภาพต่ำลง	4.7 GB	7–12	10–17

ใหญ่เกินไป 51

ต้องใช้หน่วยความจำมากกว่า 8 GB แม้ที่ 2 บิต

คำถาม

LLM ที่ดีที่สุดสำหรับ Mac ที่มี 8 GB คืออะไร: ในบรรดาโมเดลที่มีคะแนน Intelligence Index เผยแพร่ MiniCPM5 2B ได้คะแนนสูงสุดในกลุ่มที่รันได้ดีใน 8 GB (8 บิต) โมเดลใหญ่ที่สุดที่รันได้ดีคือ Granite 4.2 8B
8 GB พอสำหรับ AI บนเครื่องบน Mac ไหม: โมเดลแบบเปิด 16 จาก 73 โมเดลที่นี่รันได้ดีในขนาดนี้ที่ 4 บิตหรือดีกว่า โดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 6 GB และโมเดลกับบริบทต้องใส่ได้ในส่วนนั้น
Mac 8 GB รัน gpt-oss-20b ได้ไหม: ไม่ได้ ต้องใช้มากกว่า 6 GB ที่ GPU ใช้ได้โดยค่าเริ่มต้น

ขนาดอื่น: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

รันด้วย MLX Harness (ฟรี โอเพนซอร์ส) หรือ mlx-lm ของ Apple ในเทอร์มินัล: ทีละขั้นตอน

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare