สรุปสั้น ๆ
- 16 GB: รันได้สบายเฉพาะโมเดลทั่วไปขนาดเล็ก Qwen3 Coder 30B A3B ใส่ได้เฉพาะที่ความละเอียดต่ำลง 24 GB: Devstral Small 2 (24B) 32–64 GB: Qwen3 Coder 30B A3B และ Devstral Small 2 ที่ 4 บิต
- 96 GB ขึ้นไป: Qwen3 Coder Next (80B, ใช้งาน 3B) 128 GB: Devstral 2 (123B) ด้วย แต่ช้า 512 GB: Kimi K2.7 Code ที่ความละเอียดต่ำ
- โมเดลเขียนโค้ดแบบ mixture-of-experts อ่านค่าน้ำหนักเพียงไม่กี่พันล้านตัวต่อโทเค็น Qwen3 Coder 30B A3B จึงเขียนได้เร็วกว่า Devstral Small 2 แบบ dense หลายเท่าบน Mac เครื่องเดียวกัน
- เอเจนต์เขียนโค้ดส่งพรอมต์ยาว: เผื่อหลายกิกะไบต์สำหรับคอนเท็กซ์ และดูรัน LLM ต้องใช้แรมเท่าไร
1โมเดลเขียนโค้ดที่รันได้ดี ตามหน่วยความจำ
"รันได้ดี" หมายถึงใส่ได้ที่ 4 บิตขึ้นไปและเหลือที่สำหรับคอนเท็กซ์ ที่ 10 โทเค็นต่อวินาทีขึ้นไป ใช้เกณฑ์เดียวกับทุกหน้า Mac โมเดลที่ทำมาเพื่อโค้ดจากแคตตาล็อกโมเดลแบบเปิดของเรา พร้อมโมเดลทั่วไปที่มีคะแนน Artificial Analysis Intelligence Index สูงสุดที่รันได้ดีในขนาดนั้น ซึ่งก็เขียนโค้ดได้เช่นกัน:
| หน่วยความจำ Mac | ทำมาเพื่อโค้ด | โมเดลทั่วไปที่เก่งที่สุด |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B เฉพาะที่ความละเอียดต่ำลง | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next, Devstral 2 (123B) (ช้ากว่า) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next, Devstral 2 (ช้ากว่า) | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code ที่ความละเอียดต่ำลง, Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2ทำไมโมเดลเขียนโค้ดแบบ mixture-of-experts ถึงรู้สึกเร็ว
ความเร็วในการเขียนถูกจำกัดด้วยจำนวนไบต์ของค่าน้ำหนักที่ต้องอ่านต่อโทเค็น โมเดล dense อ่านทั้งหมด ส่วนโมเดล mixture-of-experts อ่านเฉพาะส่วนที่ใช้งาน บน Mac mini กับ M5 Pro (307 GB/s, Apple) ที่ 4 บิต:
| โมเดล | พารามิเตอร์ | อ่านต่อโทเค็น | เพดานสำหรับแชตเดียว |
|---|---|---|---|
| Qwen3 Coder 30B A3B | รวม 30.5B, ใช้งาน 3.3B | ราว 1.9 GB | ราว 165 โทเค็นต่อวินาที |
| Devstral Small 2 | 24B, dense | ราว 13.5 GB | ราว 23 โทเค็นต่อวินาที |
ความเร็วไม่ใช่คุณภาพ: โมเดล dense อาจเขียนโค้ดได้ดีกว่าในหน่วยความจำเท่ากัน ลองทั้งสองตัวกับโค้ดของคุณเอง
3เผื่อที่สำหรับคอนเท็กซ์
เครื่องมือเขียนโค้ดส่งข้อความจำนวนมาก: ไฟล์ที่เกี่ยวข้อง คำอธิบายเครื่องมือ และบทสนทนาที่ผ่านมา คอนเท็กซ์นี้ถูกเก็บในหน่วยความจำข้างตัวโมเดลใน KV cache และโตขึ้นทุกโทเค็น สำหรับ Qwen3 8B คอนเท็กซ์ 32,000 โทเค็นใช้ราว 4.8 GB (ดูวิธีคำนวณ) โมเดลที่ใหญ่กว่าต้องใช้มากกว่านี้ต่อโทเค็น
ดังนั้นเมื่อโมเดลใส่ได้แบบพอดีเป๊ะ ให้เลือกตัวที่เล็กลงหนึ่งขั้น หรือความละเอียดที่ต่ำลง แทนการบีบคอนเท็กซ์ พรอมต์ยาวยังต้องใช้เวลาอ่านก่อนคำแรกจะปรากฏ ชิปรุ่น M5 อ่านพรอมต์ได้เร็วกว่า M4 (Apple)
4ใช้ในเอดิเตอร์หรือเอเจนต์ของคุณ
เครื่องมือเขียนโค้ดคุยกับโมเดลผ่าน API รันโมเดลในเครื่องแล้วชี้เครื่องมือไปที่มัน:
- เซิร์ฟเวอร์ในเครื่องของ LM Studio รองรับรูปแบบ OpenAI และ Anthropic และ LM Studio มีคู่มือตั้งค่าสำหรับ Claude Code, Codex, OpenClaw และ Hermes Agent (LM Studio)
- mlx-lm:
mlx_lm.server --model <model>ให้บริการ API แบบ OpenAI บนพอร์ต 8080 (mlx-lm) - Ollama ก็ให้บริการ API ที่เข้ากันได้กับ OpenAI เช่นกัน: แอปรัน LLM บน Mac ที่ดีที่สุด เปรียบเทียบไว้
เอเจนต์เรียกใช้เครื่องมือ โมเดลจึงต้องสร้าง tool call ในรูปแบบที่เซิร์ฟเวอร์เข้าใจ โมเดลที่ทำมาเพื่อโค้ดและเอเจนต์ เช่น Qwen3 Coder และ Devstral ถูกเทรนมาเพื่อสิ่งนี้ ส่วนโมเดลทั่วไปขนาดเล็กมักทำได้ไม่แม่นยำ
หมวดเขียนโค้ด ใน AI App Store รวบรวมเอเจนต์และเอดิเตอร์สำหรับเขียนโค้ด เช่น Claude Code และ Codex แต่ละรายการมีลิงก์ดาวน์โหลดทางการของผู้พัฒนา ราคา และข้อมูลของคุณถูกส่งไปที่ใด
5คำถาม
- LLM เขียนโค้ดในเครื่องตัวไหนดีที่สุดสำหรับ Mac 32 GB?
- Qwen3 Coder 30B A3B และ Devstral Small 2 รันได้ดีทั้งคู่ที่ 4 บิต Qwen3 Coder เขียนได้เร็วกว่ามาก เพราะอ่านพารามิเตอร์เพียง 3.3B จาก 30.5B ต่อโทเค็น ลองทั้งสองตัวกับโค้ดของคุณเอง
- Mac 16 GB รันโมเดลเขียนโค้ดได้ไหม?
- โมเดลเล็กได้ Qwen3 Coder 30B A3B ใส่ใน 16 GB ได้เฉพาะที่ความละเอียดต่ำลง และเหลือที่สำหรับคอนเท็กซ์น้อย สำหรับเอเจนต์เขียนโค้ด 32 GB ขึ้นไปเป็นจุดเริ่มต้นที่ดีกว่า
- ใช้ Claude Code หรือ Codex กับโมเดลในเครื่องได้ไหม?
- ได้ LM Studio มีคู่มือตั้งค่าสำหรับทั้งสองตัว: เซิร์ฟเวอร์ในเครื่องของมันรองรับรูปแบบ Anthropic ที่ Claude Code ใช้ และรูปแบบ OpenAI ที่ Codex ใช้ (LM Studio) จะทำงานได้ดีแค่ไหนขึ้นอยู่กับโมเดลที่คุณโหลด
- โมเดลเขียนโค้ดในเครื่องดีเท่าบนคลาวด์ไหม?
- โมเดลแบบเปิดที่ใหญ่ที่สุดทำได้ใกล้เคียงในหลายงาน แต่ต้องใช้ Mac Studio กับ 256 หรือ 512 GB โมเดลที่ใส่ใน 32–64 GB ได้มีประโยชน์สำหรับการเติมโค้ด การอธิบาย และงานเอเจนต์ที่เล็กลง และเก็บโค้ดของคุณไว้บน Mac