หน่วยความจำในแต่ละความแม่นยำ
| เวอร์ชัน | ค่าน้ำหนัก | รวมบริบท | Mac ขั้นต่ำ |
|---|---|---|---|
| 4.25 บิตแบบเนทีฟ | 1.6 TB | 1.7 TB | มากกว่า Mac ทุกเครื่อง |
| 3 บิต คุณภาพต่ำลง | 1.2 TB | 1.3 TB | มากกว่า Mac ทุกเครื่อง |
| 2 บิต คุณภาพต่ำลง | 875 GB | 945 GB | มากกว่า Mac ทุกเครื่อง |
บนชิป Apple ทุกรุ่น
ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Kimi K3 ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้
| ชิป | ต้องใช้ | เวอร์ชัน | โทเค็น/วินาที |
|---|---|---|---|
| M6 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M5 Ultra | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M5 Max | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M5 Pro | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M5 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M4 Max | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M4 Pro | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M4 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M3 Ultra | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M3 Max | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M3 Pro | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M3 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M2 Ultra | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M2 Max | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M2 Pro | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M2 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M1 Ultra | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M1 Max | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M1 Pro | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M1 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
วิธีรัน
ไม่มี Mac เครื่องเดียวที่ใส่ได้ โมเดลที่เล็กกว่าด้านล่างรันได้ดี และคู่มือคลัสเตอร์ Macอธิบายวิธีกระจายโมเดลไปยัง Mac หลายเครื่อง
ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp
เกี่ยวกับ Kimi K3
| ผู้พัฒนา | Moonshot AI |
|---|---|
| พารามิเตอร์ | ทั้งหมด 2,800B · ใช้งาน 104B (mixture-of-experts) |
| บริบท | 1M โทเค็น |
| สัญญาอนุญาต | Kimi K3 License (custom) |
| เปิดตัว | 2026-06 |
| อินพุต | ข้อความและรูปภาพ |
| ความฉลาด | 43.6 บน Artificial Analysis Intelligence Index |
| ค่าน้ำหนัก | moonshotai/Kimi-K3 |
คำถาม
- Kimi K3 ต้องใช้หน่วยความจำเท่าไร
- ค่าน้ำหนักราว 1.6 TB ที่ 4.25 บิตแบบเนทีฟ บวกที่สำหรับบริบท รวมทั้งหมด 1.7 TB ซึ่งมากกว่าหน่วยความจำของ Mac ทุกเครื่องในตอนนี้
- มี Mac เครื่องไหนรัน Kimi K3 ได้ไหม
- เครื่องเดียวไม่ได้ แม้ที่ 2 บิตก็ยังต้องใช้หน่วยความจำมากกว่า Mac รุ่นใหญ่ที่สุด ให้ใช้โมเดลที่เล็กกว่า หรือกระจายไปยัง Mac หลายเครื่องด้วยรันไทม์แบบคลัสเตอร์
- ทำไม Kimi K3 จึงรันได้เร็วกว่าขนาดของมัน
- เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 2,800B ไว้ในหน่วยความจำ แต่อ่านเพียง 104B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก
โมเดลที่คล้ายกัน
สำหรับการ์ดโมเดลหรือ README ของคุณ
แสดง Mac ขั้นต่ำที่รัน Kimi K3 ได้ดี และลิงก์มาที่หน้านี้
[](https://mlx.app/run/kimi-k3)วิธีคำนวณ
หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare