Mac รัน Qwen3.8 2.4T A95B ได้ไหม

Mac เครื่องเดียวรันไม่ได้ Qwen3.8 2.4T A95B มีพารามิเตอร์ 2,400B และแม้ที่ 2 บิตก็ยังเกินหน่วยความจำของ Mac รุ่นใหญ่ที่สุด ด้านล่างคือสิ่งที่ต้องใช้ถึงจะรันได้ และโมเดลที่เล็กกว่าซึ่งรันได้ดี

หน่วยความจำที่ 4 บิต1.5 TBค่าน้ำหนัก 1.4 TB + บริบท
Mac ขั้นต่ำไม่มีแม้ที่ 2 บิต
Mac ที่เร็วที่สุด–ไม่มี Mac ที่ใส่ได้

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต2.6 TB2.8 TBมากกว่า Mac ทุกเครื่อง
6 บิต2 TB2.1 TBมากกว่า Mac ทุกเครื่อง
4 บิต1.4 TB1.5 TBมากกว่า Mac ทุกเครื่อง
3 บิต คุณภาพต่ำลง1.1 TB1.1 TBมากกว่า Mac ทุกเครื่อง
2 บิต คุณภาพต่ำลง750 GB810 GBมากกว่า Mac ทุกเครื่อง

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Qwen3.8 2.4T A95B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M6ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–

วิธีรัน

ไม่มี Mac เครื่องเดียวที่ใส่ได้ โมเดลที่เล็กกว่าด้านล่างรันได้ดี และคู่มือคลัสเตอร์ Macอธิบายวิธีกระจายโมเดลไปยัง Mac หลายเครื่อง

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Qwen3.8 2.4T A95B

ผู้พัฒนาQwen (Alibaba)
พารามิเตอร์ทั้งหมด 2,400B · ใช้งาน 95B (mixture-of-experts)
บริบท256K โทเค็น
สัญญาอนุญาตQwen3.8-Max license (qwen3.8-max)
เปิดตัว2026-08
อินพุตข้อความ
ความฉลาด39.9 บน Artificial Analysis Intelligence Index
ค่าน้ำหนักQwen/Qwen3.8-2.4T-A95B

คำถาม

Qwen3.8 2.4T A95B ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 1.4 TB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 1.5 TB ซึ่งมากกว่าหน่วยความจำของ Mac ทุกเครื่องในตอนนี้
มี Mac เครื่องไหนรัน Qwen3.8 2.4T A95B ได้ไหม
เครื่องเดียวไม่ได้ แม้ที่ 2 บิตก็ยังต้องใช้หน่วยความจำมากกว่า Mac รุ่นใหญ่ที่สุด ให้ใช้โมเดลที่เล็กกว่า หรือกระจายไปยัง Mac หลายเครื่องด้วยรันไทม์แบบคลัสเตอร์
ทำไม Qwen3.8 2.4T A95B จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 2,400B ไว้ในหน่วยความจำ แต่อ่านเพียง 95B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Qwen3.8 2.4T A95B แสดง Mac ขั้นต่ำที่รัน Qwen3.8 2.4T A95B ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.8-2.4t-a95b.svg)](https://mlx.app/run/qwen3.8-2.4t-a95b)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Qwen3.8 2.4T A95B ได้ไหม หน่วยความจำและความเร็ว