เข้าสู่ระบบสร้างวอลเล็ต

Mac รัน Qwen3.5 397B A17B ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 512 GB ขึ้นไป Qwen3.5 397B A17B มีพารามิเตอร์ 397B โดยใช้งานจริง 17B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต241 GBค่าน้ำหนัก 223 GB + บริบท
Mac ขั้นต่ำ512 GB6 บิต · 5 ตัวเลือก Mac
Mac ที่เร็วที่สุด39–70โทเค็น/วินาที · M5 Ultra 512 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต422 GB456 GBมากกว่า Mac ทุกเครื่อง
6 บิต323 GB348 GB512 GB
4 บิต223 GB241 GB512 GB
3 บิต คุณภาพต่ำลง174 GB188 GB256 GB
2 บิต คุณภาพต่ำลง124 GB134 GB192 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Qwen3.5 397B A17B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M6ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Ultra512 GB6 บิต รันได้ดี39–70
M5 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Ultra512 GB6 บิต รันได้ดี27–47
M3 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Ultra192 GB2 บิต รันได้ดี68–121
M2 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Qwen3.5 397B A17B ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.5-397B-A17B-4bitบิลด์: mlx-community/Qwen3.5-397B-A17B-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Qwen3.5 397B A17B

ผู้พัฒนาQwen (Alibaba)
พารามิเตอร์ทั้งหมด 397B · ใช้งาน 17B (mixture-of-experts)
บริบท256K โทเค็น
สัญญาอนุญาตApache-2.0
เปิดตัว2026-02
อินพุตข้อความและรูปภาพ
ความฉลาด18.4 บน Artificial Analysis Intelligence Index
ค่าน้ำหนักQwen/Qwen3.5-397B-A17B

คำถาม

Qwen3.5 397B A17B ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 223 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 241 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 512 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Qwen3.5 397B A17B เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 512 GB ได้ราว 39–70 โทเค็นต่อวินาที (6 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Ultra ที่มี 512 GB ได้ราว 39–70
ทำไม Qwen3.5 397B A17B จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 397B ไว้ในหน่วยความจำ แต่อ่านเพียง 17B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Qwen3.5 397B A17B แสดง Mac ขั้นต่ำที่รัน Qwen3.5 397B A17B ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.5-397b-a17b.svg)](https://mlx.app/run/qwen3.5-397b-a17b)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Qwen3.5 397B A17B ได้ไหม หน่วยความจำและความเร็ว