เข้าสู่ระบบสร้างวอลเล็ต

Mac รัน Qwen3.5 0.8B ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 8 GB ขึ้นไป Qwen3.5 0.8B มีพารามิเตอร์ 0.8B ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต2 GBค่าน้ำหนัก 0.5 GB + บริบท
Mac ขั้นต่ำ8 GB8 บิต · 58 ตัวเลือก Mac
Mac ที่เร็วที่สุด600–1067โทเค็น/วินาที · M5 Ultra 96 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต0.9 GB2.4 GB8 GB
6 บิต0.7 GB2.2 GB8 GB
4 บิต0.5 GB2 GB8 GB
3 บิต คุณภาพต่ำลง0.4 GB1.9 GB8 GB
2 บิต คุณภาพต่ำลง0.3 GB1.8 GB8 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Qwen3.5 0.8B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M616 GB8 บิต รันได้ดี77–136
M5 Ultra96 GB8 บิต รันได้ดี600–1067
M5 Max36 GB8 บิต รันได้ดี230–409
M5 Pro24 GB8 บิต รันได้ดี154–273
M516 GB8 บิต รันได้ดี77–136
M4 Max36 GB8 บิต รันได้ดี205–364
M4 Pro24 GB8 บิต รันได้ดี137–243
M416 GB8 บิต รันได้ดี60–107
M3 Ultra96 GB8 บิต รันได้ดี410–728
M3 Max36 GB8 บิต รันได้ดี150–267
M3 Pro18 GB8 บิต รันได้ดี75–133
M38 GB8 บิต รันได้ดี50–89
M2 Ultra64 GB8 บิต รันได้ดี400–711
M2 Max32 GB8 บิต รันได้ดี200–356
M2 Pro16 GB8 บิต รันได้ดี100–178
M28 GB8 บิต รันได้ดี50–89
M1 Ultra64 GB8 บิต รันได้ดี400–711
M1 Max32 GB8 บิต รันได้ดี200–356
M1 Pro16 GB8 บิต รันได้ดี100–178
M18 GB8 บิต รันได้ดี34–60

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Qwen3.5 0.8B ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3.5-0.8B-4bitบิลด์: mlx-community/Qwen3.5-0.8B-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Qwen3.5 0.8B

ผู้พัฒนาQwen (Alibaba)
พารามิเตอร์0.8B (dense)
บริบท256K โทเค็น
สัญญาอนุญาตApache-2.0
เปิดตัว2026-02
อินพุตข้อความและรูปภาพ
ค่าน้ำหนักQwen/Qwen3.5-0.8B

คำถาม

Qwen3.5 0.8B ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 0.5 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 2 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 8 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Qwen3.5 0.8B เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 600–1067 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M3 ที่มี 8 GB ได้ราว 50–89
การควอนไทซ์ทำให้ Qwen3.5 0.8B แย่ลงไหม
ที่ 4 บิต โมเดลส่วนใหญ่ยังมีคุณภาพใกล้เคียงต้นฉบับ ต่ำกว่า 4 บิตคุณภาพจะลดลงเร็วขึ้น เลือกความแม่นยำสูงสุดที่ใส่ใน Mac ของคุณได้โดยยังมีที่เหลือ

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Qwen3.5 0.8B แสดง Mac ขั้นต่ำที่รัน Qwen3.5 0.8B ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/qwen3.5-0.8b.svg)](https://mlx.app/run/qwen3.5-0.8b)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Qwen3.5 0.8B ได้ไหม หน่วยความจำและความเร็ว