Mac รัน GLM-4.7 Flash ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 32 GB ขึ้นไป GLM-4.7 Flash มีพารามิเตอร์ 30B โดยใช้งานจริง 3B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต18.4 GBค่าน้ำหนัก 16.9 GB + บริบท
Mac ขั้นต่ำ32 GB4 บิต · 55 ตัวเลือก Mac
Mac ที่เร็วที่สุด169–300โทเค็น/วินาที · M5 Ultra 96 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต31.9 GB34.5 GB48 GB
6 บิต24.4 GB26.4 GB36 GB
4 บิต16.9 GB18.4 GB32 GB
3 บิต คุณภาพต่ำลง13.1 GB14.6 GB24 GB
2 บิต คุณภาพต่ำลง9.4 GB10.9 GB16 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน GLM-4.7 Flash ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M632 GB4 บิต รันได้ดี45–80
M5 Ultra96 GB8 บิต รันได้ดี169–300
M5 Max36 GB6 บิต รันได้ดี86–153
M5 Pro48 GB8 บิต รันได้ดี43–77
M532 GB4 บิต รันได้ดี41–72
M4 Max36 GB6 บิต รันได้ดี77–137
M4 Pro48 GB8 บิต รันได้ดี38–68
M432 GB4 บิต รันได้ดี32–56
M3 Ultra96 GB8 บิต รันได้ดี115–205
M3 Max36 GB6 บิต รันได้ดี56–100
M3 Pro36 GB6 บิต รันได้ดี28–50
M316 GB2 บิต รันได้ดี50–89
M2 Ultra64 GB8 บิต รันได้ดี113–200
M2 Max32 GB4 บิต รันได้ดี106–188
M2 Pro32 GB4 บิต รันได้ดี53–94
M216 GB2 บิต รันได้ดี50–89
M1 Ultra64 GB8 บิต รันได้ดี113–200
M1 Max32 GB4 บิต รันได้ดี106–188
M1 Pro32 GB4 บิต รันได้ดี53–94
M116 GB2 บิต รันได้ดี34–60

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา GLM-4.7 Flash ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.7-Flash-4bitบิลด์: mlx-community/GLM-4.7-Flash-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ GLM-4.7 Flash

ผู้พัฒนาZ.ai (Zhipu)
พารามิเตอร์ทั้งหมด 30B · ใช้งาน 3B (mixture-of-experts)
บริบท198K โทเค็น
สัญญาอนุญาตMIT
เปิดตัว2026-01
อินพุตข้อความ
ค่าน้ำหนักzai-org/GLM-4.7-Flash

คำถาม

GLM-4.7 Flash ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 16.9 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 18.4 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 32 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
GLM-4.7 Flash เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 169–300 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M2 Max ที่มี 32 GB ได้ราว 106–188
ทำไม GLM-4.7 Flash จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 30B ไว้ในหน่วยความจำ แต่อ่านเพียง 3B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: GLM-4.7 Flash แสดง Mac ขั้นต่ำที่รัน GLM-4.7 Flash ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/glm-4.7-flash.svg)](https://mlx.app/run/glm-4.7-flash)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน GLM-4.7 Flash ได้ไหม หน่วยความจำและความเร็ว