Mac รัน GLM-4.5 Air ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 96 GB ขึ้นไป GLM-4.5 Air มีพารามิเตอร์ 106B โดยใช้งานจริง 12B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต64.4 GBค่าน้ำหนัก 59.6 GB + บริบท
Mac ขั้นต่ำ96 GB4 บิต · 28 ตัวเลือก Mac
Mac ที่เร็วที่สุด79–141โทเค็น/วินาที · M5 Ultra 96 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต113 GB122 GB192 GB
6 บิต86.1 GB93 GB128 GB
4 บิต59.6 GB64.4 GB96 GB
3 บิต คุณภาพต่ำลง46.4 GB50.1 GB96 GB
2 บิต คุณภาพต่ำลง33.1 GB35.7 GB48 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน GLM-4.5 Air ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M6ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Ultra96 GB4 บิต รันได้ดี79–141
M5 Max128 GB6 บิต รันได้ดี28–50
M5 Pro48 GB2 บิต รันได้ดี36–65
M5ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Max128 GB6 บิต รันได้ดี25–45
M4 Pro48 GB2 บิต รันได้ดี32–57
M4ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Ultra96 GB4 บิต รันได้ดี54–96
M3 Max96 GB4 บิต รันได้ดี20–35
M3 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Ultra128 GB6 บิต รันได้ดี37–65
M2 Max96 GB4 บิต รันได้ดี26–47
M2 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Ultra128 GB6 บิต รันได้ดี37–65
M1 Max64 GB2 บิต รันได้ดี47–84
M1 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา GLM-4.5 Air ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/GLM-4.5-Air-4bitบิลด์: mlx-community/GLM-4.5-Air-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ GLM-4.5 Air

ผู้พัฒนาZ.ai (Zhipu)
พารามิเตอร์ทั้งหมด 106B · ใช้งาน 12B (mixture-of-experts)
บริบท128K โทเค็น
สัญญาอนุญาตMIT
เปิดตัว2025-07
อินพุตข้อความ
ค่าน้ำหนักzai-org/GLM-4.5-Air

คำถาม

GLM-4.5 Air ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 59.6 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 64.4 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 96 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
GLM-4.5 Air เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 79–141 โทเค็นต่อวินาที (4 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Ultra ที่มี 96 GB ได้ราว 79–141
ทำไม GLM-4.5 Air จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 106B ไว้ในหน่วยความจำ แต่อ่านเพียง 12B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: GLM-4.5 Air แสดง Mac ขั้นต่ำที่รัน GLM-4.5 Air ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/glm-4.5-air.svg)](https://mlx.app/run/glm-4.5-air)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน GLM-4.5 Air ได้ไหม หน่วยความจำและความเร็ว