Mac รัน Gemma 4 26B A4B ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 24 GB ขึ้นไป Gemma 4 26B A4B มีพารามิเตอร์ 25.2B โดยใช้งานจริง 3.8B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต15.7 GBค่าน้ำหนัก 14.2 GB + บริบท
Mac ขั้นต่ำ24 GB4 บิต · 55 ตัวเลือก Mac
Mac ที่เร็วที่สุด135–240โทเค็น/วินาที · M5 Ultra 96 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต26.8 GB28.9 GB48 GB
6 บิต20.5 GB22.1 GB32 GB
4 บิต14.2 GB15.7 GB24 GB
3 บิต คุณภาพต่ำลง11 GB12.5 GB18 GB
2 บิต คุณภาพต่ำลง7.9 GB9.4 GB16 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Gemma 4 26B A4B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M624 GB4 บิต รันได้ดี36–65
M5 Ultra96 GB8 บิต รันได้ดี135–240
M5 Max36 GB6 บิต รันได้ดี67–119
M5 Pro24 GB4 บิต รันได้ดี66–117
M524 GB4 บิต รันได้ดี33–58
M4 Max36 GB6 บิต รันได้ดี60–106
M4 Pro24 GB4 บิต รันได้ดี59–104
M424 GB4 บิต รันได้ดี26–46
M3 Ultra96 GB8 บิต รันได้ดี92–164
M3 Max36 GB6 บิต รันได้ดี44–77
M3 Pro36 GB6 บิต รันได้ดี22–39
M324 GB4 บิต รันได้ดี21–38
M2 Ultra64 GB8 บิต รันได้ดี90–160
M2 Max32 GB6 บิต รันได้ดี58–103
M2 Pro32 GB6 บิต รันได้ดี29–52
M224 GB4 บิต รันได้ดี21–38
M1 Ultra64 GB8 บิต รันได้ดี90–160
M1 Max32 GB6 บิต รันได้ดี58–103
M1 Pro32 GB6 บิต รันได้ดี29–52
M116 GB2 บิต รันได้ดี26–45

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Gemma 4 26B A4B ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/gemma-4-26b-a4b-it-4bitบิลด์: mlx-community/gemma-4-26b-a4b-it-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Gemma 4 26B A4B

ผู้พัฒนาGoogle DeepMind
พารามิเตอร์ทั้งหมด 25.2B · ใช้งาน 3.8B (mixture-of-experts)
บริบท256K โทเค็น
สัญญาอนุญาตApache-2.0
เปิดตัว2026-03
อินพุตข้อความและรูปภาพ
ค่าน้ำหนักgoogle/gemma-4-26B-A4B-it

คำถาม

Gemma 4 26B A4B ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 14.2 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 15.7 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 24 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Gemma 4 26B A4B เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 135–240 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Pro ที่มี 24 GB ได้ราว 66–117
ทำไม Gemma 4 26B A4B จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 25.2B ไว้ในหน่วยความจำ แต่อ่านเพียง 3.8B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Gemma 4 26B A4B แสดง Mac ขั้นต่ำที่รัน Gemma 4 26B A4B ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/gemma-4-26b-a4b.svg)](https://mlx.app/run/gemma-4-26b-a4b)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Gemma 4 26B A4B ได้ไหม หน่วยความจำและความเร็ว