Mac รัน Llama 4 Maverick 17B-128E Instruct ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 512 GB ขึ้นไป Llama 4 Maverick 17B-128E Instruct มีพารามิเตอร์ 400B โดยใช้งานจริง 17B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต243 GBค่าน้ำหนัก 225 GB + บริบท
Mac ขั้นต่ำ512 GB6 บิต · 5 ตัวเลือก Mac
Mac ที่เร็วที่สุด39–70โทเค็น/วินาที · M5 Ultra 512 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต425 GB459 GBมากกว่า Mac ทุกเครื่อง
6 บิต325 GB351 GB512 GB
4 บิต225 GB243 GB512 GB
3 บิต คุณภาพต่ำลง175 GB189 GB256 GB
2 บิต คุณภาพต่ำลง125 GB135 GB192 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Llama 4 Maverick 17B-128E Instruct ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M6ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Ultra512 GB6 บิต รันได้ดี39–70
M5 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Ultra512 GB6 บิต รันได้ดี27–47
M3 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Ultra192 GB2 บิต รันได้ดี68–121
M2 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Llama 4 Maverick 17B-128E Instruct ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Llama-4-Maverick-17B-128E-Instruct-4bitบิลด์: mlx-community/Llama-4-Maverick-17B-128E-Instruct-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Llama 4 Maverick 17B-128E Instruct

ผู้พัฒนาMeta
พารามิเตอร์ทั้งหมด 400B · ใช้งาน 17B (mixture-of-experts)
บริบท1M โทเค็น
สัญญาอนุญาตLlama 4 Community License
เปิดตัว2025-04
อินพุตข้อความและรูปภาพ
ความฉลาด9.3 บน Artificial Analysis Intelligence Index
ค่าน้ำหนักmeta-llama/Llama-4-Maverick-17B-128E-Instruct

คำถาม

Llama 4 Maverick 17B-128E Instruct ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 225 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 243 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 512 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Llama 4 Maverick 17B-128E Instruct เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 512 GB ได้ราว 39–70 โทเค็นต่อวินาที (6 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Ultra ที่มี 512 GB ได้ราว 39–70
ทำไม Llama 4 Maverick 17B-128E Instruct จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 400B ไว้ในหน่วยความจำ แต่อ่านเพียง 17B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Llama 4 Maverick 17B-128E Instruct แสดง Mac ขั้นต่ำที่รัน Llama 4 Maverick 17B-128E Instruct ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/llama-4-maverick.svg)](https://mlx.app/run/llama-4-maverick)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Llama 4 Maverick 17B-128E Instruct ได้ไหม หน่วยความจำและความเร็ว