Mac รัน Phi-4 Reasoning Vision 15B ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 16 GB ขึ้นไป Phi-4 Reasoning Vision 15B มีพารามิเตอร์ 15B ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต9.9 GBค่าน้ำหนัก 8.4 GB + บริบท
Mac ขั้นต่ำ16 GB4 บิต · 55 ตัวเลือก Mac
Mac ที่เร็วที่สุด34–60โทเค็น/วินาที · M5 Ultra 96 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต15.9 GB17.4 GB24 GB
6 บิต12.2 GB13.7 GB24 GB
4 บิต8.4 GB9.9 GB16 GB
3 บิต คุณภาพต่ำลง6.6 GB8.1 GB16 GB
2 บิต คุณภาพต่ำลง4.7 GB6.2 GB16 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Phi-4 Reasoning Vision 15B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M616 GB4 บิต ช้า8–15
M5 Ultra96 GB8 บิต รันได้ดี34–60
M5 Max36 GB8 บิต รันได้ดี13–23
M5 Pro24 GB6 บิต รันได้ดี11–20
M516 GB4 บิต ช้า8–15
M4 Max36 GB8 บิต รันได้ดี12–21
M4 Pro24 GB6 บิต รันได้ดี10–18
M416 GB4 บิต ช้า6–11
M3 Ultra96 GB8 บิต รันได้ดี23–41
M3 Max36 GB6 บิต รันได้ดี11–20
M3 Pro18 GB4 บิต ช้า8–14
M316 GB4 บิต ช้า5–10
M2 Ultra64 GB8 บิต รันได้ดี23–40
M2 Max32 GB8 บิต รันได้ดี11–20
M2 Pro16 GB4 บิต รันได้ดี11–19
M216 GB4 บิต ช้า5–10
M1 Ultra64 GB8 บิต รันได้ดี23–40
M1 Max32 GB8 บิต รันได้ดี11–20
M1 Pro16 GB4 บิต รันได้ดี11–19
M116 GB4 บิต ช้า4–6

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Phi-4 Reasoning Vision 15B ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple: ยังไม่มีบิลด์ MLX จากชุมชน จึงต้องสร้างเองจากค่าน้ำหนักทางการ:pip install mlx-lmmlx_lm.convert --hf-path microsoft/Phi-4-reasoning-vision-15B -q

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Phi-4 Reasoning Vision 15B

ผู้พัฒนาMicrosoft
พารามิเตอร์15B (dense)
บริบท16K โทเค็น
สัญญาอนุญาตMIT
เปิดตัว2026-03
อินพุตข้อความและรูปภาพ
ค่าน้ำหนักmicrosoft/Phi-4-reasoning-vision-15B

คำถาม

Phi-4 Reasoning Vision 15B ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 8.4 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 9.9 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 16 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Phi-4 Reasoning Vision 15B เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 34–60 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M2 Pro ที่มี 16 GB ได้ราว 11–19
การควอนไทซ์ทำให้ Phi-4 Reasoning Vision 15B แย่ลงไหม
ที่ 4 บิต โมเดลส่วนใหญ่ยังมีคุณภาพใกล้เคียงต้นฉบับ ต่ำกว่า 4 บิตคุณภาพจะลดลงเร็วขึ้น เลือกความแม่นยำสูงสุดที่ใส่ใน Mac ของคุณได้โดยยังมีที่เหลือ

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Phi-4 Reasoning Vision 15B แสดง Mac ขั้นต่ำที่รัน Phi-4 Reasoning Vision 15B ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/phi-4-reasoning-vision-15b.svg)](https://mlx.app/run/phi-4-reasoning-vision-15b)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Phi-4 Reasoning Vision 15B ได้ไหม หน่วยความจำและความเร็ว