หน่วยความจำในแต่ละความแม่นยำ
| เวอร์ชัน | ค่าน้ำหนัก | รวมบริบท | Mac ขั้นต่ำ |
|---|---|---|---|
| 8 บิต | 15.9 GB | 17.4 GB | 24 GB |
| 6 บิต | 12.2 GB | 13.7 GB | 24 GB |
| 4 บิต | 8.4 GB | 9.9 GB | 16 GB |
| 3 บิต คุณภาพต่ำลง | 6.6 GB | 8.1 GB | 16 GB |
| 2 บิต คุณภาพต่ำลง | 4.7 GB | 6.2 GB | 16 GB |
บนชิป Apple ทุกรุ่น
ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Phi-4 Reasoning Vision 15B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้
| ชิป | ต้องใช้ | เวอร์ชัน | โทเค็น/วินาที |
|---|---|---|---|
| M6 | 16 GB | 4 บิต ช้า | 8–15 |
| M5 Ultra | 96 GB | 8 บิต รันได้ดี | 34–60 |
| M5 Max | 36 GB | 8 บิต รันได้ดี | 13–23 |
| M5 Pro | 24 GB | 6 บิต รันได้ดี | 11–20 |
| M5 | 16 GB | 4 บิต ช้า | 8–15 |
| M4 Max | 36 GB | 8 บิต รันได้ดี | 12–21 |
| M4 Pro | 24 GB | 6 บิต รันได้ดี | 10–18 |
| M4 | 16 GB | 4 บิต ช้า | 6–11 |
| M3 Ultra | 96 GB | 8 บิต รันได้ดี | 23–41 |
| M3 Max | 36 GB | 6 บิต รันได้ดี | 11–20 |
| M3 Pro | 18 GB | 4 บิต ช้า | 8–14 |
| M3 | 16 GB | 4 บิต ช้า | 5–10 |
| M2 Ultra | 64 GB | 8 บิต รันได้ดี | 23–40 |
| M2 Max | 32 GB | 8 บิต รันได้ดี | 11–20 |
| M2 Pro | 16 GB | 4 บิต รันได้ดี | 11–19 |
| M2 | 16 GB | 4 บิต ช้า | 5–10 |
| M1 Ultra | 64 GB | 8 บิต รันได้ดี | 23–40 |
| M1 Max | 32 GB | 8 บิต รันได้ดี | 11–20 |
| M1 Pro | 16 GB | 4 บิต รันได้ดี | 11–19 |
| M1 | 16 GB | 4 บิต ช้า | 4–6 |
วิธีรัน
- วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Phi-4 Reasoning Vision 15B ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
- ในเทอร์มินัล ด้วย MLX ของ Apple: ยังไม่มีบิลด์ MLX จากชุมชน จึงต้องสร้างเองจากค่าน้ำหนักทางการ:
pip install mlx-lmmlx_lm.convert --hf-path microsoft/Phi-4-reasoning-vision-15B -q
ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp
เกี่ยวกับ Phi-4 Reasoning Vision 15B
| ผู้พัฒนา | Microsoft |
|---|---|
| พารามิเตอร์ | 15B (dense) |
| บริบท | 16K โทเค็น |
| สัญญาอนุญาต | MIT |
| เปิดตัว | 2026-03 |
| อินพุต | ข้อความและรูปภาพ |
| ค่าน้ำหนัก | microsoft/Phi-4-reasoning-vision-15B |
คำถาม
- Phi-4 Reasoning Vision 15B ต้องใช้หน่วยความจำเท่าไร
- ค่าน้ำหนักราว 8.4 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 9.9 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 16 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
- Phi-4 Reasoning Vision 15B เร็วแค่ไหนบน Mac
- ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 34–60 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M2 Pro ที่มี 16 GB ได้ราว 11–19
- การควอนไทซ์ทำให้ Phi-4 Reasoning Vision 15B แย่ลงไหม
- ที่ 4 บิต โมเดลส่วนใหญ่ยังมีคุณภาพใกล้เคียงต้นฉบับ ต่ำกว่า 4 บิตคุณภาพจะลดลงเร็วขึ้น เลือกความแม่นยำสูงสุดที่ใส่ใน Mac ของคุณได้โดยยังมีที่เหลือ
โมเดลที่คล้ายกัน
สำหรับการ์ดโมเดลหรือ README ของคุณ
แสดง Mac ขั้นต่ำที่รัน Phi-4 Reasoning Vision 15B ได้ดี และลิงก์มาที่หน้านี้
[](https://mlx.app/run/phi-4-reasoning-vision-15b)วิธีคำนวณ
หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare