Memori di setiap presisi
| Versi | Bobot | Dengan konteks | Mac terkecil |
|---|---|---|---|
| 8-bit | 15,9 GB | 17,4 GB | 24 GB |
| 6-bit | 12,2 GB | 13,7 GB | 24 GB |
| 4-bit | 8,4 GB | 9,9 GB | 16 GB |
| 3-bit kualitas lebih rendah | 6,6 GB | 8,1 GB | 16 GB |
| 2-bit kualitas lebih rendah | 4,7 GB | 6,2 GB | 16 GB |
Di setiap chip Apple
Ukuran memori terkecil setiap chip yang bisa menjalankan Phi-4 Reasoning Vision 15B, versi terbaik yang muat, dan kecepatan menulis yang bisa Anda harapkan.
| Chip | Butuh | Versi | Token/s |
|---|---|---|---|
| M6 | 16 GB | 4-bit Lambat | 8–15 |
| M5 Ultra | 96 GB | 8-bit Berjalan baik | 34–60 |
| M5 Max | 36 GB | 8-bit Berjalan baik | 13–23 |
| M5 Pro | 24 GB | 6-bit Berjalan baik | 11–20 |
| M5 | 16 GB | 4-bit Lambat | 8–15 |
| M4 Max | 36 GB | 8-bit Berjalan baik | 12–21 |
| M4 Pro | 24 GB | 6-bit Berjalan baik | 10–18 |
| M4 | 16 GB | 4-bit Lambat | 6–11 |
| M3 Ultra | 96 GB | 8-bit Berjalan baik | 23–41 |
| M3 Max | 36 GB | 6-bit Berjalan baik | 11–20 |
| M3 Pro | 18 GB | 4-bit Lambat | 8–14 |
| M3 | 16 GB | 4-bit Lambat | 5–10 |
| M2 Ultra | 64 GB | 8-bit Berjalan baik | 23–40 |
| M2 Max | 32 GB | 8-bit Berjalan baik | 11–20 |
| M2 Pro | 16 GB | 4-bit Berjalan baik | 11–19 |
| M2 | 16 GB | 4-bit Lambat | 5–10 |
| M1 Ultra | 64 GB | 8-bit Berjalan baik | 23–40 |
| M1 Max | 32 GB | 8-bit Berjalan baik | 11–20 |
| M1 Pro | 16 GB | 4-bit Berjalan baik | 11–19 |
| M1 | 16 GB | 4-bit Lambat | 4–6 |
Cara menjalankannya
- Cara mudah: unduh MLX Harness, gratis dan open source. Cari Phi-4 Reasoning Vision 15B, unduh versi yang cocok untuk Mac Anda, lalu mulai chat. Aplikasi ini juga menyajikan model ke aplikasi Anda yang lain melalui API yang kompatibel dengan OpenAI.Unduh MLX HarnessGratis · Apple Silicon · macOS 14.5 atau lebih baru
- Di Terminal dengan MLX dari Apple: Belum ada build MLX dari komunitas, jadi buat sendiri dari bobot resmi:
pip install mlx-lmmlx_lm.convert --hf-path microsoft/Phi-4-reasoning-vision-15B -q
Langkah demi langkah: unduh dan jalankan LLM di Mac · cara memakai MLX Harness · MLX vs Ollama vs llama.cpp
Tentang Phi-4 Reasoning Vision 15B
| Dibuat oleh | Microsoft |
|---|---|
| Parameter | 15B (dense) |
| Konteks | 16K token |
| Lisensi | MIT |
| Dirilis | 2026-03 |
| Input | Teks dan gambar |
| Bobot | microsoft/Phi-4-reasoning-vision-15B |
Pertanyaan
- Berapa memori yang dibutuhkan Phi-4 Reasoning Vision 15B?
- Sekitar 8,4 GB untuk bobot pada 4-bit, ditambah ruang untuk konteks: total 9,9 GB. Di Mac artinya memori terpadu 16 GB atau lebih, karena secara bawaan macOS mengizinkan GPU memakai sekitar 75% darinya.
- Seberapa cepat Phi-4 Reasoning Vision 15B di Mac?
- Kecepatan menulis bergantung pada bandwidth memori. Mac tercepat untuknya di sini adalah M5 Ultra dengan 96 GB, sekitar 34–60 token per detik (8-bit). Mac terkecil yang bisa menjalankannya, dengan 16 GB, mencapai sekitar 11–19 pada M2 Pro.
- Apakah kuantisasi menurunkan kualitas Phi-4 Reasoning Vision 15B?
- Pada 4 bit, sebagian besar model tetap mendekati kualitas aslinya; di bawah 4 bit kualitas turun lebih cepat. Pilih presisi tertinggi yang muat di Mac Anda dengan ruang tersisa.
Model serupa
Untuk kartu model atau README Anda
Menampilkan Mac terkecil yang menjalankan Phi-4 Reasoning Vision 15B dengan baik dan menautkan ke sini.
[](https://mlx.app/run/phi-4-reasoning-vision-15b)Cara menghitungnya
Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.