Memori pada setiap kepersisan
| Versi | Pemberat | Dengan konteks | Mac terkecil |
|---|---|---|---|
| 8-bit | 15.9 GB | 17.4 GB | 24 GB |
| 6-bit | 12.2 GB | 13.7 GB | 24 GB |
| 4-bit | 8.4 GB | 9.9 GB | 16 GB |
| 3-bit kualiti lebih rendah | 6.6 GB | 8.1 GB | 16 GB |
| 2-bit kualiti lebih rendah | 4.7 GB | 6.2 GB | 16 GB |
Pada setiap cip Apple
Saiz memori terkecil setiap cip yang menjalankan Phi-4 Reasoning Vision 15B, versi terbaik yang muat, dan kelajuan menulis yang boleh anda jangkakan.
| Cip | Perlu | Versi | Token/s |
|---|---|---|---|
| M6 | 16 GB | 4-bit Perlahan | 8–15 |
| M5 Ultra | 96 GB | 8-bit Berjalan baik | 34–60 |
| M5 Max | 36 GB | 8-bit Berjalan baik | 13–23 |
| M5 Pro | 24 GB | 6-bit Berjalan baik | 11–20 |
| M5 | 16 GB | 4-bit Perlahan | 8–15 |
| M4 Max | 36 GB | 8-bit Berjalan baik | 12–21 |
| M4 Pro | 24 GB | 6-bit Berjalan baik | 10–18 |
| M4 | 16 GB | 4-bit Perlahan | 6–11 |
| M3 Ultra | 96 GB | 8-bit Berjalan baik | 23–41 |
| M3 Max | 36 GB | 6-bit Berjalan baik | 11–20 |
| M3 Pro | 18 GB | 4-bit Perlahan | 8–14 |
| M3 | 16 GB | 4-bit Perlahan | 5–10 |
| M2 Ultra | 64 GB | 8-bit Berjalan baik | 23–40 |
| M2 Max | 32 GB | 8-bit Berjalan baik | 11–20 |
| M2 Pro | 16 GB | 4-bit Berjalan baik | 11–19 |
| M2 | 16 GB | 4-bit Perlahan | 5–10 |
| M1 Ultra | 64 GB | 8-bit Berjalan baik | 23–40 |
| M1 Max | 32 GB | 8-bit Berjalan baik | 11–20 |
| M1 Pro | 16 GB | 4-bit Berjalan baik | 11–19 |
| M1 | 16 GB | 4-bit Perlahan | 4–6 |
Cara menjalankannya
- Cara mudah: muat turun MLX Harness, percuma dan sumber terbuka. Cari Phi-4 Reasoning Vision 15B, muat turun versi yang sesuai dengan Mac anda, dan mula bersembang. Ia juga menyediakan model kepada aplikasi anda yang lain melalui API yang serasi dengan OpenAI.Muat turun MLX HarnessPercuma · Apple Silicon · macOS 14.5 atau lebih baharu
- Dalam Terminal dengan MLX daripada Apple: Belum ada binaan MLX daripada komuniti, jadi buat satu daripada pemberat rasmi:
pip install mlx-lmmlx_lm.convert --hf-path microsoft/Phi-4-reasoning-vision-15B -q
Langkah demi langkah: muat turun dan jalankan LLM pada Mac · cara menggunakan MLX Harness · MLX vs Ollama vs llama.cpp
Tentang Phi-4 Reasoning Vision 15B
| Dibuat oleh | Microsoft |
|---|---|
| Parameter | 15B (padat) |
| Konteks | 16K token |
| Lesen | MIT |
| Dikeluarkan | 2026-03 |
| Input | Teks dan imej |
| Pemberat | microsoft/Phi-4-reasoning-vision-15B |
Soalan
- Berapakah memori yang diperlukan oleh Phi-4 Reasoning Vision 15B?
- Kira-kira 8.4 GB pemberat pada 4-bit, serta ruang untuk konteks: 9.9 GB kesemuanya. Pada Mac, ini bermakna 16 GB memori bersatu atau lebih, kerana secara lalai macOS membenarkan GPU menggunakan kira-kira 75% daripadanya.
- Sepantas mana Phi-4 Reasoning Vision 15B pada Mac?
- Kelajuan menulis bergantung pada lebar jalur memori. Mac terpantas untuknya di sini ialah M5 Ultra dengan 96 GB, kira-kira 34–60 token sesaat (8-bit). Mac terkecil yang menjalankannya, dengan 16 GB, mencapai kira-kira 11–19 pada M2 Pro.
- Adakah pengkuantuman menjejaskan Phi-4 Reasoning Vision 15B?
- Pada 4 bit, kebanyakan model kekal hampir dengan kualiti asal; di bawah 4 bit kualiti menurun lebih cepat. Pilih kepersisan tertinggi yang muat dalam Mac anda dengan ruang lebihan.
Model serupa
Untuk kad model atau README anda
Menunjukkan Mac terkecil yang menjalankan Phi-4 Reasoning Vision 15B dengan baik dan memaut ke sini.
[](https://mlx.app/run/phi-4-reasoning-vision-15b)Cara ia dikira
Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.