Kumbukumbu kwa kila usahihi
| Toleo | Weights | Pamoja na context | Mac ndogo zaidi |
|---|---|---|---|
| 8-bit | 15.9 GB | 17.4 GB | 24 GB |
| 6-bit | 12.2 GB | 13.7 GB | 24 GB |
| 4-bit | 8.4 GB | 9.9 GB | 16 GB |
| 3-bit ubora wa chini | 6.6 GB | 8.1 GB | 16 GB |
| 2-bit ubora wa chini | 4.7 GB | 6.2 GB | 16 GB |
Kwenye kila chipu ya Apple
Ukubwa mdogo zaidi wa kumbukumbu wa kila chipu unaoendesha Phi-4 Reasoning Vision 15B, toleo bora linalotosha humo, na kasi ya kuandika unayoweza kutarajia.
| Chipu | Inahitaji | Toleo | Tokeni/s |
|---|---|---|---|
| M6 | 16 GB | 4-bit Polepole | 8–15 |
| M5 Ultra | 96 GB | 8-bit Inaenda vizuri | 34–60 |
| M5 Max | 36 GB | 8-bit Inaenda vizuri | 13–23 |
| M5 Pro | 24 GB | 6-bit Inaenda vizuri | 11–20 |
| M5 | 16 GB | 4-bit Polepole | 8–15 |
| M4 Max | 36 GB | 8-bit Inaenda vizuri | 12–21 |
| M4 Pro | 24 GB | 6-bit Inaenda vizuri | 10–18 |
| M4 | 16 GB | 4-bit Polepole | 6–11 |
| M3 Ultra | 96 GB | 8-bit Inaenda vizuri | 23–41 |
| M3 Max | 36 GB | 6-bit Inaenda vizuri | 11–20 |
| M3 Pro | 18 GB | 4-bit Polepole | 8–14 |
| M3 | 16 GB | 4-bit Polepole | 5–10 |
| M2 Ultra | 64 GB | 8-bit Inaenda vizuri | 23–40 |
| M2 Max | 32 GB | 8-bit Inaenda vizuri | 11–20 |
| M2 Pro | 16 GB | 4-bit Inaenda vizuri | 11–19 |
| M2 | 16 GB | 4-bit Polepole | 5–10 |
| M1 Ultra | 64 GB | 8-bit Inaenda vizuri | 23–40 |
| M1 Max | 32 GB | 8-bit Inaenda vizuri | 11–20 |
| M1 Pro | 16 GB | 4-bit Inaenda vizuri | 11–19 |
| M1 | 16 GB | 4-bit Polepole | 4–6 |
Jinsi ya kuiendesha
- Njia rahisi: pakua MLX Harness, bure na open source. Tafuta Phi-4 Reasoning Vision 15B, pakua toleo linalotosha Mac yako, na anza kuzungumza. Pia huipa programu zako nyingine modeli kupitia API inayooana na OpenAI.Pakua MLX HarnessBure · Apple Silicon · macOS 14.5 au mpya zaidi
- Ndani ya Terminal kwa MLX ya Apple: Bado hakuna toleo la MLX la jumuiya, kwa hiyo tengeneza moja kutoka kwa weights rasmi:
pip install mlx-lmmlx_lm.convert --hf-path microsoft/Phi-4-reasoning-vision-15B -q
Hatua kwa hatua: pakua na uendeshe LLM kwenye Mac · jinsi ya kutumia MLX Harness · MLX dhidi ya Ollama dhidi ya llama.cpp
Kuhusu Phi-4 Reasoning Vision 15B
| Imetengenezwa na | Microsoft |
|---|---|
| Vigezo | 15B (dense) |
| Context | tokeni 16K |
| Leseni | MIT |
| Ilitolewa | 2026-03 |
| Ingizo | Maandishi na picha |
| Weights | microsoft/Phi-4-reasoning-vision-15B |
Maswali
- Phi-4 Reasoning Vision 15B inahitaji kumbukumbu kiasi gani?
- Takriban 8.4 GB ya weights kwa 4-bit, pamoja na nafasi ya context: 9.9 GB kwa jumla. Kwenye Mac hiyo inamaanisha GB 16 za unified memory au zaidi, kwa kuwa kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% yake.
- Phi-4 Reasoning Vision 15B ina kasi gani kwenye Mac?
- Kasi ya kuandika hutegemea bandwidth ya kumbukumbu. Mac yenye kasi zaidi kwa modeli hii hapa ni M5 Ultra yenye GB 96, kwa takriban tokeni 34–60 kwa sekunde (8-bit). Mac ndogo zaidi inayoiendesha, yenye GB 16, hufikia takriban 11–19 kwenye M2 Pro.
- Je, quantization hudhuru Phi-4 Reasoning Vision 15B?
- Kwa biti 4 modeli nyingi hubaki karibu na ubora asili; chini ya biti 4 ubora hushuka haraka zaidi. Chagua usahihi wa juu zaidi unaotosha Mac yako na kubakiza nafasi.
Modeli zinazofanana
Kwa kadi ya modeli yako au README
Huonyesha Mac ndogo zaidi inayoendesha Phi-4 Reasoning Vision 15B vizuri na huunganisha hapa.
[](https://mlx.app/run/phi-4-reasoning-vision-15b)Jinsi inavyokokotolewa
Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.