Je, Mac inaweza kuendesha Phi-4 Reasoning Vision 15B?

Ndiyo, ukiwa na GB 16 za unified memory au zaidi. Phi-4 Reasoning Vision 15B ina vigezo 15B; hii ndiyo kumbukumbu inayohitaji kwa kila usahihi na kasi ambayo kila chipu ya Apple huiendesha.

Kumbukumbu kwa 4-bit9.9 GBweights 8.4 GB + context
Mac ndogo zaidi16 GB4-bit · usanidi 55 wa Mac
Mac yenye kasi zaidi34–60tokeni/s · M5 Ultra GB 96 (makadirio)

Kumbukumbu kwa kila usahihi

ToleoWeightsPamoja na contextMac ndogo zaidi
8-bit15.9 GB17.4 GB24 GB
6-bit12.2 GB13.7 GB24 GB
4-bit8.4 GB9.9 GB16 GB
3-bit ubora wa chini6.6 GB8.1 GB16 GB
2-bit ubora wa chini4.7 GB6.2 GB16 GB

Kwenye kila chipu ya Apple

Ukubwa mdogo zaidi wa kumbukumbu wa kila chipu unaoendesha Phi-4 Reasoning Vision 15B, toleo bora linalotosha humo, na kasi ya kuandika unayoweza kutarajia.

ChipuInahitajiToleoTokeni/s
M616 GB4-bit Polepole8–15
M5 Ultra96 GB8-bit Inaenda vizuri34–60
M5 Max36 GB8-bit Inaenda vizuri13–23
M5 Pro24 GB6-bit Inaenda vizuri11–20
M516 GB4-bit Polepole8–15
M4 Max36 GB8-bit Inaenda vizuri12–21
M4 Pro24 GB6-bit Inaenda vizuri10–18
M416 GB4-bit Polepole6–11
M3 Ultra96 GB8-bit Inaenda vizuri23–41
M3 Max36 GB6-bit Inaenda vizuri11–20
M3 Pro18 GB4-bit Polepole8–14
M316 GB4-bit Polepole5–10
M2 Ultra64 GB8-bit Inaenda vizuri23–40
M2 Max32 GB8-bit Inaenda vizuri11–20
M2 Pro16 GB4-bit Inaenda vizuri11–19
M216 GB4-bit Polepole5–10
M1 Ultra64 GB8-bit Inaenda vizuri23–40
M1 Max32 GB8-bit Inaenda vizuri11–20
M1 Pro16 GB4-bit Inaenda vizuri11–19
M116 GB4-bit Polepole4–6

Jinsi ya kuiendesha

  1. Njia rahisi: pakua MLX Harness, bure na open source. Tafuta Phi-4 Reasoning Vision 15B, pakua toleo linalotosha Mac yako, na anza kuzungumza. Pia huipa programu zako nyingine modeli kupitia API inayooana na OpenAI.Pakua MLX HarnessBure · Apple Silicon · macOS 14.5 au mpya zaidi
  2. Ndani ya Terminal kwa MLX ya Apple: Bado hakuna toleo la MLX la jumuiya, kwa hiyo tengeneza moja kutoka kwa weights rasmi:pip install mlx-lmmlx_lm.convert --hf-path microsoft/Phi-4-reasoning-vision-15B -q

Hatua kwa hatua: pakua na uendeshe LLM kwenye Mac · jinsi ya kutumia MLX Harness · MLX dhidi ya Ollama dhidi ya llama.cpp

Kuhusu Phi-4 Reasoning Vision 15B

Imetengenezwa naMicrosoft
Vigezo15B (dense)
Contexttokeni 16K
LeseniMIT
Ilitolewa2026-03
IngizoMaandishi na picha
Weightsmicrosoft/Phi-4-reasoning-vision-15B

Maswali

Phi-4 Reasoning Vision 15B inahitaji kumbukumbu kiasi gani?
Takriban 8.4 GB ya weights kwa 4-bit, pamoja na nafasi ya context: 9.9 GB kwa jumla. Kwenye Mac hiyo inamaanisha GB 16 za unified memory au zaidi, kwa kuwa kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% yake.
Phi-4 Reasoning Vision 15B ina kasi gani kwenye Mac?
Kasi ya kuandika hutegemea bandwidth ya kumbukumbu. Mac yenye kasi zaidi kwa modeli hii hapa ni M5 Ultra yenye GB 96, kwa takriban tokeni 34–60 kwa sekunde (8-bit). Mac ndogo zaidi inayoiendesha, yenye GB 16, hufikia takriban 11–19 kwenye M2 Pro.
Je, quantization hudhuru Phi-4 Reasoning Vision 15B?
Kwa biti 4 modeli nyingi hubaki karibu na ubora asili; chini ya biti 4 ubora hushuka haraka zaidi. Chagua usahihi wa juu zaidi unaotosha Mac yako na kubakiza nafasi.

Modeli zinazofanana

Kila modeli · Kila Mac · Linganisha Mac yako

Kwa kadi ya modeli yako au README

Runs on a Mac: Phi-4 Reasoning Vision 15B Huonyesha Mac ndogo zaidi inayoendesha Phi-4 Reasoning Vision 15B vizuri na huunganisha hapa.

[![Runs on a Mac](https://mlx.app/badge/run/phi-4-reasoning-vision-15b.svg)](https://mlx.app/run/phi-4-reasoning-vision-15b)

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.

Mac inaweza kuendesha Phi-4 Reasoning Vision 15B? Kumbukumbu, kasi