IngiaFungua pochi

MacBook Pro yenye M4 kwa AI ya ndani.

M4 husoma kumbukumbu kwa 120 GB/s, jambo linaloamua kasi yake ya kuandika. Kumbukumbu huamua modeli zipi zinatosha, na haiwezi kuongezwa baadaye, kwa hivyo chagua ukubwa hapa.

16 GBModeli 19 zinaenda vizuriQwen3.5 9B · 11–19 tok/s24 GBModeli 22 zinaenda vizuriGemma 4 26B A4B · 26–46 tok/s32 GBModeli 27 zinaenda vizuriQwen3.6 35B A3B · 32–56 tok/s

Kwa ukubwa wa kumbukumbu

KumbukumbuZinaenda vizuriKubwa zaidi inayoenda vizurigpt-oss-20b
16 GB120 GB/s19Qwen3.5 9B34–60 tok/s
24 GB120 GB/s22Gemma 4 26B A4B28–51 tok/s
32 GB120 GB/s27Qwen3.6 35B A3B28–51 tok/s

Modeli za Mac: MacBook Pro (14-inch, M4, 2024). Si kila ukubwa wa kumbukumbu unapatikana kwa kila modeli ya Mac; Tech Specs za Apple zinaorodhesha kile ambacho kila moja inakuja nacho.

Maswali

Je, MacBook Pro yenye M4 inafaa kwa LLM za ndani?
Ikiwa na GB 32 huendesha vizuri modeli huria 27 kati ya 73, hadi Qwen3.6 35B A3B, na huandika takriban tokeni 28–51 kwa sekunde na gpt-oss-20b. M4 husoma kumbukumbu kwa 120 GB/s, jambo linaloamua kasi yake ya kuandika.
MacBook Pro yenye M4 inapaswa kuwa na kumbukumbu kiasi gani kwa AI?
Ikiwa na GB 16 huendesha vizuri modeli huria 19; ikiwa na GB 32, 27, hadi Qwen3.6 35B A3B. Kumbukumbu huamua modeli zipi zinatosha, na haiwezi kuongezwa baadaye.

Mac nyingine

MacBook Pro yenye chipu nyingine:

Mac nyingine zenye M4:

Ana kwa ana:

M4 kwa AI ya ndani ya kifaa · Mac bora kwa LLM za ndani · Kila Mac

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.

MacBook Pro yenye M4 kwa AI ya ndani: LLM zipi inaendesha