IngiaFungua pochi

Je, Mac inaweza kuendesha Qwen3 0.6B?

Ndiyo, ukiwa na GB 8 za unified memory au zaidi. Qwen3 0.6B ina vigezo 0.6B; hii ndiyo kumbukumbu inayohitaji kwa kila usahihi na kasi ambayo kila chipu ya Apple huiendesha.

Kumbukumbu kwa 4-bit1.8 GBweights 0.3 GB + context
Mac ndogo zaidi8 GB8-bit · usanidi 58 wa Mac
Mac yenye kasi zaidi900–1600tokeni/s · M5 Ultra GB 96 (makadirio)

Kumbukumbu kwa kila usahihi

ToleoWeightsPamoja na contextMac ndogo zaidi
8-bit0.6 GB2.1 GB8 GB
6-bit0.5 GB2 GB8 GB
4-bit0.3 GB1.8 GB8 GB
3-bit ubora wa chini0.3 GB1.8 GB8 GB
2-bit ubora wa chini0.2 GB1.7 GB8 GB

Kwenye kila chipu ya Apple

Ukubwa mdogo zaidi wa kumbukumbu wa kila chipu unaoendesha Qwen3 0.6B, toleo bora linalotosha humo, na kasi ya kuandika unayoweza kutarajia.

ChipuInahitajiToleoTokeni/s
M616 GB8-bit Inaenda vizuri115–204
M5 Ultra96 GB8-bit Inaenda vizuri900–1600
M5 Max36 GB8-bit Inaenda vizuri345–613
M5 Pro24 GB8-bit Inaenda vizuri230–409
M516 GB8-bit Inaenda vizuri115–204
M4 Max36 GB8-bit Inaenda vizuri308–547
M4 Pro24 GB8-bit Inaenda vizuri205–364
M416 GB8-bit Inaenda vizuri90–160
M3 Ultra96 GB8-bit Inaenda vizuri614–1092
M3 Max36 GB8-bit Inaenda vizuri225–400
M3 Pro18 GB8-bit Inaenda vizuri113–200
M38 GB8-bit Inaenda vizuri75–133
M2 Ultra64 GB8-bit Inaenda vizuri600–1067
M2 Max32 GB8-bit Inaenda vizuri300–533
M2 Pro16 GB8-bit Inaenda vizuri150–267
M28 GB8-bit Inaenda vizuri75–133
M1 Ultra64 GB8-bit Inaenda vizuri600–1067
M1 Max32 GB8-bit Inaenda vizuri300–533
M1 Pro16 GB8-bit Inaenda vizuri150–267
M18 GB8-bit Inaenda vizuri51–91

Jinsi ya kuiendesha

  1. Njia rahisi: pakua MLX Harness, bure na open source. Tafuta Qwen3 0.6B, pakua toleo linalotosha Mac yako, na anza kuzungumza. Pia huipa programu zako nyingine modeli kupitia API inayooana na OpenAI.Pakua MLX HarnessBure · Apple Silicon · macOS 14.5 au mpya zaidi
  2. Ndani ya Terminal kwa MLX ya Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-0.6B-4bitToleo: mlx-community/Qwen3-0.6B-4bit kwenye Hugging Face. Usahihi mwingine uko kando yake.

Hatua kwa hatua: pakua na uendeshe LLM kwenye Mac · jinsi ya kutumia MLX Harness · MLX dhidi ya Ollama dhidi ya llama.cpp

Kuhusu Qwen3 0.6B

Imetengenezwa naQwen (Alibaba)
Vigezo0.6B (dense)
Contexttokeni 40K
LeseniApache-2.0
Ilitolewa2025-04
IngizoMaandishi
WeightsQwen/Qwen3-0.6B

Maswali

Qwen3 0.6B inahitaji kumbukumbu kiasi gani?
Takriban 0.3 GB ya weights kwa 4-bit, pamoja na nafasi ya context: 1.8 GB kwa jumla. Kwenye Mac hiyo inamaanisha GB 8 za unified memory au zaidi, kwa kuwa kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% yake.
Qwen3 0.6B ina kasi gani kwenye Mac?
Kasi ya kuandika hutegemea bandwidth ya kumbukumbu. Mac yenye kasi zaidi kwa modeli hii hapa ni M5 Ultra yenye GB 96, kwa takriban tokeni 900–1600 kwa sekunde (8-bit). Mac ndogo zaidi inayoiendesha, yenye GB 8, hufikia takriban 75–133 kwenye M3.
Je, quantization hudhuru Qwen3 0.6B?
Kwa biti 4 modeli nyingi hubaki karibu na ubora asili; chini ya biti 4 ubora hushuka haraka zaidi. Chagua usahihi wa juu zaidi unaotosha Mac yako na kubakiza nafasi.

Modeli zinazofanana

Kila modeli · Kila Mac · Linganisha Mac yako

Kwa kadi ya modeli yako au README

Runs on a Mac: Qwen3 0.6B Huonyesha Mac ndogo zaidi inayoendesha Qwen3 0.6B vizuri na huunganisha hapa.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-0.6b.svg)](https://mlx.app/run/qwen3-0.6b)

Jinsi inavyokokotolewa

Kumbukumbu: vigezo vya modeli kwa biti 8, 6, 4, 3 au 2 kwa kila weight pamoja na group scales za MLX (nusu biti kwa kila weight), au muundo wake asili, pamoja na nafasi ya context juu yake. Kwa chaguo-msingi macOS huiruhusu GPU kutumia takriban 75% ya unified memory. Kasi: bandwidth ya kumbukumbu ikigawanywa kwa baiti zinazosomwa kwa kila tokeni ndiyo kikomo cha juu kwa mazungumzo moja; katika benchmarks za umma za llama.cpp kwenye Apple Silicon uendeshaji halisi hufikia takriban 45% hadi 80% yake, na huo ndio upana unaoonyeshwa. Haya ni makadirio, si vipimo: pima Mac yako mwenyewe kwenye MLX Bench. Takwimu za modeli ni kutoka kwa kadi rasmi ya kila modeli, takwimu za chipu ni kutoka Tech Specs za Apple. Imekaguliwa 2026-10-19. Data ileile ya mlx.app/compare.

Mac inaweza kuendesha Qwen3 0.6B? Kumbukumbu, kasi