Berapakah memori yang diperlukan oleh Qwen3 Coder Next?

Kira-kira 45 GB pemberat pada 4-bit, serta ruang untuk konteks: 48.6 GB kesemuanya. Pada Mac, ini bermakna 96 GB memori bersatu atau lebih, kerana secara lalai macOS membenarkan GPU menggunakan kira-kira 75% daripadanya.

Sepantas mana Qwen3 Coder Next pada Mac?

Kelajuan menulis bergantung pada lebar jalur memori. Mac terpantas untuknya di sini ialah M5 Ultra dengan 96 GB, kira-kira 225–400 token sesaat (6-bit). Mac terkecil yang menjalankannya, dengan 96 GB, mencapai kira-kira 225–400 pada M5 Ultra.

Mengapakah Qwen3 Coder Next berjalan lebih pantas daripada saiznya?

Ia model mixture-of-experts: ia menyimpan 80B parameter dalam memori tetapi hanya membaca 3B bagi setiap token, jadi ia menulis sepantas model yang jauh lebih kecil.

Bolehkah Mac jalankan Qwen3 Coder Next? RAM, kelajuan

Memori pada setiap kepersisan

Versi	Pemberat	Dengan konteks	Mac terkecil
8-bit	85 GB	91.8 GB	128 GB
6-bit	65 GB	70.2 GB	96 GB
4-bit	45 GB	48.6 GB	96 GB
3-bit kualiti lebih rendah	35 GB	37.8 GB	64 GB
2-bit kualiti lebih rendah	25 GB	27 GB	36 GB

Pada setiap cip Apple

Saiz memori terkecil setiap cip yang menjalankan Qwen3 Coder Next, versi terbaik yang muat, dan kelajuan menulis yang boleh anda jangkakan.

Cip	Perlu	Versi	Token/s
M6	32 GB	2-bit Cukup-cukup muat	85–151
M5 Ultra	96 GB	6-bit Berjalan baik	225–400
M5 Max	128 GB	8-bit Berjalan baik	86–154
M5 Pro	48 GB	2-bit Berjalan baik	154–273
M5	32 GB	2-bit Cukup-cukup muat	77–136
M4 Max	128 GB	8-bit Berjalan baik	77–137
M4 Pro	48 GB	2-bit Berjalan baik	137–243
M4	32 GB	2-bit Cukup-cukup muat	60–107
M3 Ultra	96 GB	6-bit Berjalan baik	154–273
M3 Max	96 GB	6-bit Berjalan baik	56–100
M3 Pro	36 GB	2-bit Berjalan baik	75–133
M3	tiada saiz yang muat	Terlalu besar	–
M2 Ultra	128 GB	8-bit Berjalan baik	113–200
M2 Max	96 GB	6-bit Berjalan baik	75–133
M2 Pro	32 GB	2-bit Cukup-cukup muat	100–178
M2	tiada saiz yang muat	Terlalu besar	–
M1 Ultra	128 GB	8-bit Berjalan baik	113–200
M1 Max	64 GB	3-bit Berjalan baik	138–246
M1 Pro	32 GB	2-bit Cukup-cukup muat	100–178
M1	tiada saiz yang muat	Terlalu besar	–

Cara menjalankannya

Cara mudah: muat turun MLX Harness, percuma dan sumber terbuka. Cari Qwen3 Coder Next, muat turun versi yang sesuai dengan Mac anda, dan mula bersembang. Ia juga menyediakan model kepada aplikasi anda yang lain melalui API yang serasi dengan OpenAI.Muat turun MLX HarnessPercuma · Apple Silicon · macOS 14.5 atau lebih baharu
Dalam Terminal dengan MLX daripada Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Qwen3-Coder-Next-4bitBinaan: mlx-community/Qwen3-Coder-Next-4bit di Hugging Face. Kepersisan lain ada di sebelahnya.

Langkah demi langkah: muat turun dan jalankan LLM pada Mac · cara menggunakan MLX Harness · MLX vs Ollama vs llama.cpp

Tentang Qwen3 Coder Next

Dibuat oleh	Qwen (Alibaba)
Parameter	80B jumlah · 3B aktif (mixture of experts)
Konteks	256K token
Lesen	Apache-2.0
Dikeluarkan	2026-01
Input	Teks
Kecerdasan	9.2 dalam Artificial Analysis Intelligence Index
Pemberat	Qwen/Qwen3-Coder-Next

Soalan

Berapakah memori yang diperlukan oleh Qwen3 Coder Next?: Kira-kira 45 GB pemberat pada 4-bit, serta ruang untuk konteks: 48.6 GB kesemuanya. Pada Mac, ini bermakna 96 GB memori bersatu atau lebih, kerana secara lalai macOS membenarkan GPU menggunakan kira-kira 75% daripadanya.
Sepantas mana Qwen3 Coder Next pada Mac?: Kelajuan menulis bergantung pada lebar jalur memori. Mac terpantas untuknya di sini ialah M5 Ultra dengan 96 GB, kira-kira 225–400 token sesaat (6-bit). Mac terkecil yang menjalankannya, dengan 96 GB, mencapai kira-kira 225–400 pada M5 Ultra.
Mengapakah Qwen3 Coder Next berjalan lebih pantas daripada saiznya?: Ia model mixture-of-experts: ia menyimpan 80B parameter dalam memori tetapi hanya membaca 3B bagi setiap token, jadi ia menulis sepantas model yang jauh lebih kecil.

Model serupa

Semua model · Semua Mac · Bandingkan Mac anda

Untuk kad model atau README anda

Menunjukkan Mac terkecil yang menjalankan Qwen3 Coder Next dengan baik dan memaut ke sini.

[![Runs on a Mac](https://mlx.app/badge/run/qwen3-coder-next.svg)](https://mlx.app/run/qwen3-coder-next)

Cara ia dikira

Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.