Apakah DGX Spark lebih cepat daripada M4 Max untuk LLM?

M4 Max membaca memori sekitar 100% lebih cepat daripada DGX Spark (546 vs 273 GB/s), jadi ia menulis sekitar 100% lebih cepat untuk model apa pun yang muat di keduanya. Dalam uji terukur llama.cpp, DGX Spark membaca prompt sekitar 3,5× lebih cepat (3.062 vs 886 token per detik). Membaca prompt bergantung pada daya hitung GPU, bukan bandwidth memori, dan inilah yang menentukan lama menunggu kata pertama untuk dokumen panjang atau codebase.

Mana yang bisa menjalankan model lebih besar, M4 Max atau DGX Spark?

Keduanya punya sekitar 96 GB untuk model. 47 dari 73 model terbuka populer berjalan baik di M4 Max, 39 di DGX Spark.

Apakah MLX Node berjalan di DGX Spark?

Tidak. MLX Node dan MLX Harness hanya berjalan di Mac dengan Apple Silicon, memakai framework MLX dari Apple.

M4 Max vs DGX Spark untuk LLM: memori, kecepatan, pilih mana

Berdampingan

	M4 Max	DGX Spark
Apa itu	MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024), Mac Studio (2025)	Komputer kecil yang lengkap
Ukuran memori	36, 48, 64, 128 GB	128 GB
Bandwidth memori	410–546 GB/s	273 GB/s
Untuk model, paling banyak	sekitar 96 GB	sekitar 96 GB
Model yang berjalan baik	47 dari 73	39 dari 73
Terukur: menulis	83 tok/s	57 tok/s
Terukur: membaca prompt	886 tok/s	3.062 tok/s

Baris terukur: hasil tercepat tiap mesin di benchmark publik llama.cpp dengan Llama 2 7B Q4_0, saat menulis 128 token (tg128) dan membaca prompt 512 token (pp512), dalam token per detik. Mac memakai Metal, DGX Spark memakai CUDA. Hasil Apple Silicon · Hasil DGX Spark Untuk model, kami menghitung sekitar 75% memori di keduanya, bawaan macOS, karena DGX Spark juga berbagi satu memori antara CPU dan GPU. Berapa yang benar-benar boleh dipakai GPU-nya tergantung sistem operasi dan pengaturannya.

Di mana masing-masing unggul

Kecepatan menulis. M4 Max membaca memori sekitar 100% lebih cepat daripada DGX Spark (546 vs 273 GB/s), jadi ia menulis sekitar 100% lebih cepat untuk model apa pun yang muat di keduanya.
Ukuran model. Keduanya punya sekitar 96 GB untuk model. 47 dari 73 model terbuka populer berjalan baik di M4 Max, 39 di DGX Spark.
Membaca prompt panjang. Dalam uji terukur llama.cpp, DGX Spark membaca prompt sekitar 3,5× lebih cepat (3.062 vs 886 token per detik). Membaca prompt bergantung pada daya hitung GPU, bukan bandwidth memori, dan inilah yang menentukan lama menunggu kata pertama untuk dokumen panjang atau codebase.
Perangkat lunak. DGX Spark memakai CUDA dari NVIDIA, yang didukung lebih dulu oleh sebagian besar perangkat lunak AI, termasuk kode pelatihan dan banyak alat gambar serta video. Di Mac, model dijalankan dengan MLX, backend Metal llama.cpp, atau backend MPS PyTorch.
Di sekitarnya. Keduanya komputer lengkap yang menyimpan model dalam satu memori bersama untuk CPU dan GPU.
Mac. Ini juga komputer sehari-hari, dan menjalankan MLX Harness serta MLX Node, yang dibuat untuk Apple Silicon.

Kecepatan dengan model populer

Token per detik untuk satu percakapan, setiap chip pada ukuran memori terbesarnya (128 GB dan 128 GB), dengan versi terbaik model yang muat.

Model	M4 Max	DGX Spark
Llama 3.1 8B Instruct8B	29–51 8-bit	14–26 8-bit
gpt-oss-20b21B · 3,6B aktif	129–230 4,25-bit bawaan	65–115 4,25-bit bawaan
Qwen3.6 35B A3B35B · 3B aktif	77–137 8-bit	38–68 8-bit
Qwen3.8 27B27B	11–20 6-bit	4–8 8-bit
Llama 3.3 70B Instruct70B	3–6 8-bit	2–3 8-bit
gpt-oss-120b117B · 5,1B aktif	91–162 4,25-bit bawaan	45–81 4,25-bit bawaan
Qwen3.5 122B A10B122B · 10B aktif	44–78 4-bit	22–39 4-bit
DeepSeek V4 Flash 0731284B · 13B aktif	60–107 2-bit kualitas lebih rendah	30–53 2-bit kualitas lebih rendah

Pertanyaan

Apakah DGX Spark lebih cepat daripada M4 Max untuk LLM?: M4 Max membaca memori sekitar 100% lebih cepat daripada DGX Spark (546 vs 273 GB/s), jadi ia menulis sekitar 100% lebih cepat untuk model apa pun yang muat di keduanya. Dalam uji terukur llama.cpp, DGX Spark membaca prompt sekitar 3,5× lebih cepat (3.062 vs 886 token per detik). Membaca prompt bergantung pada daya hitung GPU, bukan bandwidth memori, dan inilah yang menentukan lama menunggu kata pertama untuk dokumen panjang atau codebase.
Mana yang bisa menjalankan model lebih besar, M4 Max atau DGX Spark?: Keduanya punya sekitar 96 GB untuk model. 47 dari 73 model terbuka populer berjalan baik di M4 Max, 39 di DGX Spark.
Apakah MLX Node berjalan di DGX Spark?: Tidak. MLX Node dan MLX Harness hanya berjalan di Mac dengan Apple Silicon, memakai framework MLX dari Apple.

Perbandingan lainnya

M4 Max untuk AI lokal · Bandingkan semua model · Mac terbaik untuk LLM lokal

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.

Data DGX Spark: NVIDIA: DGX Spark (specs).