MasukBuat dompet

MacBook Pro dengan M3 Max untuk AI lokal.

M3 Max membaca memori pada 400 GB/s, yang menentukan kecepatan menulisnya. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti, jadi pilih ukurannya di sini.

64 GB39 model berjalan baikNemotron 3.5 Bolt 74B A9B · 35–63 tok/s96 GB38 model berjalan baikgpt-oss-120b · 50–89 tok/s128 GB47 model berjalan baikQwen3.5 122B A10B · 32–57 tok/s

Menurut ukuran memori

MemoriBerjalan baikTerbesar yang berjalan baikgpt-oss-20b
36 GB300 GB/s33Qwen3.6 35B A3B71–126 tok/s
48 GB400 GB/s38Qwen3.6 35B A3B95–168 tok/s
64 GB400 GB/s39Nemotron 3.5 Bolt 74B A9B95–168 tok/s
96 GB300 GB/s38gpt-oss-120b71–126 tok/s
128 GB400 GB/s47Qwen3.5 122B A10B95–168 tok/s

Model: MacBook Pro (14-inch, M3 Pro or M3 Max, Nov 2023), MacBook Pro (16-inch, Nov 2023). Tidak setiap ukuran memori tersedia untuk setiap model; Spesifikasi Teknis Apple mencantumkan pilihan untuk masing-masing.

Pertanyaan

Apakah MacBook Pro dengan M3 Max bagus untuk LLM lokal?
Dengan 128 GB, ia menjalankan 47 dari 73 model terbuka dengan baik, hingga Qwen3.5 122B A10B, dan menulis sekitar 95–168 token per detik dengan gpt-oss-20b. M3 Max membaca memori pada 400 GB/s, yang menentukan kecepatan menulisnya.
Berapa memori yang sebaiknya dimiliki MacBook Pro dengan M3 Max untuk AI?
Dengan 36 GB, 33 model terbuka berjalan baik; dengan 128 GB, 47, hingga Qwen3.5 122B A10B. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti.

Mac lain

MacBook Pro dengan chip lain:

Adu langsung:

M3 Max untuk AI lokal · Mac terbaik untuk LLM lokal · Semua Mac

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.

MacBook Pro M3 Max untuk AI lokal: LLM yang jalan per memori