Apakah MacBook Pro dengan M4 Pro bagus untuk LLM lokal?

Dengan 64 GB, ia menjalankan 31 dari 73 model terbuka dengan baik, hingga Nemotron 3.5 Bolt 74B A9B, dan menulis sekitar 65–115 token per detik dengan gpt-oss-20b. M4 Pro membaca memori pada 273 GB/s, yang menentukan kecepatan menulisnya.

Berapa memori yang sebaiknya dimiliki MacBook Pro dengan M4 Pro untuk AI?

Dengan 24 GB, 25 model terbuka berjalan baik; dengan 64 GB, 31, hingga Nemotron 3.5 Bolt 74B A9B. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti.

MacBook Pro M4 Pro untuk AI lokal: LLM yang jalan per memori

Menurut ukuran memori

Memori	Berjalan baik	Terbesar yang berjalan baik	gpt-oss-20b
24 GB273 GB/s	25	Gemma 4 26B A4B	65–115 tok/s
48 GB273 GB/s	30	Qwen3.6 35B A3B	65–115 tok/s
64 GB273 GB/s	31	Nemotron 3.5 Bolt 74B A9B	65–115 tok/s

Model: MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024). Tidak setiap ukuran memori tersedia untuk setiap model; Spesifikasi Teknis Apple mencantumkan pilihan untuk masing-masing.

Pertanyaan

Apakah MacBook Pro dengan M4 Pro bagus untuk LLM lokal?: Dengan 64 GB, ia menjalankan 31 dari 73 model terbuka dengan baik, hingga Nemotron 3.5 Bolt 74B A9B, dan menulis sekitar 65–115 token per detik dengan gpt-oss-20b. M4 Pro membaca memori pada 273 GB/s, yang menentukan kecepatan menulisnya.
Berapa memori yang sebaiknya dimiliki MacBook Pro dengan M4 Pro untuk AI?: Dengan 24 GB, 25 model terbuka berjalan baik; dengan 64 GB, 31, hingga Nemotron 3.5 Bolt 74B A9B. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti.

Mac lain

MacBook Pro dengan chip lain:

Mac lain dengan M4 Pro:

Mac mini M4 Pro

Adu langsung:

Melawan PC dan kartu grafis:

M4 Pro vs Ryzen AI Max+ 395

M4 Pro untuk AI lokal · Mac terbaik untuk LLM lokal · Semua Mac

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.