MasukBuat dompet

MacBook Pro dengan M5 untuk AI lokal.

M5 membaca memori pada 153 GB/s, yang menentukan kecepatan menulisnya. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti, jadi pilih ukurannya di sini.

16 GB20 model berjalan baikGemma 4 12B Unified · 10–18 tok/s24 GB23 model berjalan baikGemma 4 26B A4B · 33–58 tok/s32 GB28 model berjalan baikQwen3.6 35B A3B · 41–72 tok/s

Menurut ukuran memori

MemoriBerjalan baikTerbesar yang berjalan baikgpt-oss-20b
16 GB153 GB/s20Gemma 4 12B Unified43–77 tok/s
24 GB153 GB/s23Gemma 4 26B A4B36–64 tok/s
32 GB153 GB/s28Qwen3.6 35B A3B36–64 tok/s

Model: MacBook Pro (14-inch, M5). Tidak setiap ukuran memori tersedia untuk setiap model; Spesifikasi Teknis Apple mencantumkan pilihan untuk masing-masing.

Pertanyaan

Apakah MacBook Pro dengan M5 bagus untuk LLM lokal?
Dengan 32 GB, ia menjalankan 28 dari 73 model terbuka dengan baik, hingga Qwen3.6 35B A3B, dan menulis sekitar 36–64 token per detik dengan gpt-oss-20b. M5 membaca memori pada 153 GB/s, yang menentukan kecepatan menulisnya.
Berapa memori yang sebaiknya dimiliki MacBook Pro dengan M5 untuk AI?
Dengan 16 GB, 20 model terbuka berjalan baik; dengan 32 GB, 28, hingga Qwen3.6 35B A3B. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti.

Mac lain

MacBook Pro dengan chip lain:

Mac lain dengan M5:

Adu langsung:

M5 untuk AI lokal · Mac terbaik untuk LLM lokal · Semua Mac

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.

MacBook Pro M5 untuk AI lokal: LLM yang jalan per memori