MasukBuat dompet

MacBook Pro dengan M2 untuk AI lokal.

M2 membaca memori pada 100 GB/s, yang menentukan kecepatan menulisnya. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti, jadi pilih ukurannya di sini.

8 GB16 model berjalan baikGranite 4.2 8B · 10–18 tok/s16 GB17 model berjalan baikQwen3 8B · 10–17 tok/s24 GB20 model berjalan baikGemma 4 26B A4B · 21–38 tok/s

Menurut ukuran memori

MemoriBerjalan baikTerbesar yang berjalan baikgpt-oss-20b
8 GB100 GB/s16Granite 4.2 8Bterlalu besar
16 GB100 GB/s17Qwen3 8B28–50 tok/s
24 GB100 GB/s20Gemma 4 26B A4B24–42 tok/s

Model: MacBook Pro (13-inch, M2, 2022). Tidak setiap ukuran memori tersedia untuk setiap model; Spesifikasi Teknis Apple mencantumkan pilihan untuk masing-masing.

Pertanyaan

Apakah MacBook Pro dengan M2 bagus untuk LLM lokal?
Dengan 24 GB, ia menjalankan 20 dari 73 model terbuka dengan baik, hingga Gemma 4 26B A4B, dan menulis sekitar 24–42 token per detik dengan gpt-oss-20b. M2 membaca memori pada 100 GB/s, yang menentukan kecepatan menulisnya.
Berapa memori yang sebaiknya dimiliki MacBook Pro dengan M2 untuk AI?
Dengan 8 GB, 16 model terbuka berjalan baik; dengan 24 GB, 20, hingga Gemma 4 26B A4B. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti.

Mac lain

MacBook Pro dengan chip lain:

Mac lain dengan M2:

Adu langsung:

M2 untuk AI lokal · Mac terbaik untuk LLM lokal · Semua Mac

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.

MacBook Pro M2 untuk AI lokal: LLM yang jalan per memori