Menurut ukuran memori
| Memori | Berjalan baik | Terbesar yang berjalan baik | gpt-oss-20b |
|---|---|---|---|
| 8 GB68 GB/s | 14 | Gemma 4 E4B | terlalu besar |
| 16 GB68 GB/s | 14 | Gemma 4 E4B | 19–34 tok/s |
Model: MacBook Pro (13-inch, M1, 2020). Tidak setiap ukuran memori tersedia untuk setiap model; Spesifikasi Teknis Apple mencantumkan pilihan untuk masing-masing.
Pertanyaan
- Apakah MacBook Pro dengan M1 bagus untuk LLM lokal?
- Dengan 16 GB, ia menjalankan 14 dari 73 model terbuka dengan baik, hingga Gemma 4 E4B, dan menulis sekitar 19–34 token per detik dengan gpt-oss-20b. M1 membaca memori pada 68 GB/s, yang menentukan kecepatan menulisnya.
- Berapa memori yang sebaiknya dimiliki MacBook Pro dengan M1 untuk AI?
- Dengan 8 GB, 14 model terbuka berjalan baik; dengan 16 GB, 14, hingga Gemma 4 E4B. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti.
Mac lain
MacBook Pro dengan chip lain:
- MacBook Pro M5
- MacBook Pro M5 Pro
- MacBook Pro M5 Max
- MacBook Pro M4
- MacBook Pro M4 Pro
- MacBook Pro M4 Max
- MacBook Pro M3
- MacBook Pro M3 Pro
- MacBook Pro M3 Max
- MacBook Pro M2
- MacBook Pro M2 Pro
- MacBook Pro M2 Max
- MacBook Pro M1 Pro
- MacBook Pro M1 Max
Mac lain dengan M1:
Adu langsung:
Cara menghitungnya
Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.