Menurut ukuran memori
| Memori | Berjalan baik | Terbesar yang berjalan baik | gpt-oss-20b |
|---|---|---|---|
| 24 GB273 GB/s | 25 | Gemma 4 26B A4B | 65–115 tok/s |
| 48 GB273 GB/s | 30 | Qwen3.6 35B A3B | 65–115 tok/s |
| 64 GB273 GB/s | 31 | Nemotron 3.5 Bolt 74B A9B | 65–115 tok/s |
Model: Mac mini (2024). Tidak setiap ukuran memori tersedia untuk setiap model; Spesifikasi Teknis Apple mencantumkan pilihan untuk masing-masing.
Pertanyaan
- Apakah Mac mini dengan M4 Pro bagus untuk LLM lokal?
- Dengan 64 GB, ia menjalankan 31 dari 73 model terbuka dengan baik, hingga Nemotron 3.5 Bolt 74B A9B, dan menulis sekitar 65–115 token per detik dengan gpt-oss-20b. M4 Pro membaca memori pada 273 GB/s, yang menentukan kecepatan menulisnya.
- Berapa memori yang sebaiknya dimiliki Mac mini dengan M4 Pro untuk AI?
- Dengan 24 GB, 25 model terbuka berjalan baik; dengan 64 GB, 31, hingga Nemotron 3.5 Bolt 74B A9B. Memori menentukan model mana yang muat, dan tidak bisa ditambah nanti.
Mac lain
Mac mini dengan chip lain:
Mac lain dengan M4 Pro:
Adu langsung:
Melawan PC dan kartu grafis:
M4 Pro untuk AI lokal · Mac terbaik untuk LLM lokal · Semua Mac
Cara menghitungnya
Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.