Berdampingan
| M2 | M3 | |
|---|---|---|
| Ukuran memori | 8, 16, 24 GB | 8, 16, 24 GB |
| Bandwidth memori | 100 GB/s | 100 GB/s |
| Untuk model, paling banyak | sekitar 18 GB | sekitar 18 GB |
| Model yang berjalan baik | 20 dari 73 | 20 dari 73 |
| Kelas kursi MLX | Core | Core |
| Ada di | MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023) | MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024) |
Kecepatan dengan model populer
Token per detik untuk satu percakapan, setiap chip pada ukuran memori terbesarnya (24 GB dan 24 GB), dengan versi terbaik model yang muat.
| Model | M2 | M3 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 10–18 4-bit | 10–18 4-bit |
| gpt-oss-20b21B · 3,6B aktif | 24–42 4,25-bit bawaan | 24–42 4,25-bit bawaan |
| Qwen3.6 35B A3B35B · 3B aktif | 35–62 3-bit kualitas lebih rendah | 35–62 3-bit kualitas lebih rendah |
| Qwen3.8 27B27B | 3–5 4-bit | 3–5 4-bit |
| Llama 3.3 70B Instruct70B | terlalu besar | terlalu besar |
| gpt-oss-120b117B · 5,1B aktif | terlalu besar | terlalu besar |
| Qwen3.5 122B A10B122B · 10B aktif | terlalu besar | terlalu besar |
| DeepSeek V4 Flash 0731284B · 13B aktif | terlalu besar | terlalu besar |
Pertanyaan
- Apakah M3 lebih cepat daripada M2 untuk LLM?
- Hampir sama: bandwidth memori keduanya hanya berbeda beberapa persen. Keduanya tersedia hingga 24 GB memori.
- Mana yang bisa menjalankan model lebih besar, M2 atau M3?
- Tidak keduanya: keduanya tersedia hingga 24 GB. Pada ukuran itu M2 menjalankan 20 dan M3 20 dari 73 model terbuka dengan baik; yang lebih cepat membuat lebih banyak model melewati 10 token per detik.
Perbandingan lainnya
M2 untuk AI lokal · M3 untuk AI lokal · Bandingkan semua model · Mac terbaik untuk LLM lokal
Cara menghitungnya
Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.