MasukBuat dompet

LLM terbaik untuk Mac 16 GB.

22 dari 73 model terbuka berjalan baik di 16 GB. Secara bawaan GPU bisa memakai sekitar 12 GB darinya. Kecepatan bergantung pada chip: dari 68 GB/s di M1 hingga 200 GB/s di M1 Pro.

Paling cerdas yang berjalan baikMiniCPM5 2B8-bit · 2,7 GB · 11–59 tok/sTerbesar yang berjalan baikPhi-4 Reasoning Vision 15B4-bit · 8,4 GB · 4–19 tok/s

Mac dengan 16 GB

8 chip dari M1 hingga M6 tersedia dengan 16 GB. Buka salah satu untuk daftar dan kecepatannya sendiri.

Berjalan baik 33

Muat dengan ruang untuk konteks, 10 token per detik atau lebih di M1 Pro.

ModelVersiMemoriM1M1 Pro
MiniCPM5 2B2,52B · Kecerdasan 12,58-bit2,7 GB11–2033–59
Qwen3.5 9B9B · Kecerdasan 11,26-bit7,3 GB3–612–22
Granite 4.2 8B8B · Kecerdasan 11,18-bit8,5 GB4–611–19
Granite 4.2 3B3B · Kecerdasan 9,18-bit3,2 GB10–1728–50
Gemma 4 E4B8B · Kecerdasan 8,98-bit8,5 GB12–2219–33
Ministral 3 8B8,9B · Kecerdasan 5,56-bit7,2 GB3–613–22
Nemotron 3 Nano 4B3,97B · Kecerdasan 4,88-bit4,2 GB10–1721–38
Phi-4 Reasoning Vision 15B15B4-bit8,4 GB4–611–19
Phi-4 (14B)14B4-bit7,9 GB4–711–20
Gemma 4 12B Unified12B4-bit6,7 GB3–613–24
Qwen3 8B8,2B8-bit8,7 GB4–610–18
Llama 3.1 8B Instruct8B8-bit8,5 GB4–611–19
Gemma 4 E2B5,1B8-bit5,4 GB13–2338–67
Qwen3.5 4B4B8-bit4,3 GB13–2421–37
Phi-4 mini instruct3,8B8-bit4 GB10–1823–40
Llama 3.2 3B Instruct3,21B8-bit3,4 GB12–2126–47
SmolLM3 3B3B8-bit3,2 GB10–1728–50
LFM2.5 2.6B2,69B8-bit2,9 GB11–1931–55
Qwen3.5 2B2B8-bit2,1 GB15–2643–76
Llama 3.2 1B Instruct1,23B8-bit1,3 GB24–4269–123
Qwen3.5 0.8B0,8B8-bit0,9 GB34–60100–178
Qwen3 0.6B0,6B8-bit0,6 GB51–91150–267
Qwen3.8 27B27B · Kecerdasan 33,72-bit kualitas lebih rendah8,4 GB4–611–19
Muse Glimmer 30B29,6B · Kecerdasan 17,52-bit kualitas lebih rendah9,3 GB3–610–17
Nemotron 3.5 Lightning 30B A3B30B · 3B aktif · Kecerdasan 12,92-bit kualitas lebih rendah9,4 GB34–60100–178
Granite 4.2 30B30B · Kecerdasan 12,72-bit kualitas lebih rendah9,4 GB3–610–17
gpt-oss-20b21B · 3,6B aktif · Kecerdasan 93-bit kualitas lebih rendah9,2 GB19–3456–100
Nemotron 3 Nano 30B A3B30B · 3,5B aktif · Kecerdasan 8,92-bit kualitas lebih rendah9,4 GB28–4982–145
Qwen3 Coder 30B A3B Instruct30,5B · 3,3B aktif2-bit kualitas lebih rendah9,5 GB31–5490–160
GLM-4.7 Flash30B · 3B aktif2-bit kualitas lebih rendah9,4 GB34–60100–178
Qwen3.6 27B27B2-bit kualitas lebih rendah8,4 GB4–611–19
Gemma 4 26B A4B25,2B · 3,8B aktif2-bit kualitas lebih rendah7,9 GB26–4575–133
LFM2.5 24B A2B24B · 2B aktif3-bit kualitas lebih rendah10,5 GB34–60100–178

Berjalan, tapi lambat 4

Muat, tapi di bawah 10 token per detik: cocok untuk pekerjaan batch, lambat untuk chat.

ModelVersiMemoriM1M1 Pro
Gemma 4 31B30,7B · Kecerdasan 14,72-bit kualitas lebih rendah9,6 GB3–69–17
Devstral Small 2 (24B)24B3-bit kualitas lebih rendah10,5 GB3–59–15
Magistral Small 1.2 (2509)24B3-bit kualitas lebih rendah10,5 GB3–59–15
Mistral Small 3.2 (24B)24B3-bit kualitas lebih rendah10,5 GB3–59–15

Pas-pasan muat 1

Butuh hampir seluruh memori: naikkan batas memori GPU dan buat konteks tetap pendek.

ModelVersiMemoriM1M1 Pro
Qwen3.6 35B A3B35B · 3B aktif · Kecerdasan 18,22-bit kualitas lebih rendah10,9 GB34–60100–178

Terlalu besar 35

Butuh memori lebih dari 16 GB, bahkan pada 2 bit.

Pertanyaan

Apa LLM terbaik untuk Mac dengan 16 GB?
Dari model yang punya skor Intelligence Index terbitan, MiniCPM5 2B mendapat skor tertinggi di antara yang berjalan baik di 16 GB (8-bit). Yang terbesar yang berjalan baik adalah Phi-4 Reasoning Vision 15B.
Apakah 16 GB cukup untuk AI lokal di Mac?
22 dari 73 model terbuka di sini berjalan baik di dalamnya pada 4 bit atau lebih baik. Secara bawaan macOS mengizinkan GPU memakai sekitar 12 GB darinya; model beserta konteksnya harus muat di situ.
Bisakah Mac 16 GB menjalankan gpt-oss-20b?
Ya, 3-bit, sekitar 19–34 token per detik di M1 dan 56–100 di M1 Pro.

Ukuran lain: 8 GB · 16 GB · 18 GB · 24 GB · 32 GB · 36 GB · 48 GB · 64 GB · 96 GB · 128 GB · 192 GB · 256 GB · 512 GB

Jalankan dengan MLX Harness (gratis, open source) atau mlx-lm dari Apple di Terminal: langkah demi langkah.

Cara menghitungnya

Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.

LLM lokal terbaik untuk Mac 16 GB (M1 hingga M6): apa yang jalan