Magkatabi
| M4 Pro | Ryzen AI Max+ 395 | |
|---|---|---|
| Ano ito | Mac mini (2024), MacBook Pro (14-inch, M4 Pro or M4 Max, 2024), MacBook Pro (16-inch, 2024) | Isang buong maliit na computer |
| Mga memory size | 24, 48, 64 GB | 128 GB |
| Memory bandwidth | 273 GB/s | 256 GB/s |
| Para sa model, hanggang | mga 48 GB | mga 96 GB |
| Mga model na maayos tumakbo | 31 sa 73 | 39 sa 73 |
| Nasukat: pagsulat | 51 tok/s | 54 tok/s |
| Nasukat: pagbasa ng prompt | 440 tok/s | 1,289 tok/s |
Mga nasukat na hilera: ang pinakamabilis na resulta ng bawat makina sa mga pampublikong benchmark ng llama.cpp gamit ang Llama 2 7B Q4_0, sa pagsulat ng 128 token (tg128) at pagbasa ng prompt na 512 token (pp512), sa token bawat segundo. Metal ang gamit ng Mac, Vulkan ang sa Ryzen AI Max+ 395. Mga resulta ng Apple Silicon · Mga resulta ng Ryzen AI Max+ 395 Para sa mga model, mga 75% ng memory ang binibilang namin sa dalawa, ang default ng macOS, dahil ang Ryzen AI Max+ 395 ay may iisang memory din na pinaghahatian ng CPU at GPU. Kung gaano talaga karami ang magagamit ng GPU nito ay depende sa operating system at mga setting.
Saan nananalo ang bawat isa
- Bilis ng pagsulat. Mga 7% na mas mabilis magbasa ng memory ang M4 Pro kaysa sa Ryzen AI Max+ 395 (273 vs 256 GB/s), kaya mga 7% na mas mabilis itong magsulat sa anumang model na kasya sa dalawa.
- Laki ng model. Ang Ryzen AI Max+ 395 ay may mga 96 GB para sa mga model, ang M4 Pro ay mga 48 GB. 31 sa 73 sikat na open model ang tumatakbo nang maayos sa M4 Pro, 39 sa Ryzen AI Max+ 395.
- Pagbasa ng mahahabang prompt. Sa nasukat na test ng llama.cpp, nababasa ng Ryzen AI Max+ 395 ang isang prompt nang mga 2.9× na mas mabilis (1,289 laban sa 440 token bawat segundo). Nakasalalay ang pagbasa ng prompt sa compute ng GPU, hindi sa memory bandwidth, kaya ito ang nagtatakda ng hintay bago ang unang salita sa mahabang dokumento o codebase.
- Software. Tumatakbo ang Ryzen AI Max+ 395 sa Windows o Linux, at ginagamit ng llama.cpp ang GPU nito sa pamamagitan ng Vulkan. Hindi tumatakbo sa alinman sa dalawa ang software na nangangailangan ng CUDA ng NVIDIA.
- Sa paligid nito. Pareho silang buong computer na nag-iimbak ng model sa iisang memory na pinaghahatian ng CPU at GPU.
- Ang Mac. Pang-araw-araw na computer din ito, at pinapatakbo nito ang MLX Harness at MLX Node, na ginawa para sa Apple Silicon.
Bilis sa mga sikat na model
Token bawat segundo para sa isang usapan, bawat chip sa pinakamalaking memory size nito (64 GB at 128 GB), gamit ang pinakamagandang bersyon ng model na kasya.
| Model | M4 Pro | Ryzen AI Max+ 395 |
|---|---|---|
| Llama 3.1 8B Instruct8B | 14–26 8-bit | 14–24 8-bit |
| gpt-oss-20b21B · 3.6B aktibo | 65–115 native na 4.25-bit | 61–108 native na 4.25-bit |
| Qwen3.6 35B A3B35B · 3B aktibo | 38–68 8-bit | 36–64 8-bit |
| Qwen3.8 27B27B | 4–8 8-bit | 4–7 8-bit |
| Llama 3.3 70B Instruct70B | 3–6 4-bit | 2–3 8-bit |
| gpt-oss-120b117B · 5.1B aktibo | 77–137 2-bit mas mababang kalidad | 43–76 native na 4.25-bit |
| Qwen3.5 122B A10B122B · 10B aktibo | 40–70 2-bit mas mababang kalidad | 21–37 4-bit |
| DeepSeek V4 Flash 0731284B · 13B aktibo | masyadong malaki | 28–50 2-bit mas mababang kalidad |
Mga tanong
- Mas mabilis ba ang Ryzen AI Max+ 395 kaysa sa M4 Pro para sa LLM?
- Mga 7% na mas mabilis magbasa ng memory ang M4 Pro kaysa sa Ryzen AI Max+ 395 (273 vs 256 GB/s), kaya mga 7% na mas mabilis itong magsulat sa anumang model na kasya sa dalawa. Sa nasukat na test ng llama.cpp, nababasa ng Ryzen AI Max+ 395 ang isang prompt nang mga 2.9× na mas mabilis (1,289 laban sa 440 token bawat segundo). Nakasalalay ang pagbasa ng prompt sa compute ng GPU, hindi sa memory bandwidth, kaya ito ang nagtatakda ng hintay bago ang unang salita sa mahabang dokumento o codebase.
- Alin ang kaya ang mas malalaking model, ang M4 Pro o ang Ryzen AI Max+ 395?
- Ang Ryzen AI Max+ 395 ay may mga 96 GB para sa mga model, ang M4 Pro ay mga 48 GB. 31 sa 73 sikat na open model ang tumatakbo nang maayos sa M4 Pro, 39 sa Ryzen AI Max+ 395.
- Tumatakbo ba ang MLX Node sa Ryzen AI Max+ 395?
- Hindi. Tumatakbo lang ang MLX Node at MLX Harness sa mga Mac na may Apple Silicon, gamit ang MLX framework ng Apple.
Iba pang paghahambing
- M4 Max vs Ryzen AI Max+ 395
- M5 Max vs Ryzen AI Max+ 395
- M1 Pro vs M4 Pro
- M3 Pro vs M4 Pro
- M4 vs M4 Pro
- M4 Pro vs M4 Max
- M4 Pro vs M5 Pro
- M4 Pro vs M5 Max
Ang M4 Pro para sa local AI · Ihambing ang bawat model · Ang pinakamagandang Mac para sa local LLM
Paano ito kinuwenta
Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.
Kinuwenta ang bandwidth ng Ryzen AI Max+ 395 mula sa bus width at bilis ng memory na sinasabi ng AMD, dahil hindi ito ibinibigay ng AMD sa GB/s. Datos ng Ryzen AI Max+ 395: AMD: Ryzen AI Max+ 395, Framework: Desktop specs, Framework: Desktop DIY configurator (32/64/128 GB).