లోకల్ AI కోసం ప్రతి M చిప్.
ఏ మోడల్స్ పడతాయో మెమరీ, అవి ఎంత వేగంగా రాస్తాయో బ్యాండ్విడ్త్ నిర్ణయిస్తాయి. Apple సొంత గణాంకాల నుంచి, ఇక్కడ ప్రతి Apple Silicon చిప్ రెండింటిలోనూ.
| చిప్ | యూనిఫైడ్ మెమరీ | మెమరీ బ్యాండ్విడ్త్ | 4-bitలో అతిపెద్ద మోడల్ | 8B మోడల్, పరిమితి | ఇది ఉన్న Macలు |
|---|---|---|---|---|---|
| M1 | 16 GB | 68 GB/s | సుమారు 21B | సెకనుకు 15 టోకెన్లు | MacBook Air (2020), 13-inch MacBook Pro (2020), Mac mini (2020), iMac (2021) |
| M1 Pro | 32 GB | 200 GB/s | సుమారు 42B | సెకనుకు 44 టోకెన్లు | 14- and 16-inch MacBook Pro (2021) |
| M1 Max | 64 GB | 400 GB/s | సుమారు 85B | సెకనుకు 89 టోకెన్లు | 14- and 16-inch MacBook Pro (2021), Mac Studio (2022) |
| M1 Ultra | 128 GB | 800 GB/s | సుమారు 170B | సెకనుకు 178 టోకెన్లు | Mac Studio (2022) |
| M2 | 24 GB | 100 GB/s | సుమారు 32B | సెకనుకు 22 టోకెన్లు | MacBook Air (2022, 2023), 13-inch MacBook Pro (2022), Mac mini (2023) |
| M2 Pro | 32 GB | 200 GB/s | సుమారు 42B | సెకనుకు 44 టోకెన్లు | 14- and 16-inch MacBook Pro (2023), Mac mini (2023) |
| M2 Max | 96 GB | 400 GB/s | సుమారు 128B | సెకనుకు 89 టోకెన్లు | 14- and 16-inch MacBook Pro (2023), Mac Studio (2023) |
| M2 Ultra | 192 GB | 800 GB/s | సుమారు 256B | సెకనుకు 178 టోకెన్లు | Mac Studio (2023), Mac Pro (2023) |
| M3 | 24 GB | 100 GB/s | సుమారు 32B | సెకనుకు 22 టోకెన్లు | MacBook Air (2024), 14-inch MacBook Pro (2023), iMac (2023) |
| M3 Pro | 36 GB | 150 GB/s | సుమారు 48B | సెకనుకు 33 టోకెన్లు | 14- and 16-inch MacBook Pro (2023) |
| M3 Max | 128 GB | 400 GB/s | సుమారు 170B | సెకనుకు 89 టోకెన్లు | 14- and 16-inch MacBook Pro (2023) |
| M3 Ultra | 512 GB | 819 GB/s | సుమారు 682B | సెకనుకు 182 టోకెన్లు | Mac Studio (2025) |
| M4 | 32 GB | 120 GB/s | సుమారు 42B | సెకనుకు 27 టోకెన్లు | MacBook Air (2025), 14-inch MacBook Pro (2024), Mac mini (2024), iMac (2024) |
| M4 Pro | 64 GB | 273 GB/s | సుమారు 85B | సెకనుకు 61 టోకెన్లు | Mac mini (2024), 14- and 16-inch MacBook Pro (2024) |
| M4 Max | 128 GB | 546 GB/s | సుమారు 170B | సెకనుకు 121 టోకెన్లు | 14- and 16-inch MacBook Pro (2024), Mac Studio (2025) |
| M5 | 32 GB | 153 GB/s | సుమారు 42B | సెకనుకు 34 టోకెన్లు | 14-inch MacBook Pro (2025), MacBook Air (2026) |
| M5 Pro | 64 GB | 307 GB/s | సుమారు 85B | సెకనుకు 68 టోకెన్లు | 14- and 16-inch MacBook Pro (2026), Mac mini (2026) |
| M5 Max | 128 GB | 614 GB/s | సుమారు 170B | సెకనుకు 136 టోకెన్లు | 14- and 16-inch MacBook Pro (2026), Mac Studio (2026) |
| M5 Ultra | 512 GB | 1.2 TB/s | సుమారు 682B | సెకనుకు 267 టోకెన్లు | Mac Studio (2026) |
| M6 | 32 GB | 170 GB/s | సుమారు 42B | సెకనుకు 38 టోకెన్లు | Mac mini (2026) |
పరిమితి = మెమరీ బ్యాండ్విడ్త్ ÷ ప్రతి టోకెన్కు చదివే బైట్లు; నిజమైన రన్లు సాధారణంగా దానిలో 45% నుంచి 80% వరకు చేరతాయి. అతిపెద్ద మోడల్ మెమరీలో మూడు వంతులు వాడుకోవచ్చని భావిస్తుంది. ప్రతి చిప్ పేజీలో మూలాలు ఉన్నాయి.
ఆధారాలు
- Apple: M1apple.com
- llama.cpp: Apple Silicon benchmarksgithub.com
- Apple: M1 Pro and M1 Maxapple.com
- Apple: M1 Ultraapple.com
- Apple: M2apple.com
- Apple: M2 Pro and M2 Maxapple.com
- Apple: M2 Ultraapple.com
- Apple: M3, M3 Pro and M3 Maxapple.com
- Apple: MacBook Pro (M3 Pro or M3 Max) specssupport.apple.com
- Apple: Mac Studio (2025) specssupport.apple.com
- Apple: Mac mini (2024) specssupport.apple.com
- Apple: M4 Pro and M4 Maxapple.com
- Apple: M5apple.com
- Apple: MacBook Air with M5apple.com
- Apple: M5 Pro and M5 Maxapple.com
- Apple: Mac mini (2026) specssupport.apple.com
- Apple: Mac Studio with M5 Max and M5 Ultraapple.com
- Apple: M6 and M5 Ultraapple.com