లోకల్ AI కోసం ప్రతి M చిప్.

ఏ మోడల్స్ పడతాయో మెమరీ, అవి ఎంత వేగంగా రాస్తాయో బ్యాండ్‌విడ్త్ నిర్ణయిస్తాయి. Apple సొంత గణాంకాల నుంచి, ఇక్కడ ప్రతి Apple Silicon చిప్ రెండింటిలోనూ.

చిప్యూనిఫైడ్ మెమరీమెమరీ బ్యాండ్‌విడ్త్4-bitలో అతిపెద్ద మోడల్8B మోడల్, పరిమితిఇది ఉన్న Macలు
M116 GB68 GB/sసుమారు 21Bసెకనుకు 15 టోకెన్‌లుMacBook Air (2020), 13-inch MacBook Pro (2020), Mac mini (2020), iMac (2021)
M1 Pro32 GB200 GB/sసుమారు 42Bసెకనుకు 44 టోకెన్‌లు14- and 16-inch MacBook Pro (2021)
M1 Max64 GB400 GB/sసుమారు 85Bసెకనుకు 89 టోకెన్‌లు14- and 16-inch MacBook Pro (2021), Mac Studio (2022)
M1 Ultra128 GB800 GB/sసుమారు 170Bసెకనుకు 178 టోకెన్‌లుMac Studio (2022)
M224 GB100 GB/sసుమారు 32Bసెకనుకు 22 టోకెన్‌లుMacBook Air (2022, 2023), 13-inch MacBook Pro (2022), Mac mini (2023)
M2 Pro32 GB200 GB/sసుమారు 42Bసెకనుకు 44 టోకెన్‌లు14- and 16-inch MacBook Pro (2023), Mac mini (2023)
M2 Max96 GB400 GB/sసుమారు 128Bసెకనుకు 89 టోకెన్‌లు14- and 16-inch MacBook Pro (2023), Mac Studio (2023)
M2 Ultra192 GB800 GB/sసుమారు 256Bసెకనుకు 178 టోకెన్‌లుMac Studio (2023), Mac Pro (2023)
M324 GB100 GB/sసుమారు 32Bసెకనుకు 22 టోకెన్‌లుMacBook Air (2024), 14-inch MacBook Pro (2023), iMac (2023)
M3 Pro36 GB150 GB/sసుమారు 48Bసెకనుకు 33 టోకెన్‌లు14- and 16-inch MacBook Pro (2023)
M3 Max128 GB400 GB/sసుమారు 170Bసెకనుకు 89 టోకెన్‌లు14- and 16-inch MacBook Pro (2023)
M3 Ultra512 GB819 GB/sసుమారు 682Bసెకనుకు 182 టోకెన్‌లుMac Studio (2025)
M432 GB120 GB/sసుమారు 42Bసెకనుకు 27 టోకెన్‌లుMacBook Air (2025), 14-inch MacBook Pro (2024), Mac mini (2024), iMac (2024)
M4 Pro64 GB273 GB/sసుమారు 85Bసెకనుకు 61 టోకెన్‌లుMac mini (2024), 14- and 16-inch MacBook Pro (2024)
M4 Max128 GB546 GB/sసుమారు 170Bసెకనుకు 121 టోకెన్‌లు14- and 16-inch MacBook Pro (2024), Mac Studio (2025)
M532 GB153 GB/sసుమారు 42Bసెకనుకు 34 టోకెన్‌లు14-inch MacBook Pro (2025), MacBook Air (2026)
M5 Pro64 GB307 GB/sసుమారు 85Bసెకనుకు 68 టోకెన్‌లు14- and 16-inch MacBook Pro (2026), Mac mini (2026)
M5 Max128 GB614 GB/sసుమారు 170Bసెకనుకు 136 టోకెన్‌లు14- and 16-inch MacBook Pro (2026), Mac Studio (2026)
M5 Ultra512 GB1.2 TB/sసుమారు 682Bసెకనుకు 267 టోకెన్‌లుMac Studio (2026)
M632 GB170 GB/sసుమారు 42Bసెకనుకు 38 టోకెన్‌లుMac mini (2026)

పరిమితి = మెమరీ బ్యాండ్‌విడ్త్ ÷ ప్రతి టోకెన్‌కు చదివే బైట్లు; నిజమైన రన్‌లు సాధారణంగా దానిలో 45% నుంచి 80% వరకు చేరతాయి. అతిపెద్ద మోడల్ మెమరీలో మూడు వంతులు వాడుకోవచ్చని భావిస్తుంది. ప్రతి చిప్ పేజీలో మూలాలు ఉన్నాయి.

ఆధారాలు

  1. Apple: M1apple.com
  2. llama.cpp: Apple Silicon benchmarksgithub.com
  3. Apple: M1 Pro and M1 Maxapple.com
  4. Apple: M1 Ultraapple.com
  5. Apple: M2apple.com
  6. Apple: M2 Pro and M2 Maxapple.com
  7. Apple: M2 Ultraapple.com
  8. Apple: M3, M3 Pro and M3 Maxapple.com
  9. Apple: MacBook Pro (M3 Pro or M3 Max) specssupport.apple.com
  10. Apple: Mac Studio (2025) specssupport.apple.com
  11. Apple: Mac mini (2024) specssupport.apple.com
  12. Apple: M4 Pro and M4 Maxapple.com
  13. Apple: M5apple.com
  14. Apple: MacBook Air with M5apple.com
  15. Apple: M5 Pro and M5 Maxapple.com
  16. Apple: Mac mini (2026) specssupport.apple.com
  17. Apple: Mac Studio with M5 Max and M5 Ultraapple.com
  18. Apple: M6 and M5 Ultraapple.com
లోకల్ AI కోసం అన్ని Apple Silicon చిప్‌ల పోలిక | MLX