لوکل AI کے لیے ہر M چپ۔

میموری طے کرتی ہے کہ کون سے ماڈل آئیں گے؛ بینڈوڈتھ طے کرتی ہے کہ وہ کتنی تیزی سے لکھیں گے۔ Apple کے اپنے اعداد و شمار سے، یہاں ہر Apple Silicon چپ دونوں پہلوؤں سے۔

چپیونیفائیڈ میموریمیموری بینڈوڈتھ4-bit پر سب سے بڑا ماڈل8B ماڈل، حدان Mac میں
M116 GB68 GB/sتقریباً 21B15 ٹوکن/سیکنڈMacBook Air (2020), 13-inch MacBook Pro (2020), Mac mini (2020), iMac (2021)
M1 Pro32 GB200 GB/sتقریباً 42B44 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2021)
M1 Max64 GB400 GB/sتقریباً 85B89 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2021), Mac Studio (2022)
M1 Ultra128 GB800 GB/sتقریباً 170B178 ٹوکن/سیکنڈMac Studio (2022)
M224 GB100 GB/sتقریباً 32B22 ٹوکن/سیکنڈMacBook Air (2022, 2023), 13-inch MacBook Pro (2022), Mac mini (2023)
M2 Pro32 GB200 GB/sتقریباً 42B44 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2023), Mac mini (2023)
M2 Max96 GB400 GB/sتقریباً 128B89 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2023), Mac Studio (2023)
M2 Ultra192 GB800 GB/sتقریباً 256B178 ٹوکن/سیکنڈMac Studio (2023), Mac Pro (2023)
M324 GB100 GB/sتقریباً 32B22 ٹوکن/سیکنڈMacBook Air (2024), 14-inch MacBook Pro (2023), iMac (2023)
M3 Pro36 GB150 GB/sتقریباً 48B33 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2023)
M3 Max128 GB400 GB/sتقریباً 170B89 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2023)
M3 Ultra512 GB819 GB/sتقریباً 682B182 ٹوکن/سیکنڈMac Studio (2025)
M432 GB120 GB/sتقریباً 42B27 ٹوکن/سیکنڈMacBook Air (2025), 14-inch MacBook Pro (2024), Mac mini (2024), iMac (2024)
M4 Pro64 GB273 GB/sتقریباً 85B61 ٹوکن/سیکنڈMac mini (2024), 14- and 16-inch MacBook Pro (2024)
M4 Max128 GB546 GB/sتقریباً 170B121 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2024), Mac Studio (2025)
M532 GB153 GB/sتقریباً 42B34 ٹوکن/سیکنڈ14-inch MacBook Pro (2025), MacBook Air (2026)
M5 Pro64 GB307 GB/sتقریباً 85B68 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2026), Mac mini (2026)
M5 Max128 GB614 GB/sتقریباً 170B136 ٹوکن/سیکنڈ14- and 16-inch MacBook Pro (2026), Mac Studio (2026)
M5 Ultra512 GB1.2 TB/sتقریباً 682B267 ٹوکن/سیکنڈMac Studio (2026)
M632 GB170 GB/sتقریباً 42B38 ٹوکن/سیکنڈMac mini (2026)

حد = میموری بینڈوڈتھ ÷ ہر ٹوکن پر پڑھے گئے بائٹس؛ اصل رن عموماً اس کا 45% سے 80% تک پہنچتے ہیں۔ سب سے بڑے ماڈل میں تین چوتھائی میموری قابلِ استعمال فرض کی گئی ہے۔ ہر چپ کے صفحے پر ذرائع درج ہیں۔

ذرائع

  1. Apple: M1apple.com
  2. llama.cpp: Apple Silicon benchmarksgithub.com
  3. Apple: M1 Pro and M1 Maxapple.com
  4. Apple: M1 Ultraapple.com
  5. Apple: M2apple.com
  6. Apple: M2 Pro and M2 Maxapple.com
  7. Apple: M2 Ultraapple.com
  8. Apple: M3, M3 Pro and M3 Maxapple.com
  9. Apple: MacBook Pro (M3 Pro or M3 Max) specssupport.apple.com
  10. Apple: Mac Studio (2025) specssupport.apple.com
  11. Apple: Mac mini (2024) specssupport.apple.com
  12. Apple: M4 Pro and M4 Maxapple.com
  13. Apple: M5apple.com
  14. Apple: MacBook Air with M5apple.com
  15. Apple: M5 Pro and M5 Maxapple.com
  16. Apple: Mac mini (2026) specssupport.apple.com
  17. Apple: Mac Studio with M5 Max and M5 Ultraapple.com
  18. Apple: M6 and M5 Ultraapple.com
لوکل AI کے لیے ہر Apple Silicon چپ کا موازنہ | MLX