লগ ইনওয়ালেট তৈরি করুন

লোকাল AI-এর জন্য প্রতিটি M চিপ।

মেমরি ঠিক করে কোন মডেল ধরবে; ব্যান্ডউইথ ঠিক করে সেগুলো কত দ্রুত লিখবে। Apple-এর নিজের সংখ্যা থেকে, এখানে প্রতিটি Apple Silicon চিপ দুটো দিকেই।

চিপইউনিফায়েড মেমরিমেমরি ব্যান্ডউইথ4-bit-এ সবচেয়ে বড় মডেল8B মডেল, সীমাযে Mac-এ আছে
M116 GB68 GB/sপ্রায় 21Bসেকেন্ডে 15 টোকেনMacBook Air (2020), 13-inch MacBook Pro (2020), Mac mini (2020), iMac (2021)
M1 Pro32 GB200 GB/sপ্রায় 42Bসেকেন্ডে 44 টোকেন14- and 16-inch MacBook Pro (2021)
M1 Max64 GB400 GB/sপ্রায় 85Bসেকেন্ডে 89 টোকেন14- and 16-inch MacBook Pro (2021), Mac Studio (2022)
M1 Ultra128 GB800 GB/sপ্রায় 170Bসেকেন্ডে 178 টোকেনMac Studio (2022)
M224 GB100 GB/sপ্রায় 32Bসেকেন্ডে 22 টোকেনMacBook Air (2022, 2023), 13-inch MacBook Pro (2022), Mac mini (2023)
M2 Pro32 GB200 GB/sপ্রায় 42Bসেকেন্ডে 44 টোকেন14- and 16-inch MacBook Pro (2023), Mac mini (2023)
M2 Max96 GB400 GB/sপ্রায় 128Bসেকেন্ডে 89 টোকেন14- and 16-inch MacBook Pro (2023), Mac Studio (2023)
M2 Ultra192 GB800 GB/sপ্রায় 256Bসেকেন্ডে 178 টোকেনMac Studio (2023), Mac Pro (2023)
M324 GB100 GB/sপ্রায় 32Bসেকেন্ডে 22 টোকেনMacBook Air (2024), 14-inch MacBook Pro (2023), iMac (2023)
M3 Pro36 GB150 GB/sপ্রায় 48Bসেকেন্ডে 33 টোকেন14- and 16-inch MacBook Pro (2023)
M3 Max128 GB400 GB/sপ্রায় 170Bসেকেন্ডে 89 টোকেন14- and 16-inch MacBook Pro (2023)
M3 Ultra512 GB819 GB/sপ্রায় 682Bসেকেন্ডে 182 টোকেনMac Studio (2025)
M432 GB120 GB/sপ্রায় 42Bসেকেন্ডে 27 টোকেনMacBook Air (2025), 14-inch MacBook Pro (2024), Mac mini (2024), iMac (2024)
M4 Pro64 GB273 GB/sপ্রায় 85Bসেকেন্ডে 61 টোকেনMac mini (2024), 14- and 16-inch MacBook Pro (2024)
M4 Max128 GB546 GB/sপ্রায় 170Bসেকেন্ডে 121 টোকেন14- and 16-inch MacBook Pro (2024), Mac Studio (2025)
M532 GB153 GB/sপ্রায় 42Bসেকেন্ডে 34 টোকেন14-inch MacBook Pro (2025), MacBook Air (2026)
M5 Pro64 GB307 GB/sপ্রায় 85Bসেকেন্ডে 68 টোকেন14- and 16-inch MacBook Pro (2026), Mac mini (2026)
M5 Max128 GB614 GB/sপ্রায় 170Bসেকেন্ডে 136 টোকেন14- and 16-inch MacBook Pro (2026), Mac Studio (2026)
M5 Ultra512 GB1.2 TB/sপ্রায় 682Bসেকেন্ডে 267 টোকেনMac Studio (2026)
M632 GB170 GB/sপ্রায় 42Bসেকেন্ডে 38 টোকেনMac mini (2026)

সীমা = মেমরি ব্যান্ডউইথ ÷ প্রতি টোকেনে পড়া বাইট; আসল রান সাধারণত এর ৪৫% থেকে ৮০% পর্যন্ত পৌঁছায়। সবচেয়ে বড় মডেল ধরে নেয় যে তিন-চতুর্থাংশ মেমরি ব্যবহারযোগ্য। প্রতিটি চিপের পাতায় সূত্র দেওয়া আছে।

তথ্যসূত্র

  1. Apple: M1apple.com
  2. llama.cpp: Apple Silicon benchmarksgithub.com
  3. Apple: M1 Pro and M1 Maxapple.com
  4. Apple: M1 Ultraapple.com
  5. Apple: M2apple.com
  6. Apple: M2 Pro and M2 Maxapple.com
  7. Apple: M2 Ultraapple.com
  8. Apple: M3, M3 Pro and M3 Maxapple.com
  9. Apple: MacBook Pro (M3 Pro or M3 Max) specssupport.apple.com
  10. Apple: Mac Studio (2025) specssupport.apple.com
  11. Apple: Mac mini (2024) specssupport.apple.com
  12. Apple: M4 Pro and M4 Maxapple.com
  13. Apple: M5apple.com
  14. Apple: MacBook Air with M5apple.com
  15. Apple: M5 Pro and M5 Maxapple.com
  16. Apple: Mac mini (2026) specssupport.apple.com
  17. Apple: Mac Studio with M5 Max and M5 Ultraapple.com
  18. Apple: M6 and M5 Ultraapple.com
লোকাল AI-এর জন্য প্রতিটি Apple Silicon চিপের তুলনা | MLX