LLM-களுக்கு M3, M2-ஐ விட வேகமானதா?

கிட்டத்தட்ட ஒன்றுதான்: இவற்றின் மெமரி பேண்ட்வித்தில் சில சதவீத வித்தியாசமே உள்ளது. இரண்டிலும் 24 GB வரை மெமரி கிடைக்கும்.

பெரிய மாடல்களை எது இயக்கும், M2-ஆ M3-ஆ?

இரண்டும் சமம்: இரண்டிலும் 24 GB வரை மெமரி கிடைக்கும். அந்த அளவில் 73 ஓப்பன் மாடல்களில் M2-இல் 20, M3-இல் 20 நன்றாக இயங்கும்; வேகமான சிப் அவற்றில் அதிக மாடல்களை வினாடிக்கு 10 டோக்கன்களுக்கு மேல் கொண்டு செல்லும்.

LLM-களுக்கு M2 vs M3: மெமரி, வேகம், எதை வாங்குவது

அருகருகே

	M2	M3
மெமரி அளவுகள்	8, 16, 24 GB	8, 16, 24 GB
மெமரி பேண்ட்வித்	100 GB/s	100 GB/s
மாடல்களுக்கு, அதிகபட்சம்	சுமார் 18 GB	சுமார் 18 GB
நன்றாக இயங்கும் மாடல்கள்	73-இல் 20	73-இல் 20
MLX இருக்கை வகை	Core	Core
இவற்றில் உள்ளது	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M3, Nov 2023), iMac (24-inch, M3, 2023, Two ports), iMac (24-inch, M3, 2023, Four ports), MacBook Air (13-inch, M3, 2024), MacBook Air (15-inch, M3, 2024)

பிரபல மாடல்களுடன் வேகம்

ஒரு உரையாடலுக்கு வினாடிக்கு டோக்கன்கள்; ஒவ்வொரு சிப்பும் அதன் மிகப் பெரிய மெமரி அளவில் (24 GB, 24 GB), மாடலின் பொருந்தும் சிறந்த பதிப்புடன்.

மாடல்	M2	M3
Llama 3.1 8B Instruct8B	10–18 4-பிட்	10–18 4-பிட்
gpt-oss-20b21B · 3.6B செயலில்	24–42 நேட்டிவ் 4.25-பிட்	24–42 நேட்டிவ் 4.25-பிட்
Qwen3.6 35B A3B35B · 3B செயலில்	35–62 3-பிட் குறைந்த தரம்	35–62 3-பிட் குறைந்த தரம்
Qwen3.8 27B27B	3–5 4-பிட்	3–5 4-பிட்
Llama 3.3 70B Instruct70B	மிகப் பெரியது	மிகப் பெரியது
gpt-oss-120b117B · 5.1B செயலில்	மிகப் பெரியது	மிகப் பெரியது
Qwen3.5 122B A10B122B · 10B செயலில்	மிகப் பெரியது	மிகப் பெரியது
DeepSeek V4 Flash 0731284B · 13B செயலில்	மிகப் பெரியது	மிகப் பெரியது

கேள்விகள்

LLM-களுக்கு M3, M2-ஐ விட வேகமானதா?: கிட்டத்தட்ட ஒன்றுதான்: இவற்றின் மெமரி பேண்ட்வித்தில் சில சதவீத வித்தியாசமே உள்ளது. இரண்டிலும் 24 GB வரை மெமரி கிடைக்கும்.
பெரிய மாடல்களை எது இயக்கும், M2-ஆ M3-ஆ?: இரண்டும் சமம்: இரண்டிலும் 24 GB வரை மெமரி கிடைக்கும். அந்த அளவில் 73 ஓப்பன் மாடல்களில் M2-இல் 20, M3-இல் 20 நன்றாக இயங்கும்; வேகமான சிப் அவற்றில் அதிக மாடல்களை வினாடிக்கு 10 டோக்கன்களுக்கு மேல் கொண்டு செல்லும்.

மேலும் ஒப்பீடுகள்

லோக்கல் AI-க்கு M2 · லோக்கல் AI-க்கு M3 · எல்லா மாடல்களையும் ஒப்பிடுங்கள் · லோக்கல் LLM-களுக்குச் சிறந்த Mac

எப்படிக் கணக்கிடப்பட்டது

மெமரி: மாடலின் பாராமீட்டர்கள் ஒரு வெயிட்டுக்கு 8, 6, 4, 3 அல்லது 2 பிட்களில், கூடவே MLX-இன் குரூப் ஸ்கேல்கள் (ஒரு வெயிட்டுக்கு அரை பிட்), அல்லது அதன் நேட்டிவ் வடிவம், அதற்கு மேல் கான்டெக்ஸ்ட்டுக்கு இடம். இயல்பாக macOS, யூனிஃபைடு மெமரியில் சுமார் 75%-ஐ GPU பயன்படுத்த அனுமதிக்கிறது. வேகம்: மெமரி பேண்ட்வித்தை ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படும் பைட்டுகளால் வகுத்தால், ஒரு உரையாடலுக்கான உச்சவரம்பு கிடைக்கும்; llama.cpp-இன் பொது Apple Silicon பெஞ்ச்மார்க்குகளில் உண்மையான ரன்கள் அதில் சுமார் 45% முதல் 80% வரை எட்டுகின்றன, அந்த வரம்பே காட்டப்படுகிறது. இவை மதிப்பீடுகள், அளவீடுகள் அல்ல: உங்கள் சொந்த Mac-ஐ MLX Bench-இல் அளந்து பாருங்கள். மாடல் விவரங்கள் ஒவ்வொரு அதிகாரப்பூர்வ மாடல் கார்டிலிருந்தும், சிப் விவரங்கள் Apple-இன் Tech Specs-இலிருந்தும். சரிபார்த்தது 2026-10-19. mlx.app/compare-இல் உள்ள அதே தரவு.