LLM-களுக்கு M4, M2-ஐ விட வேகமானதா?

M4, M2-ஐ விட சுமார் 20% வேகமாக மெமரியைப் படிக்கிறது (120 vs 100 GB/s), எனவே இரண்டிலும் பொருந்தும் எந்த மாடலிலும் சுமார் 20% வேகமாக எழுதுகிறது. நீண்ட பிராம்ப்ட்டைப் படிப்பது GPU கம்ப்யூட்டைப் பொறுத்தது; அது இந்த ஒப்பீட்டில் இல்லை.

பெரிய மாடல்களை எது இயக்கும், M2-ஆ M4-ஆ?

M4: M4-இல் 32 GB வரை மெமரி கிடைக்கும், M2-இல் 24 GB வரை. அதன் மிகப் பெரிய அளவில் அது 73 ஓப்பன் மாடல்களில் 27-ஐ நன்றாக இயக்கும்; மற்றது 20.

LLM-களுக்கு M2 vs M4: மெமரி, வேகம், எதை வாங்குவது

அருகருகே

	M2	M4
மெமரி அளவுகள்	8, 16, 24 GB	16, 24, 32 GB
மெமரி பேண்ட்வித்	100 GB/s	120 GB/s
மாடல்களுக்கு, அதிகபட்சம்	சுமார் 18 GB	சுமார் 24 GB
நன்றாக இயங்கும் மாடல்கள்	73-இல் 20	73-இல் 27
MLX இருக்கை வகை	Core	Core
இவற்றில் உள்ளது	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)	MacBook Pro (14-inch, M4, 2024), iMac (24-inch, 2024, Two ports), iMac (24-inch, 2024, Four ports), Mac mini (2024), MacBook Air (13-inch, M4, 2025), MacBook Air (15-inch, M4, 2025)

பிரபல மாடல்களுடன் வேகம்

ஒரு உரையாடலுக்கு வினாடிக்கு டோக்கன்கள்; ஒவ்வொரு சிப்பும் அதன் மிகப் பெரிய மெமரி அளவில் (24 GB, 32 GB), மாடலின் பொருந்தும் சிறந்த பதிப்புடன்.

மாடல்	M2	M4
Llama 3.1 8B Instruct8B	10–18 4-பிட்	12–21 4-பிட்
gpt-oss-20b21B · 3.6B செயலில்	24–42 நேட்டிவ் 4.25-பிட்	28–51 நேட்டிவ் 4.25-பிட்
Qwen3.6 35B A3B35B · 3B செயலில்	35–62 3-பிட் குறைந்த தரம்	32–56 4-பிட்
Qwen3.8 27B27B	3–5 4-பிட்	2–4 6-பிட்
Llama 3.3 70B Instruct70B	மிகப் பெரியது	2–4 2-பிட் குறைந்த தரம்
gpt-oss-120b117B · 5.1B செயலில்	மிகப் பெரியது	மிகப் பெரியது
Qwen3.5 122B A10B122B · 10B செயலில்	மிகப் பெரியது	மிகப் பெரியது
DeepSeek V4 Flash 0731284B · 13B செயலில்	மிகப் பெரியது	மிகப் பெரியது

கேள்விகள்

LLM-களுக்கு M4, M2-ஐ விட வேகமானதா?: M4, M2-ஐ விட சுமார் 20% வேகமாக மெமரியைப் படிக்கிறது (120 vs 100 GB/s), எனவே இரண்டிலும் பொருந்தும் எந்த மாடலிலும் சுமார் 20% வேகமாக எழுதுகிறது. நீண்ட பிராம்ப்ட்டைப் படிப்பது GPU கம்ப்யூட்டைப் பொறுத்தது; அது இந்த ஒப்பீட்டில் இல்லை.
பெரிய மாடல்களை எது இயக்கும், M2-ஆ M4-ஆ?: M4: M4-இல் 32 GB வரை மெமரி கிடைக்கும், M2-இல் 24 GB வரை. அதன் மிகப் பெரிய அளவில் அது 73 ஓப்பன் மாடல்களில் 27-ஐ நன்றாக இயக்கும்; மற்றது 20.

மேலும் ஒப்பீடுகள்

லோக்கல் AI-க்கு M2 · லோக்கல் AI-க்கு M4 · எல்லா மாடல்களையும் ஒப்பிடுங்கள் · லோக்கல் LLM-களுக்குச் சிறந்த Mac

எப்படிக் கணக்கிடப்பட்டது

மெமரி: மாடலின் பாராமீட்டர்கள் ஒரு வெயிட்டுக்கு 8, 6, 4, 3 அல்லது 2 பிட்களில், கூடவே MLX-இன் குரூப் ஸ்கேல்கள் (ஒரு வெயிட்டுக்கு அரை பிட்), அல்லது அதன் நேட்டிவ் வடிவம், அதற்கு மேல் கான்டெக்ஸ்ட்டுக்கு இடம். இயல்பாக macOS, யூனிஃபைடு மெமரியில் சுமார் 75%-ஐ GPU பயன்படுத்த அனுமதிக்கிறது. வேகம்: மெமரி பேண்ட்வித்தை ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படும் பைட்டுகளால் வகுத்தால், ஒரு உரையாடலுக்கான உச்சவரம்பு கிடைக்கும்; llama.cpp-இன் பொது Apple Silicon பெஞ்ச்மார்க்குகளில் உண்மையான ரன்கள் அதில் சுமார் 45% முதல் 80% வரை எட்டுகின்றன, அந்த வரம்பே காட்டப்படுகிறது. இவை மதிப்பீடுகள், அளவீடுகள் அல்ல: உங்கள் சொந்த Mac-ஐ MLX Bench-இல் அளந்து பாருங்கள். மாடல் விவரங்கள் ஒவ்வொரு அதிகாரப்பூர்வ மாடல் கார்டிலிருந்தும், சிப் விவரங்கள் Apple-இன் Tech Specs-இலிருந்தும். சரிபார்த்தது 2026-10-19. mlx.app/compare-இல் உள்ள அதே தரவு.