LLM-களுக்கு M2, M1-ஐ விட வேகமானதா?

M2, M1-ஐ விட சுமார் 47% வேகமாக மெமரியைப் படிக்கிறது (100 vs 68 GB/s), எனவே இரண்டிலும் பொருந்தும் எந்த மாடலிலும் சுமார் 47% வேகமாக எழுதுகிறது. நீண்ட பிராம்ப்ட்டைப் படிப்பது GPU கம்ப்யூட்டைப் பொறுத்தது; அது இந்த ஒப்பீட்டில் இல்லை.

பெரிய மாடல்களை எது இயக்கும், M1-ஆ M2-ஆ?

M2: M2-இல் 24 GB வரை மெமரி கிடைக்கும், M1-இல் 16 GB வரை. அதன் மிகப் பெரிய அளவில் அது 73 ஓப்பன் மாடல்களில் 20-ஐ நன்றாக இயக்கும்; மற்றது 14.

LLM-களுக்கு M1 vs M2: மெமரி, வேகம், எதை வாங்குவது

அருகருகே

	M1	M2
மெமரி அளவுகள்	8, 16 GB	8, 16, 24 GB
மெமரி பேண்ட்வித்	68 GB/s	100 GB/s
மாடல்களுக்கு, அதிகபட்சம்	சுமார் 12 GB	சுமார் 18 GB
நன்றாக இயங்கும் மாடல்கள்	73-இல் 14	73-இல் 20
MLX இருக்கை வகை	Core	Core
இவற்றில் உள்ளது	MacBook Air (M1, 2020), MacBook Pro (13-inch, M1, 2020), Mac mini (M1, 2020), iMac (24-inch, M1, 2021)	MacBook Air (M2, 2022), MacBook Pro (13-inch, M2, 2022), MacBook Air (15-inch, M2, 2023), Mac mini (2023)

பிரபல மாடல்களுடன் வேகம்

ஒரு உரையாடலுக்கு வினாடிக்கு டோக்கன்கள்; ஒவ்வொரு சிப்பும் அதன் மிகப் பெரிய மெமரி அளவில் (16 GB, 24 GB), மாடலின் பொருந்தும் சிறந்த பதிப்புடன்.

மாடல்	M1	M2
Llama 3.1 8B Instruct8B	4–6 8-பிட்	10–18 4-பிட்
gpt-oss-20b21B · 3.6B செயலில்	19–34 3-பிட் குறைந்த தரம்	24–42 நேட்டிவ் 4.25-பிட்
Qwen3.6 35B A3B35B · 3B செயலில்	34–60 2-பிட் குறைந்த தரம்	35–62 3-பிட் குறைந்த தரம்
Qwen3.8 27B27B	4–6 2-பிட் குறைந்த தரம்	3–5 4-பிட்
Llama 3.3 70B Instruct70B	மிகப் பெரியது	மிகப் பெரியது
gpt-oss-120b117B · 5.1B செயலில்	மிகப் பெரியது	மிகப் பெரியது
Qwen3.5 122B A10B122B · 10B செயலில்	மிகப் பெரியது	மிகப் பெரியது
DeepSeek V4 Flash 0731284B · 13B செயலில்	மிகப் பெரியது	மிகப் பெரியது

கேள்விகள்

LLM-களுக்கு M2, M1-ஐ விட வேகமானதா?: M2, M1-ஐ விட சுமார் 47% வேகமாக மெமரியைப் படிக்கிறது (100 vs 68 GB/s), எனவே இரண்டிலும் பொருந்தும் எந்த மாடலிலும் சுமார் 47% வேகமாக எழுதுகிறது. நீண்ட பிராம்ப்ட்டைப் படிப்பது GPU கம்ப்யூட்டைப் பொறுத்தது; அது இந்த ஒப்பீட்டில் இல்லை.
பெரிய மாடல்களை எது இயக்கும், M1-ஆ M2-ஆ?: M2: M2-இல் 24 GB வரை மெமரி கிடைக்கும், M1-இல் 16 GB வரை. அதன் மிகப் பெரிய அளவில் அது 73 ஓப்பன் மாடல்களில் 20-ஐ நன்றாக இயக்கும்; மற்றது 14.

மேலும் ஒப்பீடுகள்

லோக்கல் AI-க்கு M1 · லோக்கல் AI-க்கு M2 · எல்லா மாடல்களையும் ஒப்பிடுங்கள் · லோக்கல் LLM-களுக்குச் சிறந்த Mac

எப்படிக் கணக்கிடப்பட்டது

மெமரி: மாடலின் பாராமீட்டர்கள் ஒரு வெயிட்டுக்கு 8, 6, 4, 3 அல்லது 2 பிட்களில், கூடவே MLX-இன் குரூப் ஸ்கேல்கள் (ஒரு வெயிட்டுக்கு அரை பிட்), அல்லது அதன் நேட்டிவ் வடிவம், அதற்கு மேல் கான்டெக்ஸ்ட்டுக்கு இடம். இயல்பாக macOS, யூனிஃபைடு மெமரியில் சுமார் 75%-ஐ GPU பயன்படுத்த அனுமதிக்கிறது. வேகம்: மெமரி பேண்ட்வித்தை ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படும் பைட்டுகளால் வகுத்தால், ஒரு உரையாடலுக்கான உச்சவரம்பு கிடைக்கும்; llama.cpp-இன் பொது Apple Silicon பெஞ்ச்மார்க்குகளில் உண்மையான ரன்கள் அதில் சுமார் 45% முதல் 80% வரை எட்டுகின்றன, அந்த வரம்பே காட்டப்படுகிறது. இவை மதிப்பீடுகள், அளவீடுகள் அல்ல: உங்கள் சொந்த Mac-ஐ MLX Bench-இல் அளந்து பாருங்கள். மாடல் விவரங்கள் ஒவ்வொரு அதிகாரப்பூர்வ மாடல் கார்டிலிருந்தும், சிப் விவரங்கள் Apple-இன் Tech Specs-இலிருந்தும். சரிபார்த்தது 2026-10-19. mlx.app/compare-இல் உள்ள அதே தரவு.