சுருக்கமாக
- 16 GB: சிறிய பொது மாடல்கள் மட்டுமே வசதியாக இயங்கும்; Qwen3 Coder 30B A3B குறைந்த பிரிசிஷனில் மட்டுமே பொருந்தும். 24 GB: Devstral Small 2 (24B). 32–64 GB: 4-பிட்டில் Qwen3 Coder 30B A3B, Devstral Small 2.
- 96 GB மற்றும் மேல்: Qwen3 Coder Next (80B, 3B செயலில்). 128 GB: Devstral 2 (123B)-உம், மெதுவாக. 512 GB: Kimi K2.7 Code, குறைந்த பிரிசிஷனில்.
- Mixture-of-experts கோடர்கள் ஒவ்வொரு டோக்கனுக்கும் சில பில்லியன் வெயிட்களை மட்டுமே படிக்கின்றன; எனவே அதே Mac-இல் Qwen3 Coder 30B A3B, dense Devstral Small 2-ஐ விடப் பல மடங்கு வேகமாக எழுதலாம்.
- கோடிங் ஏஜென்ட்கள் நீண்ட ப்ராம்ப்ட்களை அனுப்புகின்றன: கான்டெக்ஸ்ட்டுக்குப் பல ஜிகாபைட்டுகளை விட்டுவையுங்கள், LLM-க்கு எவ்வளவு RAM தேவை என்பதைப் பாருங்கள்.
1மெமரி வாரியாக நன்றாக இயங்கும் கோடிங் மாடல்கள்
"நன்றாக இயங்கும்" என்றால், கான்டெக்ஸ்ட்டுக்கு இடத்துடன் 4-பிட் அல்லது அதற்கு மேலான பிரிசிஷனில் பொருந்தி, வினாடிக்கு 10 அல்லது அதற்கு மேற்பட்ட டோக்கன்கள் எழுதுவது; ஒவ்வொரு Mac பக்கத்திலும் உள்ள அதே விதி. எங்கள் ஓப்பன் மாடல் பட்டியலிலிருந்து கோடுக்காக உருவாக்கப்பட்ட மாடல்கள், கூடவே அந்த அளவில் நன்றாக இயங்கும், மிக உயர்ந்த Artificial Analysis Intelligence Index கொண்ட பொது மாடல்; அதுவும் கோடு எழுதுகிறது:
| Mac மெமரி | கோடுக்காக உருவாக்கப்பட்டவை | வலிமையான பொது மாடல் |
|---|---|---|
| 16 GB | Qwen3 Coder 30B A3B குறைந்த பிரிசிஷனில் மட்டும் | MiniCPM5 2B |
| 24 GB | Devstral Small 2 | MiniCPM5 2B |
| 32 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 48 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 64 GB | Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 96 GB | Qwen3 Coder Next, Qwen3 Coder 30B A3B, Devstral Small 2 | Qwen3.8 27B |
| 128 GB | Qwen3 Coder Next, Devstral 2 (123B) (மெதுவாக) | Qwen3.8 27B |
| 256 GB | Qwen3 Coder Next, Devstral 2 (மெதுவாக) | Qwen3.8 Flash Next |
| 512 GB | Kimi K2.7 Code குறைந்த பிரிசிஷனில், Qwen3 Coder Next | DeepSeek V4.1 Flash 1017 |
2Mixture-of-experts கோடர்கள் ஏன் வேகமாகத் தோன்றுகின்றன
ஒவ்வொரு டோக்கனுக்கும் எத்தனை பைட் வெயிட்கள் படிக்கப்படுகின்றன என்பதால் எழுதும் வேகம் வரம்புக்குட்படுகிறது. Dense மாடல் அனைத்தையும் படிக்கிறது; mixture-of-experts மாடல் தன் செயலில் உள்ள பகுதியை மட்டுமே படிக்கிறது. M5 Pro கொண்ட Mac mini-இல் (307 GB/s, Apple), 4-பிட்டில்:
| மாடல் | பாராமீட்டர்கள் | ஒரு டோக்கனுக்குப் படிப்பது | ஒரு சாட்டுக்கான உச்சவரம்பு |
|---|---|---|---|
| Qwen3 Coder 30B A3B | மொத்தம் 30.5B, 3.3B செயலில் | சுமார் 1.9 GB | சுமார் 165 டோக்கன்கள்/s |
| Devstral Small 2 | 24B, dense | சுமார் 13.5 GB | சுமார் 23 டோக்கன்கள்/s |
வேகம் தரம் அல்ல: அதே மெமரியில் dense மாடல் சிறந்த கோடராக இருக்கலாம். இரண்டையும் உங்கள் சொந்தக் கோடில் சோதித்துப் பாருங்கள்.
3கான்டெக்ஸ்ட்டுக்கு இடம் விடுங்கள்
கோடிங் கருவிகள் நிறைய உரையை அனுப்புகின்றன: பயன்பாட்டில் உள்ள கோப்புகள், கருவி விவரங்கள், இதுவரையிலான உரையாடல். அந்தக் கான்டெக்ஸ்ட் மாடலுக்கு அருகில் மெமரியில், KV cache-இல் வைக்கப்படுகிறது, ஒவ்வொரு டோக்கனுடனும் வளர்கிறது. Qwen3 8B-க்கு 32,000 டோக்கன்கள் சுமார் 4.8 GB எடுக்கின்றன (இங்கே கணக்கிடப்பட்டது). பெரிய மாடல்களுக்கு ஒரு டோக்கனுக்கு அதிகம் தேவை.
எனவே ஒரு மாடல் மிகக் குறுகிய இடத்தில் மட்டுமே பொருந்தினால், கான்டெக்ஸ்ட்டை நெருக்குவதை விட, அடுத்த சிறிய மாடலையோ குறைந்த பிரிசிஷனையோ தேர்ந்தெடுங்கள். முதல் சொல் தோன்றும் முன் நீண்ட ப்ராம்ப்ட்களைப் படிக்கவும் நேரம் ஆகிறது; M5 தலைமுறை M4-ஐ விட ப்ராம்ப்ட்களை வேகமாகப் படிக்கிறது (Apple).
4உங்கள் எடிட்டர் அல்லது ஏஜென்ட்டில் பயன்படுத்துங்கள்
கோடிங் கருவிகள் API மூலம் மாடலுடன் பேசுகின்றன. மாடலை லோக்கலாக இயக்கி, கருவியை அதற்குச் சுட்டுங்கள்:
- LM Studio-வின் லோக்கல் சர்வர் OpenAI, Anthropic வடிவங்களைப் புரிந்துகொள்கிறது, மேலும் Claude Code, Codex, OpenClaw, Hermes Agent ஆகியவற்றுக்கான அமைப்பு வழிகாட்டிகள் LM Studio-விடம் உள்ளன (LM Studio).
- mlx-lm:
mlx_lm.server --model <model>போர்ட் 8080-இல் OpenAI-பாணி API-ஐ வழங்குகிறது (mlx-lm). - Ollama-வும் OpenAI-இணக்கமான API-ஐ வழங்குகிறது: Mac-இல் LLM இயக்க சிறந்த ஆப்கள் அவற்றை ஒப்பிடுகிறது.
ஏஜென்ட்கள் கருவிகளை அழைக்கின்றன; எனவே சர்வர் புரிந்துகொள்ளும் வடிவத்தில் மாடல் tool call-களை உருவாக்க வேண்டும். Qwen3 Coder, Devstral போன்ற கோடுக்கும் ஏஜென்ட்களுக்கும் உருவாக்கப்பட்ட மாடல்கள் அதற்காகப் பயிற்சி பெற்றவை; சிறிய பொது மாடல்கள் இதில் பெரும்பாலும் நம்பகமாக இருப்பதில்லை.
AI App Store-இன் கோடிங் பிரிவில் Claude Code, Codex போன்ற கோடிங் ஏஜென்ட்களும் எடிட்டர்களும் உள்ளன; ஒவ்வொன்றுக்கும் தயாரிப்பாளரின் அதிகாரப்பூர்வ பதிவிறக்கம், விலை, உங்கள் தரவு எங்கே போகிறது என்பவை உண்டு.
5கேள்விகள்
- 32 GB Mac-க்குச் சிறந்த லோக்கல் கோடிங் LLM எது?
- Qwen3 Coder 30B A3B, Devstral Small 2 இரண்டும் 4-பிட்டில் நன்றாக இயங்குகின்றன. Qwen3 Coder மிக வேகமாக எழுதுகிறது, ஏனெனில் அதன் 30.5B பாராமீட்டர்களில் 3.3B மட்டுமே ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படுகின்றன; இரண்டையும் உங்கள் சொந்தக் கோடில் சோதித்துப் பாருங்கள்.
- 16 GB Mac கோடிங் மாடலை இயக்குமா?
- சிறிய மாடல்களை, ஆம். Qwen3 Coder 30B A3B, 16 GB-இல் குறைந்த பிரிசிஷனில் மட்டுமே பொருந்தும், கான்டெக்ஸ்ட்டுக்குக் குறைந்த இடத்துடன். கோடிங் ஏஜென்ட்களுக்கு 32 GB அல்லது அதற்கு மேல் சிறந்த தொடக்கம்.
- Claude Code அல்லது Codex-ஐ லோக்கல் மாடலுடன் பயன்படுத்த முடியுமா?
- ஆம். இரண்டுக்குமான அமைப்பு வழிகாட்டிகள் LM Studio-விடம் உள்ளன: அதன் லோக்கல் சர்வர் Claude Code பயன்படுத்தும் Anthropic வடிவத்தையும் Codex பயன்படுத்தும் OpenAI வடிவத்தையும் புரிந்துகொள்கிறது (LM Studio). அவை எவ்வளவு நன்றாக வேலை செய்யும் என்பது நீங்கள் ஏற்றும் மாடலைப் பொறுத்தது.
- லோக்கல் கோடிங் மாடல் கிளவுட் மாடல் அளவுக்கு நல்லதா?
- மிகப் பெரிய ஓப்பன் மாடல்கள் பல பணிகளில் நெருங்கி வருகின்றன, ஆனால் அவற்றுக்கு 256 அல்லது 512 GB கொண்ட Mac Studio தேவை. 32–64 GB-இல் பொருந்தும் மாடல்கள் completion, விளக்கங்கள், சிறிய ஏஜென்ட் பணிகளுக்குப் பயனுள்ளவை, உங்கள் கோடை உங்கள் Mac-இலேயே வைக்கின்றன.