அருகருகே
பிரபல மாடல்களுடன் வேகம்
ஒரு உரையாடலுக்கு வினாடிக்கு டோக்கன்கள்; ஒவ்வொரு சிப்பும் அதன் மிகப் பெரிய மெமரி அளவில் (192 GB, 512 GB), மாடலின் பொருந்தும் சிறந்த பதிப்புடன்.
| மாடல் | M2 Ultra | M3 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 42–75 8-பிட் | 43–77 8-பிட் |
| gpt-oss-20b21B · 3.6B செயலில் | 189–337 நேட்டிவ் 4.25-பிட் | 194–345 நேட்டிவ் 4.25-பிட் |
| Qwen3.6 35B A3B35B · 3B செயலில் | 113–200 8-பிட் | 115–205 8-பிட் |
| Qwen3.8 27B27B | 13–22 8-பிட் | 13–23 8-பிட் |
| Llama 3.3 70B Instruct70B | 5–9 8-பிட் | 5–9 8-பிட் |
| gpt-oss-120b117B · 5.1B செயலில் | 133–237 நேட்டிவ் 4.25-பிட் | 137–243 நேட்டிவ் 4.25-பிட் |
| Qwen3.5 122B A10B122B · 10B செயலில் | 34–60 8-பிட் | 35–62 8-பிட் |
| DeepSeek V4 Flash 0731284B · 13B செயலில் | 63–112 3-பிட் குறைந்த தரம் | 27–47 8-பிட் |
கேள்விகள்
- LLM-களுக்கு M3 Ultra, M2 Ultra-ஐ விட வேகமானதா?
- கிட்டத்தட்ட ஒன்றுதான்: இவற்றின் மெமரி பேண்ட்வித்தில் சில சதவீத வித்தியாசமே உள்ளது. M3 Ultra-இல் 512 GB வரை மெமரி கிடைக்கும், M2 Ultra-இல் 192 GB வரை.
- பெரிய மாடல்களை எது இயக்கும், M2 Ultra-ஆ M3 Ultra-ஆ?
- M3 Ultra: M3 Ultra-இல் 512 GB வரை மெமரி கிடைக்கும், M2 Ultra-இல் 192 GB வரை. அதன் மிகப் பெரிய அளவில் அது 73 ஓப்பன் மாடல்களில் 60-ஐ நன்றாக இயக்கும்; மற்றது 49.
மேலும் ஒப்பீடுகள்
- M1 Ultra vs M2 Ultra
- M2 Max vs M2 Ultra
- M2 Ultra vs M4 Max
- M3 Max vs M3 Ultra
- M3 Ultra vs M4 Max
- M3 Ultra vs M5 Max
- M3 Ultra vs M5 Ultra
லோக்கல் AI-க்கு M2 Ultra · லோக்கல் AI-க்கு M3 Ultra · எல்லா மாடல்களையும் ஒப்பிடுங்கள் · லோக்கல் LLM-களுக்குச் சிறந்த Mac
எப்படிக் கணக்கிடப்பட்டது
மெமரி: மாடலின் பாராமீட்டர்கள் ஒரு வெயிட்டுக்கு 8, 6, 4, 3 அல்லது 2 பிட்களில், கூடவே MLX-இன் குரூப் ஸ்கேல்கள் (ஒரு வெயிட்டுக்கு அரை பிட்), அல்லது அதன் நேட்டிவ் வடிவம், அதற்கு மேல் கான்டெக்ஸ்ட்டுக்கு இடம். இயல்பாக macOS, யூனிஃபைடு மெமரியில் சுமார் 75%-ஐ GPU பயன்படுத்த அனுமதிக்கிறது. வேகம்: மெமரி பேண்ட்வித்தை ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படும் பைட்டுகளால் வகுத்தால், ஒரு உரையாடலுக்கான உச்சவரம்பு கிடைக்கும்; llama.cpp-இன் பொது Apple Silicon பெஞ்ச்மார்க்குகளில் உண்மையான ரன்கள் அதில் சுமார் 45% முதல் 80% வரை எட்டுகின்றன, அந்த வரம்பே காட்டப்படுகிறது. இவை மதிப்பீடுகள், அளவீடுகள் அல்ல: உங்கள் சொந்த Mac-ஐ MLX Bench-இல் அளந்து பாருங்கள். மாடல் விவரங்கள் ஒவ்வொரு அதிகாரப்பூர்வ மாடல் கார்டிலிருந்தும், சிப் விவரங்கள் Apple-இன் Tech Specs-இலிருந்தும். சரிபார்த்தது 2026-10-19. mlx.app/compare-இல் உள்ள அதே தரவு.