ஒவ்வொரு பிரிசிஷனிலும் மெமரி
| பதிப்பு | வெயிட்கள் | கான்டெக்ஸ்ட்டுடன் | மிகச் சிறிய Mac |
|---|---|---|---|
| 8-பிட் | 2.7 GB | 4.2 GB | 8 GB |
| 6-பிட் | 2 GB | 3.5 GB | 8 GB |
| 4-பிட் | 1.4 GB | 2.9 GB | 8 GB |
| 3-பிட் குறைந்த தரம் | 1.1 GB | 2.6 GB | 8 GB |
| 2-பிட் குறைந்த தரம் | 0.8 GB | 2.3 GB | 8 GB |
ஒவ்வொரு Apple சிப்பிலும்
MiniCPM5 2B-ஐ இயக்கும் ஒவ்வொரு சிப்பின் மிகச் சிறிய மெமரி அளவு, அதில் பொருந்தும் சிறந்த பதிப்பு, எதிர்பார்க்கக்கூடிய எழுதும் வேகம்.
| சிப் | தேவை | பதிப்பு | டோக்கன்கள்/வினாடி |
|---|---|---|---|
| M6 | 16 GB | 8-பிட் நன்றாக இயங்கும் | 26–45 |
| M5 Ultra | 96 GB | 8-பிட் நன்றாக இயங்கும் | 200–356 |
| M5 Max | 36 GB | 8-பிட் நன்றாக இயங்கும் | 77–136 |
| M5 Pro | 24 GB | 8-பிட் நன்றாக இயங்கும் | 51–91 |
| M5 | 16 GB | 8-பிட் நன்றாக இயங்கும் | 26–45 |
| M4 Max | 36 GB | 8-பிட் நன்றாக இயங்கும் | 68–121 |
| M4 Pro | 24 GB | 8-பிட் நன்றாக இயங்கும் | 45–81 |
| M4 | 16 GB | 8-பிட் நன்றாக இயங்கும் | 20–36 |
| M3 Ultra | 96 GB | 8-பிட் நன்றாக இயங்கும் | 137–243 |
| M3 Max | 36 GB | 8-பிட் நன்றாக இயங்கும் | 50–89 |
| M3 Pro | 18 GB | 8-பிட் நன்றாக இயங்கும் | 25–44 |
| M3 | 8 GB | 8-பிட் நன்றாக இயங்கும் | 17–30 |
| M2 Ultra | 64 GB | 8-பிட் நன்றாக இயங்கும் | 133–237 |
| M2 Max | 32 GB | 8-பிட் நன்றாக இயங்கும் | 67–119 |
| M2 Pro | 16 GB | 8-பிட் நன்றாக இயங்கும் | 33–59 |
| M2 | 8 GB | 8-பிட் நன்றாக இயங்கும் | 17–30 |
| M1 Ultra | 64 GB | 8-பிட் நன்றாக இயங்கும் | 133–237 |
| M1 Max | 32 GB | 8-பிட் நன்றாக இயங்கும் | 67–119 |
| M1 Pro | 16 GB | 8-பிட் நன்றாக இயங்கும் | 33–59 |
| M1 | 8 GB | 8-பிட் நன்றாக இயங்கும் | 11–20 |
இதை எப்படி இயக்குவது
- எளிய வழி: இலவசமான, ஓப்பன் சோர்ஸ் MLX Harness-ஐப் பதிவிறக்குங்கள். MiniCPM5 2B-ஐத் தேடி, உங்கள் Mac-இல் பொருந்தும் பதிப்பைப் பதிவிறக்கி, சாட் செய்யுங்கள். இது OpenAI-compatible API வழியாக அந்த மாடலை உங்கள் மற்ற ஆப்களுக்கும் வழங்குகிறது.MLX Harness-ஐப் பதிவிறக்குங்கள்இலவசம் · Apple Silicon · macOS 14.5 அல்லது அதற்குப் பிந்தையது
- Terminal-இல் Apple-இன் MLX உடன்:
pip install mlx-lmmlx_lm.chat --model mlx-community/MiniCPM5-2B-mlx-4Bitபில்ட்: Hugging Face-இல் mlx-community/MiniCPM5-2B-mlx-4Bit. மற்ற பிரிசிஷன்கள் அதன் அருகிலேயே உள்ளன.
படிப்படியாக: Mac-இல் LLM-களைப் பதிவிறக்கி இயக்குங்கள் · MLX Harness-வை எப்படிப் பயன்படுத்துவது · MLX vs Ollama vs llama.cpp
MiniCPM5 2B பற்றி
| உருவாக்கியவர் | OpenBMB |
|---|---|
| பாராமீட்டர்கள் | 2.52B (டென்ஸ்) |
| கான்டெக்ஸ்ட் | 128K டோக்கன்கள் |
| உரிமம் | Apache-2.0 |
| வெளியீடு | 2026-09 |
| உள்ளீடு | உரை |
| இன்டெலிஜென்ஸ் | Artificial Analysis Intelligence Index-இல் 12.5 |
| வெயிட்கள் | openbmb/MiniCPM5-2B |
கேள்விகள்
- MiniCPM5 2B-க்கு எவ்வளவு மெமரி தேவை?
- 4-பிட்-இல் சுமார் 1.4 GB வெயிட்கள், கூடவே கான்டெக்ஸ்ட்டுக்கு இடம்: மொத்தம் 2.9 GB. Mac-இல் இதன் பொருள் 8 GB அல்லது அதற்கு மேல் யூனிஃபைடு மெமரி, ஏனெனில் இயல்பாக macOS அதில் சுமார் 75%-ஐ மட்டுமே GPU பயன்படுத்த அனுமதிக்கிறது.
- Mac-இல் MiniCPM5 2B எவ்வளவு வேகமாக இயங்கும்?
- எழுதும் வேகம் மெமரி பேண்ட்வித்தைப் பொறுத்தது. இங்கே இதற்கு மிக வேகமான Mac 96 GB கொண்ட M5 Ultra, வினாடிக்கு சுமார் 200–356 டோக்கன்கள் (8-பிட்). இதை இயக்கும் மிகச் சிறிய Mac, 8 GB கொண்ட M3, சுமார் 17–30 வரை எட்டும்.
- குவான்டைசேஷன் MiniCPM5 2B-இன் தரத்தைக் குறைக்குமா?
- 4 பிட்டில் பெரும்பாலான மாடல்கள் அசல் தரத்துக்கு அருகிலேயே இருக்கும்; 4 பிட்டுக்குக் கீழே தரம் வேகமாகக் குறையும். உங்கள் Mac-இல் இடம் மீதமிருக்கும்படி பொருந்தும் மிக உயர்ந்த பிரிசிஷனைத் தேர்ந்தெடுங்கள்.
இதே போன்ற மாடல்கள்
- LFM2.5 2.6B8 GB முதல்
- Granite 4.2 3B8 GB முதல்
- SmolLM3 3B8 GB முதல்
- Qwen3.5 2B8 GB முதல்
- Llama 3.2 3B Instruct8 GB முதல்
- Phi-4 mini instruct8 GB முதல்
எல்லா மாடல்களும் · எல்லா Mac-களும் · உங்கள் Mac-ஐ ஒப்பிடுங்கள்
உங்கள் மாடல் கார்டு அல்லது README-க்கு
MiniCPM5 2B-ஐ நன்றாக இயக்கும் மிகச் சிறிய Mac-ஐக் காட்டி, இங்கே இணைப்பு தருகிறது.
[](https://mlx.app/run/minicpm5-2b)எப்படிக் கணக்கிடப்பட்டது
மெமரி: மாடலின் பாராமீட்டர்கள் ஒரு வெயிட்டுக்கு 8, 6, 4, 3 அல்லது 2 பிட்களில், கூடவே MLX-இன் குரூப் ஸ்கேல்கள் (ஒரு வெயிட்டுக்கு அரை பிட்), அல்லது அதன் நேட்டிவ் வடிவம், அதற்கு மேல் கான்டெக்ஸ்ட்டுக்கு இடம். இயல்பாக macOS, யூனிஃபைடு மெமரியில் சுமார் 75%-ஐ GPU பயன்படுத்த அனுமதிக்கிறது. வேகம்: மெமரி பேண்ட்வித்தை ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படும் பைட்டுகளால் வகுத்தால், ஒரு உரையாடலுக்கான உச்சவரம்பு கிடைக்கும்; llama.cpp-இன் பொது Apple Silicon பெஞ்ச்மார்க்குகளில் உண்மையான ரன்கள் அதில் சுமார் 45% முதல் 80% வரை எட்டுகின்றன, அந்த வரம்பே காட்டப்படுகிறது. இவை மதிப்பீடுகள், அளவீடுகள் அல்ல: உங்கள் சொந்த Mac-ஐ MLX Bench-இல் அளந்து பாருங்கள். மாடல் விவரங்கள் ஒவ்வொரு அதிகாரப்பூர்வ மாடல் கார்டிலிருந்தும், சிப் விவரங்கள் Apple-இன் Tech Specs-இலிருந்தும். சரிபார்த்தது 2026-10-19. mlx.app/compare-இல் உள்ள அதே தரவு.