ప్రతి ప్రెసిషన్ వద్ద మెమరీ
| వెర్షన్ | వెయిట్లు | కాంటెక్స్ట్‌తో | అతిచిన్న Mac |
|---|---|---|---|
| 8-బిట్ | 136 GB | 147 GB | 256 GB |
| 6-బిట్ | 104 GB | 112 GB | 192 GB |
| 4-బిట్ | 72 GB | 77.8 GB | 128 GB |
| 3-బిట్ తక్కువ నాణ్యత | 56 GB | 60.5 GB | 96 GB |
| 2-బిట్ తక్కువ నాణ్యత | 40 GB | 43.2 GB | 64 GB |
ప్రతి Apple చిప్‌పై
Mistral Medium 3.5 (128B)ను నడిపే ప్రతి చిప్ యొక్క అతిచిన్న మెమరీ సైజు, దానిలో సరిపోయే ఉత్తమ వెర్షన్, ఆశించదగిన రాసే వేగం.
| చిప్ | కావాలి | వెర్షన్ | టోకెన్లు/సెకను |
|---|---|---|---|
| M6 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M5 Ultra | 256 GB | 8-బిట్ నెమ్మది | 4–7 |
| M5 Max | 128 GB | 4-బిట్ నెమ్మది | 4–7 |
| M5 Pro | 64 GB | 2-బిట్ నెమ్మది | 3–6 |
| M5 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M4 Max | 128 GB | 4-బిట్ నెమ్మది | 3–6 |
| M4 Pro | 64 GB | 2-బిట్ నెమ్మది | 3–5 |
| M4 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M3 Ultra | 256 GB | 8-బిట్ నెమ్మది | 3–5 |
| M3 Max | 128 GB | 4-బిట్ నెమ్మది | 3–4 |
| M3 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M3 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M2 Ultra | 128 GB | 4-బిట్ నెమ్మది | 5–9 |
| M2 Max | 64 GB | 2-బిట్ నెమ్మది | 5–8 |
| M2 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M2 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 Ultra | 128 GB | 4-బిట్ నెమ్మది | 5–9 |
| M1 Max | 64 GB | 2-బిట్ నెమ్మది | 5–8 |
| M1 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
దీన్ని ఎలా నడపాలి
- సులభమైన మార్గం: ఉచితమైన, ఓపెన్ సోర్స్ MLX Harnessను డౌన్‌లోడ్ చేయండి. Mistral Medium 3.5 (128B) కోసం వెతికి, మీ Macలో సరిపోయే వెర్షన్‌ను డౌన్‌లోడ్ చేసి, చాట్ చేయండి. ఇది OpenAI-compatible API ద్వారా ఆ మోడల్‌ను మీ ఇతర యాప్‌లకు కూడా అందిస్తుంది.MLX Harness డౌన్‌లోడ్ చేయండిఉచితం · Apple Silicon · macOS 14.5 లేదా తర్వాతి వెర్షన్
- Terminalలో Apple MLXతో:
pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Medium-3.5-128B-4bitబిల్డ్: Hugging Faceలో mlx-community/Mistral-Medium-3.5-128B-4bit. ఇతర ప్రెసిషన్‌లు దాని పక్కనే ఉన్నాయి.
దశలవారీగా: Macలో LLMలను డౌన్‌లోడ్ చేసి నడపండి · MLX Harnessను ఎలా వాడాలి · MLX vs Ollama vs llama.cpp
Mistral Medium 3.5 (128B) గురించి
| తయారీదారు | Mistral AI |
|---|---|
| పారామీటర్‌లు | 128B (డెన్స్) |
| కాంటెక్స్ట్ | 256K టోకెన్లు |
| లైసెన్స్ | Modified MIT (exceptions for companies with large revenue) |
| విడుదల | 2026-03 |
| ఇన్‌పుట్ | టెక్స్ట్, చిత్రాలు |
| ఇంటెలిజెన్స్ | Artificial Analysis Intelligence Indexలో 14.2 |
| వెయిట్లు | mistralai/Mistral-Medium-3.5-128B |
ప్రశ్నలు
- Mistral Medium 3.5 (128B)కు ఎంత మెమరీ కావాలి?
- 4-బిట్ వద్ద సుమారు 72 GB వెయిట్లు, దానితో పాటు కాంటెక్స్ట్కు చోటు: మొత్తం 77.8 GB. Macలో అంటే 128 GB లేదా అంతకంటే ఎక్కువ యూనిఫైడ్ మెమరీ, ఎందుకంటే డిఫాల్ట్గా macOS దానిలో సుమారు 75%ను మాత్రమే GPU వాడుకోనిస్తుంది.
- Macలో Mistral Medium 3.5 (128B) ఎంత వేగంగా నడుస్తుంది?
- రాసే వేగం మెమరీ బ్యాండ్విడ్త్పై ఆధారపడుతుంది. ఇక్కడ దీనికి అత్యంత వేగవంతమైన Mac 128 GB ఉన్న M2 Ultra, సెకనుకు సుమారు 5–9 టోకెన్లు (4-బిట్). దీన్ని నడిపే అతిచిన్న Mac, 128 GB ఉన్న M2 Ultra, సుమారు 5–9 వరకు చేరుతుంది.
- క్వాంటైజేషన్ వల్ల Mistral Medium 3.5 (128B) నాణ్యత తగ్గుతుందా?
- 4 బిట్ల వద్ద చాలా మోడల్లు అసలు నాణ్యతకు దగ్గరగానే ఉంటాయి; 4 బిట్ల కంటే తక్కువకు వెళ్తే నాణ్యత వేగంగా పడిపోతుంది. మీ Macలో చోటు మిగిలేలా సరిపోయే అత్యధిక ప్రెసిషన్ను ఎంచుకోండి.
ఇలాంటి మోడల్లు
మీ మోడల్ కార్డ్ లేదా README కోసం
Mistral Medium 3.5 (128B)ను బాగా నడిపే అతిచిన్న Macను చూపి, ఇక్కడికి లింక్ ఇస్తుంది.
[](https://mlx.app/run/mistral-medium-3.5)ఎలా లెక్కించాం
మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్కు చోటు. డిఫాల్ట్గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్‌కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.