ప్రతి ప్రెసిషన్ వద్ద మెమరీ
| వెర్షన్ | వెయిట్లు | కాంటెక్స్ట్‌తో | అతిచిన్న Mac |
|---|---|---|---|
| 8-బిట్ | 130 GB | 140 GB | 192 GB |
| 6-బిట్ | 99.1 GB | 107 GB | 192 GB |
| 4-బిట్ | 68.6 GB | 74.1 GB | 128 GB |
| 3-బిట్ తక్కువ నాణ్యత | 53.4 GB | 57.7 GB | 96 GB |
| 2-బిట్ తక్కువ నాణ్యత | 38.1 GB | 41.1 GB | 64 GB |
ప్రతి Apple చిప్‌పై
Ornith 1.5 122Bను నడిపే ప్రతి చిప్ యొక్క అతిచిన్న మెమరీ సైజు, దానిలో సరిపోయే ఉత్తమ వెర్షన్, ఆశించదగిన రాసే వేగం.
| చిప్ | కావాలి | వెర్షన్ | టోకెన్లు/సెకను |
|---|---|---|---|
| M6 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M5 Ultra | 256 GB | 8-బిట్ బాగా నడుస్తుంది | 51–91 |
| M5 Max | 128 GB | 4-బిట్ బాగా నడుస్తుంది | 49–88 |
| M5 Pro | 64 GB | 2-బిట్ బాగా నడుస్తుంది | 45–79 |
| M5 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M4 Max | 128 GB | 4-బిట్ బాగా నడుస్తుంది | 44–78 |
| M4 Pro | 64 GB | 2-బిట్ బాగా నడుస్తుంది | 40–70 |
| M4 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M3 Ultra | 256 GB | 8-బిట్ బాగా నడుస్తుంది | 35–62 |
| M3 Max | 128 GB | 4-బిట్ బాగా నడుస్తుంది | 32–57 |
| M3 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M3 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M2 Ultra | 128 GB | 4-బిట్ బాగా నడుస్తుంది | 64–114 |
| M2 Max | 64 GB | 2-బిట్ బాగా నడుస్తుంది | 58–103 |
| M2 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M2 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 Ultra | 128 GB | 4-బిట్ బాగా నడుస్తుంది | 64–114 |
| M1 Max | 64 GB | 2-బిట్ బాగా నడుస్తుంది | 58–103 |
| M1 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
దీన్ని ఎలా నడపాలి
- సులభమైన మార్గం: ఉచితమైన, ఓపెన్ సోర్స్ MLX Harnessను డౌన్‌లోడ్ చేయండి. Ornith 1.5 122B కోసం వెతికి, మీ Macలో సరిపోయే వెర్షన్‌ను డౌన్‌లోడ్ చేసి, చాట్ చేయండి. ఇది OpenAI-compatible API ద్వారా ఆ మోడల్‌ను మీ ఇతర యాప్‌లకు కూడా అందిస్తుంది.MLX Harness డౌన్‌లోడ్ చేయండిఉచితం · Apple Silicon · macOS 14.5 లేదా తర్వాతి వెర్షన్
- Terminalలో Apple MLXతో: ఇంకా కమ్యూనిటీ MLX బిల్డ్ లేదు, కాబట్టి అధికారిక వెయిట్‌ల నుండి మీరే తయారు చేయండి:
pip install mlx-lmmlx_lm.convert --hf-path ornith-ai/Ornith-1.5-122B -q
దశలవారీగా: Macలో LLMలను డౌన్‌లోడ్ చేసి నడపండి · MLX Harnessను ఎలా వాడాలి · MLX vs Ollama vs llama.cpp
Ornith 1.5 122B గురించి
| తయారీదారు | Ornith AI |
|---|---|
| పారామీటర్‌లు | మొత్తం 122B · యాక్టివ్ 10B (mixture of experts) |
| కాంటెక్స్ట్ | 256K టోకెన్లు |
| లైసెన్స్ | MIT |
| విడుదల | 2026-10 |
| ఇన్‌పుట్ | టెక్స్ట్, చిత్రాలు |
| వెయిట్లు | ornith-ai/Ornith-1.5-122B |
ప్రశ్నలు
- Ornith 1.5 122Bకు ఎంత మెమరీ కావాలి?
- 4-బిట్ వద్ద సుమారు 68.6 GB వెయిట్లు, దానితో పాటు కాంటెక్స్ట్కు చోటు: మొత్తం 74.1 GB. Macలో అంటే 128 GB లేదా అంతకంటే ఎక్కువ యూనిఫైడ్ మెమరీ, ఎందుకంటే డిఫాల్ట్గా macOS దానిలో సుమారు 75%ను మాత్రమే GPU వాడుకోనిస్తుంది.
- Macలో Ornith 1.5 122B ఎంత వేగంగా నడుస్తుంది?
- రాసే వేగం మెమరీ బ్యాండ్విడ్త్పై ఆధారపడుతుంది. ఇక్కడ దీనికి అత్యంత వేగవంతమైన Mac 128 GB ఉన్న M2 Ultra, సెకనుకు సుమారు 64–114 టోకెన్లు (4-బిట్). దీన్ని నడిపే అతిచిన్న Mac, 128 GB ఉన్న M2 Ultra, సుమారు 64–114 వరకు చేరుతుంది.
- Ornith 1.5 122B దాని సైజుకు మించిన వేగంతో ఎందుకు నడుస్తుంది?
- ఇది mixture-of-experts మోడల్: మెమరీలో 122B పారామీటర్లను ఉంచుతుంది, కానీ ప్రతి టోకెన్కు 10B మాత్రమే చదువుతుంది, అందుకే చాలా చిన్న మోడల్ వేగంతో రాస్తుంది.
ఇలాంటి మోడల్‌లు
మీ మోడల్ కార్డ్ లేదా README కోసం
Ornith 1.5 122Bను బాగా నడిపే అతిచిన్న Macను చూపి, ఇక్కడికి లింక్ ఇస్తుంది.
[](https://mlx.app/run/ornith-1.5-122b)ఎలా లెక్కించాం
మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్‌ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్కు చోటు. డిఫాల్ట్గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.