ప్రతి ప్రెసిషన్ వద్ద మెమరీ
| వెర్షన్ | వెయిట్లు | కాంటెక్స్ట్‌తో | అతిచిన్న Mac |
|---|---|---|---|
| 8-బిట్ | 532 GB | 575 GB | ఏ Mac కంటే అయినా ఎక్కువ |
| 6-బిట్ | 407 GB | 440 GB | ఏ Mac కంటే అయినా ఎక్కువ |
| 4-బిట్ | 282 GB | 304 GB | 512 GB |
| 3-బిట్ తక్కువ నాణ్యత | 219 GB | 237 GB | 512 GB |
| 2-బిట్ తక్కువ నాణ్యత | 157 GB | 169 GB | 256 GB |
ప్రతి Apple చిప్‌పై
Beam 1.0ను నడిపే ప్రతి చిప్ యొక్క అతిచిన్న మెమరీ సైజు, దానిలో సరిపోయే ఉత్తమ వెర్షన్, ఆశించదగిన రాసే వేగం.
| చిప్ | కావాలి | వెర్షన్ | టోకెన్లు/సెకను |
|---|---|---|---|
| M6 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M5 Ultra | 512 GB | 4-బిట్ బాగా నడుస్తుంది | 42–74 |
| M5 Max | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M5 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M5 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M4 Max | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M4 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M4 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M3 Ultra | 512 GB | 4-బిట్ బాగా నడుస్తుంది | 29–51 |
| M3 Max | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M3 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M3 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M2 Ultra | 192 GB | 2-బిట్ అతికష్టంగా | 50–89 |
| M2 Max | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M2 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M2 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 Ultra | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 Max | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 Pro | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
| M1 | ఏ సైజూ సరిపోదు | చాలా పెద్దది | – |
దీన్ని ఎలా నడపాలి
- సులభమైన మార్గం: ఉచితమైన, ఓపెన్ సోర్స్ MLX Harnessను డౌన్‌లోడ్ చేయండి. Beam 1.0 కోసం వెతికి, మీ Macలో సరిపోయే వెర్షన్‌ను డౌన్‌లోడ్ చేసి, చాట్ చేయండి. ఇది OpenAI-compatible API ద్వారా ఆ మోడల్‌ను మీ ఇతర యాప్‌లకు కూడా అందిస్తుంది.MLX Harness డౌన్‌లోడ్ చేయండిఉచితం · Apple Silicon · macOS 14.5 లేదా తర్వాతి వెర్షన్
- Terminalలో Apple MLXతో: ఇంకా కమ్యూనిటీ MLX బిల్డ్ లేదు, కాబట్టి అధికారిక వెయిట్‌ల నుండి మీరే తయారు చేయండి:
pip install mlx-lmmlx_lm.convert --hf-path reflection/Beam-1.0-501B-A23B -q
దశలవారీగా: Macలో LLMలను డౌన్‌లోడ్ చేసి నడపండి · MLX Harnessను ఎలా వాడాలి · MLX vs Ollama vs llama.cpp
Beam 1.0 గురించి
| తయారీదారు | Reflection AI |
|---|---|
| పారామీటర్‌లు | మొత్తం 501B · యాక్టివ్ 23B (mixture of experts) |
| కాంటెక్స్ట్ | 1M టోకెన్లు |
| లైసెన్స్ | Apache-2.0 |
| విడుదల | 2026-10 |
| ఇన్‌పుట్ | టెక్స్ట్ |
| ఇంటెలిజెన్స్ | Artificial Analysis Intelligence Indexలో 30.3 |
| వెయిట్లు | reflection/Beam-1.0-501B-A23B |
ప్రశ్నలు
- Beam 1.0కు ఎంత మెమరీ కావాలి?
- 4-బిట్ వద్ద సుమారు 282 GB వెయిట్లు, దానితో పాటు కాంటెక్స్ట్కు చోటు: మొత్తం 304 GB. Macలో అంటే 512 GB లేదా అంతకంటే ఎక్కువ యూనిఫైడ్ మెమరీ, ఎందుకంటే డిఫాల్ట్గా macOS దానిలో సుమారు 75%ను మాత్రమే GPU వాడుకోనిస్తుంది.
- Macలో Beam 1.0 ఎంత వేగంగా నడుస్తుంది?
- రాసే వేగం మెమరీ బ్యాండ్విడ్త్పై ఆధారపడుతుంది. ఇక్కడ దీనికి అత్యంత వేగవంతమైన Mac 512 GB ఉన్న M5 Ultra, సెకనుకు సుమారు 42–74 టోకెన్లు (4-బిట్). దీన్ని నడిపే అతిచిన్న Mac, 512 GB ఉన్న M5 Ultra, సుమారు 42–74 వరకు చేరుతుంది.
- Beam 1.0 దాని సైజుకు మించిన వేగంతో ఎందుకు నడుస్తుంది?
- ఇది mixture-of-experts మోడల్: మెమరీలో 501B పారామీటర్లను ఉంచుతుంది, కానీ ప్రతి టోకెన్కు 23B మాత్రమే చదువుతుంది, అందుకే చాలా చిన్న మోడల్ వేగంతో రాస్తుంది.
ఇలాంటి మోడల్‌లు
మీ మోడల్ కార్డ్ లేదా README కోసం
Beam 1.0ను బాగా నడిపే అతిచిన్న Macను చూపి, ఇక్కడికి లింక్ ఇస్తుంది.
[](https://mlx.app/run/beam-1.0)ఎలా లెక్కించాం
మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్‌ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్కు చోటు. డిఫాల్ట్గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.