లాగిన్వాలెట్ సృష్టించండి

Macలో Ling 3.1 Flash నడుస్తుందా?

అవును, 512 GB లేదా అంతకంటే ఎక్కువ యూనిఫైడ్ మెమరీతో. Ling 3.1 Flashలో 560B పారామీటర్‌లు ఉన్నాయి, వాటిలో ప్రతి టోకెన్‌కు 25B యాక్టివ్‌గా ఉంటాయి; ప్రతి ప్రెసిషన్ వద్ద దీనికి కావలసిన మెమరీ, ప్రతి Apple చిప్ దీన్ని ఎంత వేగంగా నడుపుతుందో ఇక్కడ చూడండి.

అప్‌డేట్ చేసినది

4-బిట్ వద్ద మెమరీ340 GBవెయిట్‌లు 315 GB + కాంటెక్స్ట్
అతిచిన్న Mac512 GB4-బిట్ · 4 Mac కాన్ఫిగరేషన్‌లు
అత్యంత వేగవంతమైన Mac38–68టోకెన్‌లు/సెకను · M5 Ultra 512 GB (అంచనా)

ప్రతి ప్రెసిషన్ వద్ద మెమరీ

వెర్షన్వెయిట్‌లుకాంటెక్స్ట్‌తోఅతిచిన్న Mac
8-బిట్595 GB643 GBఏ Mac కంటే అయినా ఎక్కువ
6-బిట్455 GB491 GBఏ Mac కంటే అయినా ఎక్కువ
4-బిట్315 GB340 GB512 GB
3-బిట్ తక్కువ నాణ్యత245 GB265 GB512 GB
2-బిట్ తక్కువ నాణ్యత175 GB189 GB256 GB

ప్రతి Apple చిప్‌పై

Ling 3.1 Flashను నడిపే ప్రతి చిప్ యొక్క అతిచిన్న మెమరీ సైజు, దానిలో సరిపోయే ఉత్తమ వెర్షన్, ఆశించదగిన రాసే వేగం.

చిప్కావాలివెర్షన్టోకెన్‌లు/సెకను
M6ఏ సైజూ సరిపోదుచాలా పెద్దది–
M5 Ultra512 GB4-బిట్ బాగా నడుస్తుంది38–68
M5 Maxఏ సైజూ సరిపోదుచాలా పెద్దది–
M5 Proఏ సైజూ సరిపోదుచాలా పెద్దది–
M5ఏ సైజూ సరిపోదుచాలా పెద్దది–
M4 Maxఏ సైజూ సరిపోదుచాలా పెద్దది–
M4 Proఏ సైజూ సరిపోదుచాలా పెద్దది–
M4ఏ సైజూ సరిపోదుచాలా పెద్దది–
M3 Ultra512 GB4-బిట్ బాగా నడుస్తుంది26–46
M3 Maxఏ సైజూ సరిపోదుచాలా పెద్దది–
M3 Proఏ సైజూ సరిపోదుచాలా పెద్దది–
M3ఏ సైజూ సరిపోదుచాలా పెద్దది–
M2 Ultraఏ సైజూ సరిపోదుచాలా పెద్దది–
M2 Maxఏ సైజూ సరిపోదుచాలా పెద్దది–
M2 Proఏ సైజూ సరిపోదుచాలా పెద్దది–
M2ఏ సైజూ సరిపోదుచాలా పెద్దది–
M1 Ultraఏ సైజూ సరిపోదుచాలా పెద్దది–
M1 Maxఏ సైజూ సరిపోదుచాలా పెద్దది–
M1 Proఏ సైజూ సరిపోదుచాలా పెద్దది–
M1ఏ సైజూ సరిపోదుచాలా పెద్దది–

దీన్ని ఎలా నడపాలి

  1. Terminalలో Apple MLXతో: ఇంకా MLX బిల్డ్ లేదు, సాధారణ mlx-lm అధికారిక వెయిట్‌లను ఇంకా మార్చలేదు (bailing_moe_v3.py).

దశలవారీగా: Macలో LLMలను డౌన్‌లోడ్ చేసి నడపండి · MLX Harnessను ఎలా వాడాలి · MLX vs Ollama vs llama.cpp

Ling 3.1 Flash గురించి

తయారీదారుinclusionAI
పారామీటర్‌లుమొత్తం 560B · యాక్టివ్ 25B (mixture of experts)
కాంటెక్స్ట్256K టోకెన్‌లు
లైసెన్స్MIT
విడుదల2026-10
ఇన్‌పుట్టెక్స్ట్
ఇంటెలిజెన్స్Artificial Analysis Intelligence Indexలో 41.1
వెయిట్‌లుinclusionAI/Ling-3.1-flash

ప్రశ్నలు

Ling 3.1 Flashకు ఎంత మెమరీ కావాలి?
4-బిట్ వద్ద సుమారు 315 GB వెయిట్‌లు, దానితో పాటు కాంటెక్స్ట్‌కు చోటు: మొత్తం 340 GB. Macలో అంటే 512 GB లేదా అంతకంటే ఎక్కువ యూనిఫైడ్ మెమరీ, ఎందుకంటే డిఫాల్ట్‌గా macOS దానిలో సుమారు 75%ను మాత్రమే GPU వాడుకోనిస్తుంది.
Macలో Ling 3.1 Flash ఎంత వేగంగా నడుస్తుంది?
రాసే వేగం మెమరీ బ్యాండ్‌విడ్త్‌పై ఆధారపడుతుంది. ఇక్కడ దీనికి అత్యంత వేగవంతమైన Mac 512 GB ఉన్న M5 Ultra, సెకనుకు సుమారు 38–68 టోకెన్‌లు (4-బిట్). దీన్ని నడిపే అతిచిన్న Mac, 512 GB ఉన్న M5 Ultra, సుమారు 38–68 వరకు చేరుతుంది.
Ling 3.1 Flash దాని సైజుకు మించిన వేగంతో ఎందుకు నడుస్తుంది?
ఇది mixture-of-experts మోడల్: మెమరీలో 560B పారామీటర్‌లను ఉంచుతుంది, కానీ ప్రతి టోకెన్‌కు 25B మాత్రమే చదువుతుంది, అందుకే చాలా చిన్న మోడల్ వేగంతో రాస్తుంది.

ఇలాంటి మోడల్‌లు

అన్ని మోడల్‌లు · అన్ని Macలు · మీ Macను పోల్చండి

మీ మోడల్ కార్డ్ లేదా README కోసం

Runs on a Mac: Ling 3.1 Flash Ling 3.1 Flashను బాగా నడిపే అతిచిన్న Macను చూపి, ఇక్కడికి లింక్ ఇస్తుంది.

[![Runs on a Mac](https://mlx.app/badge/run/ling-3.1-flash.svg)](https://mlx.app/run/ling-3.1-flash)

ఎలా లెక్కించాం

మెమరీ: మోడల్ పారామీటర్‌లు వెయిట్‌కు 8, 6, 4, 3 లేదా 2 బిట్‌ల వద్ద, దానితో పాటు MLX గ్రూప్ స్కేల్‌లు (వెయిట్‌కు అర బిట్), లేదా దాని నేటివ్ ఫార్మాట్, పైన కాంటెక్స్ట్‌కు చోటు. డిఫాల్ట్‌గా macOS యూనిఫైడ్ మెమరీలో సుమారు 75%ను GPU వాడుకోనిస్తుంది. వేగం: మెమరీ బ్యాండ్‌విడ్త్‌ను ప్రతి టోకెన్‌కు చదివే బైట్‌లతో భాగిస్తే ఒక సంభాషణకు గరిష్ఠ పరిమితి వస్తుంది; llama.cpp పబ్లిక్ Apple Silicon బెంచ్‌మార్క్‌లలో నిజమైన రన్‌లు దానిలో సుమారు 45% నుండి 80% వరకు చేరుతాయి, ఆ పరిధినే చూపిస్తున్నాం. ఇవి అంచనాలు, కొలతలు కావు: మీ సొంత Macను MLX Benchలో కొలవండి. మోడల్ వివరాలు ప్రతి అధికారిక మోడల్ కార్డ్ నుండి, చిప్ వివరాలు Apple Tech Specs నుండి. 2026-10-19న తనిఖీ చేశాం. mlx.app/compareలో ఉన్న అదే డేటా.

ఓపెన్ డేటా: mlx.app/data (JSON, CSV)

Macలో Ling 3.1 Flash నడుస్తుందా? మెమరీ, వేగం