உள்நுழைவாலெட் உருவாக்குங்கள்

Mac-இல் Magistral Small 1.2 (2509) இயங்குமா?

ஆம், 24 GB அல்லது அதற்கு மேல் யூனிஃபைடு மெமரி இருந்தால். Magistral Small 1.2 (2509)-இல் 24B பாராமீட்டர்கள் உள்ளன; ஒவ்வொரு பிரிசிஷனிலும் இதற்குத் தேவையான மெமரியையும், ஒவ்வொரு Apple சிப்பும் இதை எவ்வளவு வேகமாக இயக்கும் என்பதையும் இங்கே பாருங்கள்.

4-பிட்-இல் மெமரி15 GBவெயிட்கள் 13.5 GB + கான்டெக்ஸ்ட்
மிகச் சிறிய Mac24 GB4-பிட் · 55 Mac கட்டமைப்புகள்
மிக வேகமான Mac21–38டோக்கன்கள்/வினாடி · M5 Ultra 96 GB (மதிப்பீடு)

ஒவ்வொரு பிரிசிஷனிலும் மெமரி

பதிப்புவெயிட்கள்கான்டெக்ஸ்ட்டுடன்மிகச் சிறிய Mac
8-பிட்25.5 GB27.5 GB48 GB
6-பிட்19.5 GB21.1 GB32 GB
4-பிட்13.5 GB15 GB24 GB
3-பிட் குறைந்த தரம்10.5 GB12 GB16 GB
2-பிட் குறைந்த தரம்7.5 GB9 GB16 GB

ஒவ்வொரு Apple சிப்பிலும்

Magistral Small 1.2 (2509)-ஐ இயக்கும் ஒவ்வொரு சிப்பின் மிகச் சிறிய மெமரி அளவு, அதில் பொருந்தும் சிறந்த பதிப்பு, எதிர்பார்க்கக்கூடிய எழுதும் வேகம்.

சிப்தேவைபதிப்புடோக்கன்கள்/வினாடி
M624 GB4-பிட் மெதுவாக6–10
M5 Ultra96 GB8-பிட் நன்றாக இயங்கும்21–38
M5 Max36 GB6-பிட் நன்றாக இயங்கும்11–19
M5 Pro24 GB4-பிட் நன்றாக இயங்கும்10–18
M524 GB4-பிட் மெதுவாக5–9
M4 Max36 GB4-பிட் நன்றாக இயங்கும்14–24
M4 Pro24 GB4-பிட் மெதுவாக9–16
M424 GB4-பிட் மெதுவாக4–7
M3 Ultra96 GB8-பிட் நன்றாக இயங்கும்14–26
M3 Max36 GB4-பிட் நன்றாக இயங்கும்10–18
M3 Pro36 GB6-பிட் மெதுவாக3–6
M324 GB4-பிட் மெதுவாக3–6
M2 Ultra64 GB8-பிட் நன்றாக இயங்கும்14–25
M2 Max32 GB4-பிட் நன்றாக இயங்கும்13–24
M2 Pro32 GB6-பிட் மெதுவாக5–8
M224 GB4-பிட் மெதுவாக3–6
M1 Ultra64 GB8-பிட் நன்றாக இயங்கும்14–25
M1 Max32 GB4-பிட் நன்றாக இயங்கும்13–24
M1 Pro32 GB6-பிட் மெதுவாக5–8
M116 GB3-பிட் மெதுவாக3–5

இதை எப்படி இயக்குவது

  1. எளிய வழி: இலவசமான, ஓப்பன் சோர்ஸ் MLX Harness-ஐப் பதிவிறக்குங்கள். Magistral Small 1.2 (2509)-ஐத் தேடி, உங்கள் Mac-இல் பொருந்தும் பதிப்பைப் பதிவிறக்கி, சாட் செய்யுங்கள். இது OpenAI-compatible API வழியாக அந்த மாடலை உங்கள் மற்ற ஆப்களுக்கும் வழங்குகிறது.MLX Harness-ஐப் பதிவிறக்குங்கள்இலவசம் · Apple Silicon · macOS 14.5 அல்லது அதற்குப் பிந்தையது
  2. Terminal-இல் Apple-இன் MLX உடன்: இன்னும் கம்யூனிட்டி MLX பில்ட் இல்லை, எனவே அதிகாரப்பூர்வ வெயிட்களிலிருந்து நீங்களே உருவாக்குங்கள்:pip install mlx-lmmlx_lm.convert --hf-path mistralai/Magistral-Small-2509 -q

படிப்படியாக: Mac-இல் LLM-களைப் பதிவிறக்கி இயக்குங்கள் · MLX Harness-வை எப்படிப் பயன்படுத்துவது · MLX vs Ollama vs llama.cpp

Magistral Small 1.2 (2509) பற்றி

உருவாக்கியவர்Mistral AI
பாராமீட்டர்கள்24B (டென்ஸ்)
கான்டெக்ஸ்ட்128K டோக்கன்கள்
உரிமம்Apache-2.0
வெளியீடு2025-09
உள்ளீடுஉரை, படங்கள்
வெயிட்கள்mistralai/Magistral-Small-2509

கேள்விகள்

Magistral Small 1.2 (2509)-க்கு எவ்வளவு மெமரி தேவை?
4-பிட்-இல் சுமார் 13.5 GB வெயிட்கள், கூடவே கான்டெக்ஸ்ட்டுக்கு இடம்: மொத்தம் 15 GB. Mac-இல் இதன் பொருள் 24 GB அல்லது அதற்கு மேல் யூனிஃபைடு மெமரி, ஏனெனில் இயல்பாக macOS அதில் சுமார் 75%-ஐ மட்டுமே GPU பயன்படுத்த அனுமதிக்கிறது.
Mac-இல் Magistral Small 1.2 (2509) எவ்வளவு வேகமாக இயங்கும்?
எழுதும் வேகம் மெமரி பேண்ட்வித்தைப் பொறுத்தது. இங்கே இதற்கு மிக வேகமான Mac 96 GB கொண்ட M5 Ultra, வினாடிக்கு சுமார் 21–38 டோக்கன்கள் (8-பிட்). இதை இயக்கும் மிகச் சிறிய Mac, 24 GB கொண்ட M5 Pro, சுமார் 10–18 வரை எட்டும்.
குவான்டைசேஷன் Magistral Small 1.2 (2509)-இன் தரத்தைக் குறைக்குமா?
4 பிட்டில் பெரும்பாலான மாடல்கள் அசல் தரத்துக்கு அருகிலேயே இருக்கும்; 4 பிட்டுக்குக் கீழே தரம் வேகமாகக் குறையும். உங்கள் Mac-இல் இடம் மீதமிருக்கும்படி பொருந்தும் மிக உயர்ந்த பிரிசிஷனைத் தேர்ந்தெடுங்கள்.

இதே போன்ற மாடல்கள்

எல்லா மாடல்களும் · எல்லா Mac-களும் · உங்கள் Mac-ஐ ஒப்பிடுங்கள்

உங்கள் மாடல் கார்டு அல்லது README-க்கு

Runs on a Mac: Magistral Small 1.2 (2509) Magistral Small 1.2 (2509)-ஐ நன்றாக இயக்கும் மிகச் சிறிய Mac-ஐக் காட்டி, இங்கே இணைப்பு தருகிறது.

[![Runs on a Mac](https://mlx.app/badge/run/magistral-small-2509.svg)](https://mlx.app/run/magistral-small-2509)

எப்படிக் கணக்கிடப்பட்டது

மெமரி: மாடலின் பாராமீட்டர்கள் ஒரு வெயிட்டுக்கு 8, 6, 4, 3 அல்லது 2 பிட்களில், கூடவே MLX-இன் குரூப் ஸ்கேல்கள் (ஒரு வெயிட்டுக்கு அரை பிட்), அல்லது அதன் நேட்டிவ் வடிவம், அதற்கு மேல் கான்டெக்ஸ்ட்டுக்கு இடம். இயல்பாக macOS, யூனிஃபைடு மெமரியில் சுமார் 75%-ஐ GPU பயன்படுத்த அனுமதிக்கிறது. வேகம்: மெமரி பேண்ட்வித்தை ஒவ்வொரு டோக்கனுக்கும் படிக்கப்படும் பைட்டுகளால் வகுத்தால், ஒரு உரையாடலுக்கான உச்சவரம்பு கிடைக்கும்; llama.cpp-இன் பொது Apple Silicon பெஞ்ச்மார்க்குகளில் உண்மையான ரன்கள் அதில் சுமார் 45% முதல் 80% வரை எட்டுகின்றன, அந்த வரம்பே காட்டப்படுகிறது. இவை மதிப்பீடுகள், அளவீடுகள் அல்ல: உங்கள் சொந்த Mac-ஐ MLX Bench-இல் அளந்து பாருங்கள். மாடல் விவரங்கள் ஒவ்வொரு அதிகாரப்பூர்வ மாடல் கார்டிலிருந்தும், சிப் விவரங்கள் Apple-இன் Tech Specs-இலிருந்தும். சரிபார்த்தது 2026-10-19. mlx.app/compare-இல் உள்ள அதே தரவு.

Mac-இல் Magistral Small 1.2 (2509) இயங்குமா? மெமரி, வேகம்