AI-க்கு Mac mini vs Mac Studio.

1AI-க்கு முக்கியமான ஸ்பெக்ஸ்

ஒவ்வொரு கான்ஃபிகரேஷனும் அதில் நன்றாக இயங்கும் மாடல்களுக்கு இணைப்பு தருகிறது. முந்தைய மாடல்களும் அதே முறையில் வேலை செய்கின்றன: M4 அல்லது M4 Pro கொண்ட Mac mini, M4 Max அல்லது M3 Ultra கொண்ட Mac Studio (எல்லா Mac-களின் தரவரிசை).

2ஒவ்வொன்றும் எவ்வளவு வேகமாக எழுதுகிறது

உரை எழுதும்போது, ஒவ்வொரு டோக்கனுக்கும் மாடலின் செயலில் உள்ள வெயிட்கள் ஒருமுறை படிக்கப்படுகின்றன; எனவே மெமரி பேண்ட்வித் வேகத்துக்கு ஓர் உச்சவரம்பை வைக்கிறது. 4-பிட்டில் சுமார் 18 GB கொண்ட 32B dense மாடலுக்கு:

Mixture-of-experts மாடல்கள் ஒவ்வொரு டோக்கனுக்கும் தங்கள் வெயிட்களில் ஒரு பகுதியை மட்டுமே படிக்கின்றன; எனவே அவற்றின் அளவு சொல்வதை விட மிக வேகமாக எழுதுகின்றன: அவை பொருந்துமா என்பதை மெமரி தீர்மானிக்கிறது, வேகத்தை இன்னும் பேண்ட்வித்தே நிர்ணயிக்கிறது. நீண்ட ப்ராம்ப்ட்டைப் படிப்பது பேண்ட்வித்தை விட GPU கம்ப்யூட்டைச் சார்ந்தது; அங்கே Max, Ultra சிப்களின் பெரிய GPU-கள் இன்னும் முன்னே செல்கின்றன.

3எந்த மாடல்களுக்கு எது

• சிறிய, நடுத்தர மாடல்கள் (4-பிட்டில் சுமார் 30B வரை), சாட், கோடிங் உதவியாளர்கள், வீட்டு AI சர்வர்: 48 அல்லது 64 GB கொண்ட M5 Pro Mac mini. 32 GB கொண்ட M6 Mac mini அதே அளவுகளைச் சுமார் பாதி வேகத்தில் இயக்குகிறது.
• 70B வகை மாடல்கள், gpt-oss-120b, நீண்ட கான்டெக்ஸ்ட் அல்லது ஒரே நேரத்தில் பல மாடல்கள்: 128 GB கொண்ட M5 Max Mac Studio. OpenAI-இன் சொந்த gpt-oss-120b கோப்புகள் சுமார் 65 GB (OpenAI); எந்த Mac mini-உம் தன் GPU-க்குத் தர முடிவதை விட அதிகம்.
• மிகப் பெரிய ஓப்பன் மாடல்கள் (நூற்றுக்கணக்கான பில்லியன் பாராமீட்டர்கள்): 256 அல்லது 512 GB கொண்ட M5 Ultra Mac Studio, அல்லது பல Mac-கள் ஒன்றாக (Mac AI கிளஸ்டர்கள்).

ஒரு குறிப்பிட்ட மாடலுக்கு, அதன் பக்கம் அதை இயக்கும் மிகச் சிறிய Mac-ஐயும் ஒவ்வொரு சிப்பிலும் வேகத்தையும் காட்டுகிறது: ஒவ்வொரு ஓப்பன் மாடலும்.

4நாள் முழுவதும் இயக்குதல்

இரண்டுமே அமைதியான, சிக்கனமான, எப்போதும் இயங்கும் கணினிகள். மேலே உள்ள Apple-இன் எண்களின்படி Mac mini ஐடிலில் 4–6 W, Mac Studio 7–9 W எடுக்கின்றன; முழு லோடில் M5 Ultra கொண்ட Mac Studio 385 W வரை எடுக்கலாம். அதை விழிப்பாக வைத்து மற்ற சாதனங்களுக்கு மாடல்களை வழங்குவதை AI சர்வராக ஒரு Mac mini விளக்குகிறது; ஒரு நாளுக்கு என்ன செலவாகும் என்பதை Mac எவ்வளவு மின்சாரம் பயன்படுத்துகிறது விளக்குகிறது.

அது ஐடிலாக இருக்கும்போது, MLX Node MLX Network-க்கான AI பணிகளை இயக்கி MLX டோக்கன்களை ஈட்ட முடியும். சிப்புக்குப் பொருந்திய பிரத்யேக இருக்கை வேகமாக மைன் செய்கிறது: M6-க்கு Core, M5 Pro, M5 Max-க்கு Pro, M5 Ultra-க்கு Ultra. வருமானத்துக்கு உத்தரவாதம் இல்லை: அபாயங்களைப் படியுங்கள்.

5கேள்விகள்

AI-க்கு Mac mini-ஐ விட Mac Studio மதிப்புள்ளதா?

சுமார் 85B பாராமீட்டர்களுக்கு மேற்பட்ட மாடல்கள், gpt-oss-120b அல்லது நீண்ட கான்டெக்ஸ்ட் வேண்டுமென்றால், ஆம்: 64 GB-க்கு மேல் Mac Studio-வில் மட்டுமே உள்ளது. 4-பிட்டில் சுமார் 30B வரையிலான மாடல்களை M5 Pro கொண்ட Mac mini இயக்குகிறது, M5 Max-இன் பேண்ட்வித்தில் சுமார் பாதியுடன்.

Mac mini 70B மாடலை இயக்குமா?

64 GB கொண்ட M5 Pro மட்டுமே, 4-பிட்டில், குறுகிய கான்டெக்ஸ்ட்டுடன்: GPU இயல்பாகப் பயன்படுத்தக்கூடிய 48 GB-இல் சுமார் 39 GB வெயிட்கள், வினாடிக்குச் சில டோக்கன்கள் வேகத்தில். 128 GB கொண்ட Mac Studio அதைக் கான்டெக்ஸ்ட்டுக்கு இடத்துடன், சுமார் இரண்டு மடங்கு வேகத்தில் இயக்குகிறது.

LLM-களுக்கு Mac Studio M5 Max-ஆ M5 Ultra-வா?

M5 Ultra-வில் சுமார் இரண்டு மடங்கு பேண்ட்வித் (614-க்கு எதிராக 1,200 GB/s) உள்ளது; எனவே சுமார் இரண்டு மடங்கு வேகமாக எழுதுகிறது, 512 GB வரை செல்கிறது. 128 GB கொண்ட M5 Max, 4-பிட்டில் சுமார் 170B வரையிலான மாடல்களைக் கொள்கிறது. M5 Max vs M5 Ultra பாருங்கள்.

AI-க்கு Mac mini M6-ஆ M5 Pro-வா?

M5 Pro: 24 அல்லது 32 GB கொண்ட M6-ஐ விட அது சுமார் 80% வேகமாக மெமரியைப் படிக்கிறது, 32 GB-க்குப் பதிலாக 64 GB வரை செல்கிறது.