เข้าสู่ระบบสร้างวอลเล็ต

Mac Studio ชิป M1 Ultra สำหรับ AI บนเครื่อง

M1 Ultra อ่านหน่วยความจำที่ 800 GB/s ซึ่งกำหนดความเร็วในการเขียน หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้ จึงควรเลือกขนาดตรงนี้

64 GBรันได้ดี 39 โมเดลNemotron 3.5 Bolt 74B A9B · 71–125 tok/s128 GBรันได้ดี 47 โมเดลQwen3.5 122B A10B · 64–114 tok/s

ตามขนาดหน่วยความจำ

หน่วยความจำรันได้ดีใหญ่ที่สุดที่รันได้ดีgpt-oss-20b
64 GB800 GB/s39Nemotron 3.5 Bolt 74B A9B189–337 tok/s
128 GB800 GB/s47Qwen3.5 122B A10B189–337 tok/s

รุ่น: Mac Studio (2022) ไม่ใช่ทุกรุ่นที่มีหน่วยความจำครบทุกขนาด ดูได้จากข้อมูลจำเพาะทางเทคนิคของ Apple ว่าแต่ละรุ่นมีตัวเลือกอะไรบ้าง

คำถาม

Mac Studio ชิป M1 Ultra เหมาะกับ LLM บนเครื่องไหม
เมื่อมี 128 GB จะรันโมเดลแบบเปิดได้ดี 47 จาก 73 โมเดล สูงสุดถึง Qwen3.5 122B A10B และเขียนได้ราว 189–337 โทเค็นต่อวินาทีกับ gpt-oss-20b ส่วน M1 Ultra อ่านหน่วยความจำที่ 800 GB/s ซึ่งกำหนดความเร็วในการเขียน
Mac Studio ชิป M1 Ultra ควรมีหน่วยความจำเท่าไรสำหรับ AI
ที่ 64 GB รันโมเดลแบบเปิดได้ดี 39 โมเดล ที่ 128 GB ได้ 47 โมเดล สูงสุดถึง Qwen3.5 122B A10B หน่วยความจำเป็นตัวกำหนดว่าโมเดลไหนใส่ได้ และอัปเกรดภายหลังไม่ได้

Mac รุ่นอื่น

Mac Studio ที่ใช้ชิปอื่น:

ตัวต่อตัว:

M1 Ultra สำหรับ AI บนเครื่อง · Mac ที่ดีที่สุดสำหรับรัน LLM บนเครื่อง · Mac ทุกรุ่น

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac Studio ชิป M1 Ultra สำหรับ AI บนเครื่อง: รัน LLM อะไรได้บ้าง