เข้าสู่ระบบสร้างวอลเล็ต

Mac รัน Mistral Small 3.2 (24B) ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 24 GB ขึ้นไป Mistral Small 3.2 (24B) มีพารามิเตอร์ 24B ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต15 GBค่าน้ำหนัก 13.5 GB + บริบท
Mac ขั้นต่ำ24 GB4 บิต · 55 ตัวเลือก Mac
Mac ที่เร็วที่สุด21–38โทเค็น/วินาที · M5 Ultra 96 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต25.5 GB27.5 GB48 GB
6 บิต19.5 GB21.1 GB32 GB
4 บิต13.5 GB15 GB24 GB
3 บิต คุณภาพต่ำลง10.5 GB12 GB16 GB
2 บิต คุณภาพต่ำลง7.5 GB9 GB16 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Mistral Small 3.2 (24B) ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M624 GB4 บิต ช้า6–10
M5 Ultra96 GB8 บิต รันได้ดี21–38
M5 Max36 GB6 บิต รันได้ดี11–19
M5 Pro24 GB4 บิต รันได้ดี10–18
M524 GB4 บิต ช้า5–9
M4 Max36 GB4 บิต รันได้ดี14–24
M4 Pro24 GB4 บิต ช้า9–16
M424 GB4 บิต ช้า4–7
M3 Ultra96 GB8 บิต รันได้ดี14–26
M3 Max36 GB4 บิต รันได้ดี10–18
M3 Pro36 GB6 บิต ช้า3–6
M324 GB4 บิต ช้า3–6
M2 Ultra64 GB8 บิต รันได้ดี14–25
M2 Max32 GB4 บิต รันได้ดี13–24
M2 Pro32 GB6 บิต ช้า5–8
M224 GB4 บิต ช้า3–6
M1 Ultra64 GB8 บิต รันได้ดี14–25
M1 Max32 GB4 บิต รันได้ดี13–24
M1 Pro32 GB6 บิต ช้า5–8
M116 GB3 บิต ช้า3–5

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Mistral Small 3.2 (24B) ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Small-3.2-24B-Instruct-2506-4bitบิลด์: mlx-community/Mistral-Small-3.2-24B-Instruct-2506-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Mistral Small 3.2 (24B)

ผู้พัฒนาMistral AI
พารามิเตอร์24B (dense)
บริบท128K โทเค็น
สัญญาอนุญาตApache-2.0
เปิดตัว2025-06
อินพุตข้อความและรูปภาพ
ค่าน้ำหนักmistralai/Mistral-Small-3.2-24B-Instruct-2506

คำถาม

Mistral Small 3.2 (24B) ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 13.5 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 15 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 24 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Mistral Small 3.2 (24B) เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 21–38 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Pro ที่มี 24 GB ได้ราว 10–18
การควอนไทซ์ทำให้ Mistral Small 3.2 (24B) แย่ลงไหม
ที่ 4 บิต โมเดลส่วนใหญ่ยังมีคุณภาพใกล้เคียงต้นฉบับ ต่ำกว่า 4 บิตคุณภาพจะลดลงเร็วขึ้น เลือกความแม่นยำสูงสุดที่ใส่ใน Mac ของคุณได้โดยยังมีที่เหลือ

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Mistral Small 3.2 (24B) แสดง Mac ขั้นต่ำที่รัน Mistral Small 3.2 (24B) ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/mistral-small-3.2.svg)](https://mlx.app/run/mistral-small-3.2)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Mistral Small 3.2 (24B) ได้ไหม หน่วยความจำและความเร็ว