เข้าสู่ระบบสร้างวอลเล็ต

Mac รัน Mistral Medium 3.5 (128B) ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 128 GB ขึ้นไป Mistral Medium 3.5 (128B) มีพารามิเตอร์ 128B ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต77.8 GBค่าน้ำหนัก 72 GB + บริบท
Mac ขั้นต่ำ128 GB4 บิต · 23 ตัวเลือก Mac
Mac ที่เร็วที่สุด5–9โทเค็น/วินาที · M2 Ultra 128 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต136 GB147 GB256 GB
6 บิต104 GB112 GB192 GB
4 บิต72 GB77.8 GB128 GB
3 บิต คุณภาพต่ำลง56 GB60.5 GB96 GB
2 บิต คุณภาพต่ำลง40 GB43.2 GB64 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Mistral Medium 3.5 (128B) ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M6ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Ultra256 GB8 บิต ช้า4–7
M5 Max128 GB4 บิต ช้า4–7
M5 Pro64 GB2 บิต ช้า3–6
M5ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Max128 GB4 บิต ช้า3–6
M4 Pro64 GB2 บิต ช้า3–5
M4ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Ultra256 GB8 บิต ช้า3–5
M3 Max128 GB4 บิต ช้า3–4
M3 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Ultra128 GB4 บิต ช้า5–9
M2 Max64 GB2 บิต ช้า5–8
M2 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Ultra128 GB4 บิต ช้า5–9
M1 Max64 GB2 บิต ช้า5–8
M1 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Mistral Medium 3.5 (128B) ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Medium-3.5-128B-4bitบิลด์: mlx-community/Mistral-Medium-3.5-128B-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Mistral Medium 3.5 (128B)

ผู้พัฒนาMistral AI
พารามิเตอร์128B (dense)
บริบท256K โทเค็น
สัญญาอนุญาตModified MIT (exceptions for companies with large revenue)
เปิดตัว2026-03
อินพุตข้อความและรูปภาพ
ความฉลาด14.2 บน Artificial Analysis Intelligence Index
ค่าน้ำหนักmistralai/Mistral-Medium-3.5-128B

คำถาม

Mistral Medium 3.5 (128B) ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 72 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 77.8 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 128 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Mistral Medium 3.5 (128B) เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M2 Ultra ที่มี 128 GB ได้ราว 5–9 โทเค็นต่อวินาที (4 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M2 Ultra ที่มี 128 GB ได้ราว 5–9
การควอนไทซ์ทำให้ Mistral Medium 3.5 (128B) แย่ลงไหม
ที่ 4 บิต โมเดลส่วนใหญ่ยังมีคุณภาพใกล้เคียงต้นฉบับ ต่ำกว่า 4 บิตคุณภาพจะลดลงเร็วขึ้น เลือกความแม่นยำสูงสุดที่ใส่ใน Mac ของคุณได้โดยยังมีที่เหลือ

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Mistral Medium 3.5 (128B) แสดง Mac ขั้นต่ำที่รัน Mistral Medium 3.5 (128B) ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/mistral-medium-3.5.svg)](https://mlx.app/run/mistral-medium-3.5)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Mistral Medium 3.5 (128B) ได้ไหม หน่วยความจำและความเร็ว