เข้าสู่ระบบสร้างวอลเล็ต

Mac รัน Mistral Large 3 (675B) ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 512 GB ขึ้นไป Mistral Large 3 (675B) มีพารามิเตอร์ 675B โดยใช้งานจริง 41B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต410 GBค่าน้ำหนัก 380 GB + บริบท
Mac ขั้นต่ำ512 GB3 บิต · 2 ตัวเลือก Mac
Mac ที่เร็วที่สุด30–54โทเค็น/วินาที · M5 Ultra 512 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต717 GB775 GBมากกว่า Mac ทุกเครื่อง
6 บิต548 GB592 GBมากกว่า Mac ทุกเครื่อง
4 บิต380 GB410 GBมากกว่า Mac ทุกเครื่อง
3 บิต คุณภาพต่ำลง295 GB319 GB512 GB
2 บิต คุณภาพต่ำลง211 GB228 GB512 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Mistral Large 3 (675B) ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M6ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Ultra512 GB3 บิต รันได้ดี30–54
M5 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Ultra512 GB3 บิต รันได้ดี21–37
M3 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Mistral Large 3 (675B) ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bitบิลด์: mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Mistral Large 3 (675B)

ผู้พัฒนาMistral AI
พารามิเตอร์ทั้งหมด 675B · ใช้งาน 41B (mixture-of-experts)
บริบท256K โทเค็น
สัญญาอนุญาตApache-2.0
เปิดตัว2025-11
อินพุตข้อความและรูปภาพ
ค่าน้ำหนักmistralai/Mistral-Large-3-675B-Instruct-2512

คำถาม

Mistral Large 3 (675B) ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 380 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 410 GB ซึ่งมากกว่าหน่วยความจำของ Mac ทุกเครื่องในตอนนี้
Mistral Large 3 (675B) เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 512 GB ได้ราว 30–54 โทเค็นต่อวินาที (3 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Ultra ที่มี 512 GB ได้ราว 30–54
ทำไม Mistral Large 3 (675B) จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 675B ไว้ในหน่วยความจำ แต่อ่านเพียง 41B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Mistral Large 3 (675B) แสดง Mac ขั้นต่ำที่รัน Mistral Large 3 (675B) ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/mistral-large-3.svg)](https://mlx.app/run/mistral-large-3)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Mistral Large 3 (675B) ได้ไหม หน่วยความจำและความเร็ว