หน่วยความจำในแต่ละความแม่นยำ
| เวอร์ชัน | ค่าน้ำหนัก | รวมบริบท | Mac ขั้นต่ำ |
|---|---|---|---|
| 4.25 บิตแบบเนทีฟ | 65.3 GB | 70.5 GB | 96 GB |
| 3 บิต คุณภาพต่ำลง | 51.2 GB | 55.3 GB | 96 GB |
| 2 บิต คุณภาพต่ำลง | 36.6 GB | 39.5 GB | 64 GB |
บนชิป Apple ทุกรุ่น
ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน gpt-oss-120b ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้
| ชิป | ต้องใช้ | เวอร์ชัน | โทเค็น/วินาที |
|---|---|---|---|
| M6 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M5 Ultra | 96 GB | 4.25 บิตแบบเนทีฟ รันได้ดี | 200–356 |
| M5 Max | 128 GB | 4.25 บิตแบบเนทีฟ รันได้ดี | 102–182 |
| M5 Pro | 64 GB | 2 บิต รันได้ดี | 86–154 |
| M5 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M4 Max | 128 GB | 4.25 บิตแบบเนทีฟ รันได้ดี | 91–162 |
| M4 Pro | 64 GB | 2 บิต รันได้ดี | 77–137 |
| M4 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M3 Ultra | 96 GB | 4.25 บิตแบบเนทีฟ รันได้ดี | 137–243 |
| M3 Max | 96 GB | 4.25 บิตแบบเนทีฟ รันได้ดี | 50–89 |
| M3 Pro | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M3 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M2 Ultra | 128 GB | 4.25 บิตแบบเนทีฟ รันได้ดี | 133–237 |
| M2 Max | 96 GB | 4.25 บิตแบบเนทีฟ รันได้ดี | 67–119 |
| M2 Pro | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M2 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M1 Ultra | 128 GB | 4.25 บิตแบบเนทีฟ รันได้ดี | 133–237 |
| M1 Max | 64 GB | 2 บิต รันได้ดี | 113–200 |
| M1 Pro | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
| M1 | ไม่มีขนาดที่ใส่ได้ | ใหญ่เกินไป | – |
วิธีรัน
- วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา gpt-oss-120b ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
- ในเทอร์มินัล ด้วย MLX ของ Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/gpt-oss-120b-MXFP4-Q8บิลด์: mlx-community/gpt-oss-120b-MXFP4-Q8 บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป
ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp
เกี่ยวกับ gpt-oss-120b
| ผู้พัฒนา | OpenAI |
|---|---|
| พารามิเตอร์ | ทั้งหมด 117B · ใช้งาน 5.1B (mixture-of-experts) |
| บริบท | 128K โทเค็น |
| สัญญาอนุญาต | Apache-2.0 |
| เปิดตัว | 2025-08 |
| อินพุต | ข้อความ |
| ความฉลาด | 11.6 บน Artificial Analysis Intelligence Index |
| ค่าน้ำหนัก | openai/gpt-oss-120b |
คู่มือ: ทีละขั้นตอนบน mlx.app
คำถาม
- gpt-oss-120b ต้องใช้หน่วยความจำเท่าไร
- ค่าน้ำหนักราว 65.3 GB ที่ 4.25 บิตแบบเนทีฟ บวกที่สำหรับบริบท รวมทั้งหมด 70.5 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 96 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
- gpt-oss-120b เร็วแค่ไหนบน Mac
- ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 200–356 โทเค็นต่อวินาที (4.25 บิตแบบเนทีฟ) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Ultra ที่มี 96 GB ได้ราว 200–356
- ทำไม gpt-oss-120b จึงรันได้เร็วกว่าขนาดของมัน
- เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 117B ไว้ในหน่วยความจำ แต่อ่านเพียง 5.1B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก
โมเดลที่คล้ายกัน
สำหรับการ์ดโมเดลหรือ README ของคุณ
แสดง Mac ขั้นต่ำที่รัน gpt-oss-120b ได้ดี และลิงก์มาที่หน้านี้
[](https://mlx.app/run/gpt-oss-120b)วิธีคำนวณ
หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare