로그인지갑 만들기

Mac에서 Nemotron 3.5 Bolt 74B A9B 실행할 수 있을까?

네, 통합 메모리가 64GB 이상이면 됩니다. Nemotron 3.5 Bolt 74B A9B 모델의 파라미터는 74B이고, 토큰마다 그중 9B만 활성화됩니다. 정밀도별로 필요한 메모리와 각 Apple 칩에서의 속도를 정리했습니다.

4비트 메모리44.9 GB가중치 41.6 GB + 컨텍스트
최소 사양 Mac64 GB4비트 · Mac 구성 32가지
가장 빠른 Mac74–132토큰/초 · M5 Ultra 96GB(추정)

정밀도별 메모리

버전가중치컨텍스트 포함최소 사양 Mac
8비트78.6 GB84.9 GB128 GB
6비트60.1 GB64.9 GB96 GB
4비트41.6 GB44.9 GB64 GB
3비트 품질 낮음32.4 GB35 GB48 GB
2비트 품질 낮음23.1 GB24.9 GB36 GB

모든 Apple 칩에서

칩마다 Nemotron 3.5 Bolt 74B A9B 모델을 실행할 수 있는 가장 작은 메모리 용량, 거기에 맞는 최적의 버전, 예상 생성 속도입니다.

칩필요량버전토큰/초
M632 GB2비트 아슬아슬27–49
M5 Ultra96 GB6비트 쾌적함74–132
M5 Max64 GB4비트 쾌적함54–96
M5 Pro64 GB4비트 쾌적함27–48
M532 GB2비트 아슬아슬25–44
M4 Max64 GB4비트 쾌적함48–86
M4 Pro64 GB4비트 쾌적함24–43
M432 GB2비트 아슬아슬19–34
M3 Ultra96 GB6비트 쾌적함50–90
M3 Max64 GB4비트 쾌적함35–63
M3 Pro36 GB2비트 쾌적함24–43
M3맞는 용량 없음너무 큼–
M2 Ultra64 GB4비트 쾌적함71–125
M2 Max64 GB4비트 쾌적함35–63
M2 Pro32 GB2비트 아슬아슬32–57
M2맞는 용량 없음너무 큼–
M1 Ultra64 GB4비트 쾌적함71–125
M1 Max64 GB4비트 쾌적함35–63
M1 Pro32 GB2비트 아슬아슬32–57
M1맞는 용량 없음너무 큼–

실행하는 방법

  1. 가장 쉬운 방법: 무료 오픈 소스인 MLX Harness를 다운로드하세요. Nemotron 3.5 Bolt 74B A9B 모델을 검색해 내 Mac에 맞는 버전을 받으면 바로 채팅할 수 있습니다. OpenAI 호환 API로 다른 앱에 모델을 제공할 수도 있습니다.MLX Harness 다운로드무료 · Apple Silicon · macOS 14.5 이상
  2. 터미널에서 Apple의 MLX로: 아직 커뮤니티 MLX 빌드가 없으니, 공식 가중치로 직접 만드세요:pip install mlx-lmmlx_lm.convert --hf-path nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16 -q

단계별 안내: Mac에서 LLM 다운로드하고 실행하기 · MLX Harness 사용법 · MLX vs Ollama vs llama.cpp

Nemotron 3.5 Bolt 74B A9B 정보

개발사NVIDIA
파라미터전체 74B · 활성 9B(전문가 혼합)
컨텍스트256K토큰
라이선스OpenMDW-1.1
출시2026-10
입력텍스트와 이미지
지능Artificial Analysis Intelligence Index 21.4점
가중치nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16

자주 묻는 질문

Nemotron 3.5 Bolt 74B A9B 모델에는 메모리가 얼마나 필요한가요?
4비트에서 가중치가 약 41.6 GB이고, 컨텍스트 여유까지 더하면 모두 44.9 GB입니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용하므로, Mac에서는 통합 메모리가 64GB 이상 필요합니다.
Mac에서 Nemotron 3.5 Bolt 74B A9B 모델은 얼마나 빠른가요?
생성 속도는 메모리 대역폭에 달려 있습니다. 여기서 가장 빠른 Mac은 96GB M5 Ultra로, 초당 약 74–132토큰입니다(6비트). 실행할 수 있는 최소 사양 Mac인 64GB M2 Ultra에서는 초당 약 71–125토큰입니다.
Nemotron 3.5 Bolt 74B A9B 모델이 크기에 비해 빠른 이유는 무엇인가요?
전문가 혼합(MoE) 모델이기 때문입니다. 메모리에는 74B 파라미터를 올려 두지만 토큰마다 9B만 읽으므로, 훨씬 작은 모델과 비슷한 속도로 생성합니다.

비슷한 모델

모든 모델 · 모든 Mac · 내 Mac 비교하기

모델 카드나 README용

Runs on a Mac: Nemotron 3.5 Bolt 74B A9B Nemotron 3.5 Bolt 74B A9B 모델을 쾌적하게 실행하는 최소 사양 Mac을 보여 주고 이 페이지로 연결합니다.

[![Runs on a Mac](https://mlx.app/badge/run/nemotron-3.5-bolt-74b-a9b.svg)](https://mlx.app/run/nemotron-3.5-bolt-74b-a9b)

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

Mac에서 Nemotron 3.5 Bolt 74B A9B 실행될까? 메모리와 속도