AI용 Mac mini vs Mac Studio.

1AI에 중요한 사양

각 구성은 그 Mac에서 잘 돌아가는 모델로 연결됩니다. 이전 모델도 원리는 같습니다. M4나 M4 Pro를 탑재한 Mac mini, M4 Max나 M3 Ultra를 탑재한 Mac Studio입니다(모든 Mac 순위).

2얼마나 빨리 쓰는가

텍스트를 쓸 때는 토큰마다 모델의 활성 가중치를 한 번씩 읽으므로, 메모리 대역폭이 속도의 상한을 정합니다. 4비트 기준 약 18GB인 32B 밀집(dense) 모델이라면:

전문가 혼합(MoE) 모델은 토큰마다 가중치의 일부만 읽어서 크기에 비해 훨씬 빨리 씁니다. 들어가는지는 메모리가 정하고, 속도는 여전히 대역폭이 정합니다. 긴 프롬프트를 읽는 속도는 대역폭보다 GPU 연산 성능에 달려 있어, 이 부분에서는 GPU가 더 큰 Max와 Ultra 칩이 더 앞서갑니다.

3어떤 모델에 어느 쪽

• 소형·중형 모델(4비트 기준 약 30B까지), 채팅, 코딩 도우미, 홈 AI 서버: 48GB나 64GB M5 Pro Mac mini. 32GB M6 Mac mini도 같은 크기를 약 절반 속도로 돌립니다.
• 70B급 모델, gpt-oss-120b, 긴 컨텍스트, 여러 모델 동시 실행: 128GB M5 Max Mac Studio. OpenAI의 gpt-oss-120b 공식 파일은 약 65GB로(OpenAI), 어떤 Mac mini도 GPU에 그만큼을 줄 수 없습니다.
• 가장 큰 오픈 모델(파라미터 수천억 개): 256GB나 512GB M5 Ultra Mac Studio, 또는 여러 대의 Mac을 함께(Mac AI 클러스터).

특정 모델이라면 해당 페이지에서 그 모델을 돌리는 가장 작은 Mac과 칩별 속도를 볼 수 있습니다. 모든 오픈 모델.

4하루 종일 돌리기

둘 다 조용하고 효율적인 상시 가동 기기입니다. 위 Apple 수치로 Mac mini는 유휴 시 4~6W, Mac Studio는 7~9W이며, 최대 부하에서 M5 Ultra Mac Studio는 최대 385W까지 씁니다. 잠들지 않게 하고 다른 기기에 모델을 제공하는 법은 맥미니 AI 서버 구축에서, 하루 전기 요금은 Mac 소비 전력에서 다룹니다.

쉬는 동안에는 MLX Node가 MLX Network의 AI 작업을 실행해 MLX 토큰을 벌 수 있습니다. 칩에 맞는 전용 좌석이 있으면 더 빨리 채굴합니다. M6에는 Core, M5 Pro와 M5 Max에는 Pro, M5 Ultra에는 Ultra입니다. 수익은 보장되지 않습니다. 위험 고지를 읽어 보세요.

5자주 묻는 질문

AI용으로 Mac Studio가 Mac mini보다 살 만한가요?

약 85B 파라미터를 넘는 모델, gpt-oss-120b, 긴 컨텍스트를 원한다면 그렇습니다. 64GB를 넘는 것은 Mac Studio뿐입니다. 4비트 기준 약 30B까지의 모델은 M5 Pro Mac mini로 돌아가며, 대역폭은 M5 Max의 약 절반입니다.

Mac mini로 70B 모델을 돌릴 수 있나요?

64GB M5 Pro만 4비트에 짧은 컨텍스트로 가능합니다. GPU가 기본으로 쓸 수 있는 48GB 중 가중치가 약 39GB이고, 초당 몇 토큰 수준입니다. 128GB Mac Studio는 컨텍스트 여유를 두고 약 두 배 빠르게 돌립니다.

LLM용 Mac Studio, M5 Max와 M5 Ultra 중 무엇이 좋나요?

M5 Ultra는 대역폭이 약 두 배(1,200 대 614GB/s)라 약 두 배 빨리 쓰고, 최대 512GB까지 됩니다. 128GB M5 Max는 4비트 기준 약 170B까지의 모델을 담습니다. M5 Max vs M5 Ultra를 보세요.

AI용 Mac mini, M6와 M5 Pro 중 무엇이 좋나요?

M5 Pro입니다. 24GB나 32GB M6보다 메모리를 약 80% 빨리 읽고, 32GB가 아니라 최대 64GB까지 됩니다.