로그인지갑 만들기

로컬 AI용 M5 Max vs RTX 5090.

RTX 5090는 M5 Max보다 메모리를 약 192% 빠르게 읽어서(1,792 대 614GB/s), 둘 다에 들어가는 모델이라면 약 192% 더 빠르게 생성합니다. M5 Max은(는) 모델에 약 96GB, RTX 5090은(는) 약 31GB를 쓸 수 있습니다.

M5 Max460–614 GB/s최대 128GB · 47개 모델 쾌적RTX 50901,792 GB/s최대 32GB · 38개 모델 쾌적

나란히 비교

M5 MaxRTX 5090
종류MacBook Pro (14-inch, M5 Pro or M5 Max), MacBook Pro (16-inch, M5 Pro or M5 Max), Mac Studio (M5 Max or M5 Ultra)데스크톱 PC용 그래픽 카드
메모리 용량36, 48, 64, 128 GB32 GB
메모리 대역폭460–614 GB/s1,792 GB/s
모델에 쓸 수 있는 최대량약 96GB약 31GB
쾌적하게 실행되는 모델73개 중 47개73개 중 38개
실측: 생성120 tok/s290 tok/s
실측: 프롬프트 읽기3,220 tok/s14,073 tok/s

실측 행: llama.cpp 공개 벤치마크에서 Llama 2 7B Q4_0으로 측정한 각 기기의 가장 빠른 결과로, 128토큰 생성(tg128)과 512토큰 프롬프트 읽기(pp512)를 초당 토큰 수로 나타냅니다. Mac은 Metal, RTX 5090은(는) CUDA로 실행했습니다. Apple Silicon 결과 · RTX 5090 결과 모델에 쓸 수 있는 메모리는 RTX 5090의 경우 자체 32GB에서 약 1GB를 뺀 값, Mac은 통합 메모리의 약 75%(macOS 기본값)로 계산합니다.

각자 이기는 부분

  • 생성 속도. RTX 5090는 M5 Max보다 메모리를 약 192% 빠르게 읽어서(1,792 대 614GB/s), 둘 다에 들어가는 모델이라면 약 192% 더 빠르게 생성합니다.
  • 모델 크기. M5 Max은(는) 모델에 약 96GB, RTX 5090은(는) 약 31GB를 쓸 수 있습니다. 인기 오픈 모델 73개 중 M5 Max에서는 47개, RTX 5090에서는 38개가 잘 돌아갑니다.
  • 긴 프롬프트 읽기. llama.cpp 실측에서 RTX 5090이(가) 프롬프트를 약 4.4배 빠르게 읽습니다(초당 14,073 대 3,220 토큰). 프롬프트 읽기는 메모리 대역폭이 아니라 GPU 연산 성능에 달려 있으며, 긴 문서나 코드베이스에서 첫 단어가 나올 때까지의 대기 시간을 정합니다.
  • 소프트웨어. RTX 5090은(는) NVIDIA의 CUDA를 씁니다. 학습 코드와 많은 이미지·동영상 도구를 포함해 대부분의 AI 소프트웨어가 CUDA를 먼저 지원합니다. Mac에서는 대신 MLX, llama.cpp의 Metal 백엔드, PyTorch의 MPS 백엔드로 모델을 실행합니다.
  • 주변 구성. 그래픽 카드에는 이를 꽂을 PC가 필요하고, 자체 32GB가 한계입니다. 들어가지 않는 모델은 훨씬 느린 PC 시스템 메모리에서 일부를 돌리거나 두 번째 카드에 나눠야 합니다.
  • Mac. 매일 쓰는 컴퓨터이기도 하며, Apple Silicon용으로 만든 MLX Harness와 MLX Node가 돌아갑니다.

인기 모델에서의 속도

한 대화 기준 초당 토큰 수입니다. 각 칩은 가장 큰 메모리 구성(128GB와 32GB)에서, 들어가는 가장 좋은 버전의 모델로 계산했습니다.

모델M5 MaxRTX 5090
Llama 3.1 8B Instruct8B33–58 8비트95–169 8비트
gpt-oss-20b21B · 활성 3.6B145–259 네이티브 4.25비트424–755 네이티브 4.25비트
Qwen3.6 35B A3B35B · 활성 3B86–154 8비트336–597 6비트
Qwen3.8 27B27B10–17 8비트28–50 8비트
Llama 3.3 70B Instruct70B4–7 8비트37–65 2비트 품질 낮음
gpt-oss-120b117B · 활성 5.1B102–182 네이티브 4.25비트너무 큼
Qwen3.5 122B A10B122B · 활성 10B49–88 4비트너무 큼
DeepSeek V4 Flash 0731284B · 활성 13B67–120 2비트 품질 낮음너무 큼

자주 묻는 질문

LLM에서 RTX 5090가 M5 Max보다 빠른가요?
RTX 5090는 M5 Max보다 메모리를 약 192% 빠르게 읽어서(1,792 대 614GB/s), 둘 다에 들어가는 모델이라면 약 192% 더 빠르게 생성합니다. llama.cpp 실측에서 RTX 5090이(가) 프롬프트를 약 4.4배 빠르게 읽습니다(초당 14,073 대 3,220 토큰). 프롬프트 읽기는 메모리 대역폭이 아니라 GPU 연산 성능에 달려 있으며, 긴 문서나 코드베이스에서 첫 단어가 나올 때까지의 대기 시간을 정합니다.
M5 Max와 RTX 5090 중 더 큰 모델을 실행할 수 있는 쪽은?
M5 Max은(는) 모델에 약 96GB, RTX 5090은(는) 약 31GB를 쓸 수 있습니다. 인기 오픈 모델 73개 중 M5 Max에서는 47개, RTX 5090에서는 38개가 잘 돌아갑니다.
MLX Node가 RTX 5090에서 돌아가나요?
아니요. MLX Node와 MLX Harness는 Apple의 MLX 프레임워크로 Apple Silicon Mac에서만 돌아갑니다.

더 많은 비교

로컬 AI를 위한 M5 Max · 모든 모델 비교하기 · 로컬 LLM에 가장 좋은 Mac

계산 방법

메모리: 모델 파라미터를 가중치당 8, 6, 4, 3, 2비트로 계산하고 MLX의 그룹 스케일(가중치당 0.5비트)을 더하거나 네이티브 형식 그대로 계산한 뒤, 컨텍스트를 위한 여유를 더했습니다. macOS는 기본적으로 GPU가 통합 메모리의 약 75%를 쓰도록 허용합니다. 속도: 메모리 대역폭을 토큰당 읽는 바이트 수로 나눈 값이 한 대화의 상한입니다. llama.cpp의 Apple Silicon 공개 벤치마크에서 실제 속도는 그 상한의 약 45~80%였고, 여기 표시한 범위가 바로 그 값입니다. 측정값이 아닌 추정값이니, 내 Mac은 MLX Bench에서 직접 측정해 보세요. 모델 수치는 각 공식 모델 카드, 칩 수치는 Apple 기술 사양에서 가져왔습니다. 2026-10-19 확인. mlx.app/compare와 같은 데이터입니다.

RTX 5090 자료: NVIDIA: GeForce RTX 5090 (specs: 32 GB GDDR7, 512-bit, 575 W TGP), NVIDIA RTX Blackwell GPU Architecture whitepaper (Tables 1 and 4).

로컬 AI·LLM용 M5 Max vs RTX 5090: 메모리, 속도, 무엇을 살까