Mac mini vs Mac Studio para IA.

Os dois são Macs de mesa compactos que rodam modelos de IA na própria GPU e na memória unificada. A diferença que importa é quanta memória você pode ter e a velocidade com que o chip a lê. Veja a comparação pelos números da Apple e qual deles serve para cada tipo de modelo.

Atualizado

Em resumo

  • O Mac mini vai até 64 GB (M5 Pro); o Mac Studio, até 128 GB com M5 Max e 512 GB com M5 Ultra (Apple, Apple).
  • A largura de banda define a velocidade de escrita: 153–170 GB/s no Mac mini com M6, 307 GB/s no M5 Pro, até 614 GB/s no M5 Max e 1.200 GB/s no M5 Ultra.
  • Modelos de até cerca de 30B parâmetros em 4 bits: um Mac mini com M5 Pro basta. Modelos da classe de 70B, gpt-oss-120b ou contextos longos: um Mac Studio com 128 GB. Os maiores modelos abertos: um Mac Studio com M5 Ultra.
  • A memória não pode ser ampliada depois, então escolha-a pelos modelos que você vai querer rodar no ano que vem, não só hoje.

1As especificações que importam para IA

MacOpções de memóriaLargura de banda da memóriaMaior modelo em 4 bitsEnergia, do repouso ao máximo
Mac mini, M616, 24 ou 32 GB153–170 GB/sde cerca de 21B a 42B4–70 W
Mac mini, M5 Pro24, 48 ou 64 GB307 GB/sde cerca de 32B a 85B6–145 W
Mac Studio, M5 Max36, 48, 64 ou 128 GB460–614 GB/sde cerca de 48B a 170B7–200 W
Mac Studio, M5 Ultra96, 256 ou 512 GB1.200 GB/sde cerca de 128B a 682B9–385 W
Memória e largura de banda da ficha técnica da Apple do Mac mini e do Mac Studio; energia pelos números da Apple para o Mac mini e o Mac Studio. Maior modelo: só os pesos, com a GPU usando cerca de 75% da memória (como chegamos a isso).

Cada configuração leva aos modelos que rodam bem nela. Os modelos anteriores funcionam do mesmo jeito: o Mac mini com M4 ou M4 Pro e o Mac Studio com M4 Max ou M3 Ultra (todos os Macs, em ranking).

2A velocidade com que cada um escreve

Para escrever texto, o modelo lê os pesos ativos uma vez a cada token, então a largura de banda da memória põe um teto na velocidade. Para um modelo denso de 32B em 4 bits, cerca de 18 GB:

MacTeto para um chatCabe?
Mac mini, M6 (32 GB)cerca de 9 tokens/sSim
Mac mini, M5 Pro (48 ou 64 GB)cerca de 17 tokens/sSim
Mac Studio, M5 Max (48 GB ou mais)cerca de 34 tokens/sSim
Mac Studio, M5 Ultracerca de 67 tokens/sSim
Largura de banda dividida por 18 GB. Na prática, costuma-se chegar a cerca de 45% a 80% do teto (benchmarks do llama.cpp). Estimativas, não medições.

Modelos de mistura de especialistas leem só uma fração dos pesos a cada token, então escrevem bem mais rápido do que o tamanho sugere: a memória decide se cabem, e a largura de banda continua ditando o ritmo. Ler um prompt longo depende mais da capacidade de cálculo da GPU do que da largura de banda, e aí as GPUs maiores dos chips Max e Ultra abrem ainda mais vantagem.

3Qual deles para quais modelos

  • Modelos pequenos e médios (até cerca de 30B em 4 bits), chat, assistentes de programação, um servidor de IA em casa: um Mac mini com M5 Pro e 48 ou 64 GB. O Mac mini com M6 e 32 GB roda os mesmos tamanhos com cerca de metade da velocidade.
  • Modelos da classe de 70B, gpt-oss-120b, contextos longos ou vários modelos ao mesmo tempo: um Mac Studio com M5 Max e 128 GB. Os arquivos oficiais do gpt-oss-120b da OpenAI têm cerca de 65 GB (OpenAI), mais do que qualquer Mac mini consegue dar à GPU.
  • Os maiores modelos abertos (centenas de bilhões de parâmetros): um Mac Studio com M5 Ultra e 256 ou 512 GB, ou vários Macs juntos (clusters de IA com Mac).

Para um modelo específico, a página dele mostra o menor Mac que o roda e a velocidade em cada chip: todos os modelos abertos.

4Ligado o dia inteiro

Os dois são máquinas silenciosas e econômicas para deixar sempre ligadas. Pelos números da Apple acima, um Mac mini consome 4–6 W em repouso e um Mac Studio 7–9 W; em carga máxima, o Mac Studio com M5 Ultra pode chegar a 385 W. Um Mac mini como servidor de IA explica como mantê-lo acordado e servir modelos a outros dispositivos, e quanta energia um Mac consome mostra quanto custa um dia.

Quando ele está ocioso, o MLX Node pode rodar tarefas de IA para a MLX Network e ganhar MLX Tokens. Uma vaga dedicada combinada com o chip minera mais rápido: Core para o M6, Pro para o M5 Pro e o M5 Max, Ultra para o M5 Ultra. Os ganhos não são garantidos: leia os riscos.

5Perguntas

Vale a pena um Mac Studio em vez de um Mac mini para IA?
Se você quer modelos acima de cerca de 85B parâmetros, gpt-oss-120b ou contextos longos, sim: só o Mac Studio tem mais de 64 GB. Para modelos de até cerca de 30B em 4 bits, um Mac mini com M5 Pro dá conta, com cerca de metade da largura de banda do M5 Max.
O Mac mini roda um modelo de 70B?
Só o M5 Pro com 64 GB, em 4 bits e com contexto curto: cerca de 39 GB de pesos nos 48 GB que a GPU pode usar por padrão, a poucos tokens por segundo. Um Mac Studio com 128 GB o roda com espaço para o contexto e cerca de duas vezes mais rápido.
Mac Studio M5 Max ou M5 Ultra para LLMs?
O M5 Ultra tem cerca do dobro da largura de banda (1.200 contra 614 GB/s), então escreve cerca de duas vezes mais rápido, e vai até 512 GB. O M5 Max com 128 GB cobre modelos de até cerca de 170B em 4 bits. Veja M5 Max vs M5 Ultra.
Mac mini M6 ou M5 Pro para IA?
O M5 Pro: ele lê a memória cerca de 80% mais rápido que o M6 com 24 ou 32 GB e vai até 64 GB em vez de 32 GB.

Fontes

  1. Applesupport.apple.com
  2. Applesupport.apple.com
  3. Mac minisupport.apple.com
  4. Mac Studiosupport.apple.com
  5. benchmarks do llama.cppgithub.com
  6. OpenAIhuggingface.co

Leia também