Mac mini làm máy chủ AI của bạn.

1Vì sao chọn Mac mini

Viết văn bản bằng mô hình ngôn ngữ bị giới hạn bởi tốc độ đọc trọng số từ bộ nhớ. Trên Mac, GPU đọc thẳng bộ nhớ hợp nhất, nên một chiếc Mac mini 64 GB chứa được những mô hình không vừa card đồ họa phổ thông, mà chỉ tốn vài watt khi nghỉ. Máy chiếm ít chỗ và chạy macOS, nên các công cụ dùng trên MacBook đều dùng được.

Giới hạn của nó là bộ nhớ và băng thông. Mac mini lớn nhất có 64 GB với 307 GB/s; với mô hình cỡ 70B ở độ chính xác cao hơn hay các mô hình mở lớn nhất, bước tiếp theo là Mac Studio với tới 512 GB (Apple). Xem Mac tốt nhất để chạy LLM cục bộ.

2Mac mini nào cho mô hình nào

Băng thông quyết định tốc độ: M5 Pro đọc bộ nhớ nhanh hơn khoảng 80% so với M6 bản 24 hoặc 32 GB, nên cùng một mô hình có thể viết nhanh hơn tới khoảng 80% trên nó. Mỗi hàng dẫn tới mọi mô hình chạy tốt trên chiếc Mac đó, kèm tốc độ. Các đời Mac mini trước với M4 và M4 Pro cũng tính theo cách này: Mac mini M4 Pro.

Agent và tài liệu dài cần thêm bộ nhớ cho ngữ cảnh ngoài mô hình. Nếu AI agent là việc chính, hãy ưu tiên nhiều bộ nhớ hơn là chip nhanh hơn.

3Giữ máy luôn thức và truy cập được

Mở Cài đặt hệ thống › Năng lượng trên Mac mini (Apple):

• Ngăn tự động ngủ khi màn hình tắt: bật, để máy chủ vẫn trả lời khi không cắm màn hình.
• Tự động khởi động sau khi mất điện: bật, để máy tự chạy lại.
• Đánh thức để truy cập mạng: bật, nếu bạn cho máy ngủ.
• Chế độ nguồn điện thấp: Apple gợi ý dùng cho máy tính luôn bật, như máy chủ, để giảm điện năng và tiếng quạt.

Để quản lý mà không cần màn hình, bật Đăng nhập từ xa (SSH) hoặc Chia sẻ màn hình trong Cài đặt hệ thống › Cài đặt chung › Chia sẻ (Apple). Đặt ứng dụng máy chủ tự mở khi đăng nhập, để khởi động lại là mọi thứ chạy lại.

4Cung cấp mô hình cho các thiết bị khác

Mỗi công cụ dưới đây chạy mô hình trên Mac mini và cho các ứng dụng khác của bạn một API theo định dạng của API OpenAI, thứ mà phần lớn ứng dụng trò chuyện, công cụ lập trình và agent đều nhận:

Ví dụ với mlx-lm:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Mặc định Ollama gỡ mô hình khỏi bộ nhớ sau 5 phút không có yêu cầu; trên máy chủ, hãy đặt OLLAMA_KEEP_ALIVE để giữ nó lại (Ollama). Bài ứng dụng tốt nhất để chạy LLM trên Mac so sánh chi tiết các công cụ này.

AI App Store liệt kê các công cụ này và những ứng dụng khác chạy mô hình cục bộ, mỗi mục kèm bản tải chính thức của nhà phát triển, giấy phép và dữ liệu của bạn đi đâu.

5Chạy AI agent trên máy

Rất nhiều Mac mini giờ chạy AI agent làm việc suốt ngày đêm qua ứng dụng nhắn tin, tệp và web. Ví dụ OpenClaw là trợ lý mã nguồn mở chạy trên chính máy tính của bạn, trong đó mô hình, kể cả mô hình cục bộ, là plugin có thể thay đổi (OpenClaw). Trỏ agent như vậy tới địa chỉ của máy chủ cục bộ là nó dùng mô hình trên Mac mini thay vì API đám mây.

Có hai điều quan trọng với agent hơn là với trò chuyện. Ngữ cảnh: agent gửi prompt dài kèm mô tả công cụ và lịch sử, chiếm bộ nhớ ngoài phần của mô hình (xem vì sao). Và chất lượng mô hình: mô hình lớn nhất chạy tốt trên Mac mini của bạn sẽ làm theo chỉ dẫn và gọi công cụ đáng tin cậy hơn một mô hình nhỏ.

6Giữ máy riêng tư

• Các máy chủ này chỉ lắng nghe trên chính máy Mac cho đến khi bạn thay đổi. Chỉ mở chúng cho mạng ở nhà hoặc văn phòng, và chỉ khi bạn tin các thiết bị trong mạng đó.
• Chính tài liệu của mlx-lm nói máy chủ của nó không được khuyến nghị cho môi trường production vì chỉ có các kiểm tra bảo mật cơ bản (mlx-lm).
• Đừng chuyển tiếp cổng ra internet. Để truy cập Mac mini từ bên ngoài, hãy dùng mạng riêng như VPN.
• Một agent có thể chạy lệnh hay gửi tin nhắn sẽ hành động bằng tài khoản của bạn: chỉ cấp cho nó quyền thật sự cần.

7Chi phí vận hành và những giờ nhàn rỗi

Một máy chủ tại nhà dành phần lớn thời gian trong ngày để chờ. MLX Node có thể tận dụng những giờ đó: nó chạy tác vụ AI cho MLX Network trong giới hạn bạn đặt, kể cả lượng bộ nhớ một tác vụ được dùng, và kiếm MLX Tokens với ghế miễn phí, tối đa 1 MLX một ngày. Tạm dừng khi bạn cần Mac mini chạy hết tốc độ, hoặc để nó chỉ bắt đầu sau khi Mac đã nhàn rỗi. Thu nhập phụ thuộc vào mạng lưới và không được đảm bảo: hãy đọc rủi ro.

8Câu hỏi

Mac mini có tốt cho AI không?

Để chạy mô hình cục bộ thì có: GPU của nó đọc thẳng bộ nhớ hợp nhất, nên M5 Pro 64 GB chứa được mô hình tới khoảng 85B tham số ở 4-bit, mà chỉ tốn vài watt khi nghỉ. Để huấn luyện hay chạy các mô hình lớn nhất, Mac Studio hoặc máy chủ GPU là công cụ phù hợp hơn.

Nên mua Mac mini nào làm máy chủ LLM cục bộ?

Nhiều bộ nhớ nhất có thể: bộ nhớ quyết định mô hình nào vừa và không nâng cấp được về sau. M5 Pro còn đọc bộ nhớ nhanh hơn khoảng 80% so với M6 bản 24 hoặc 32 GB, nên viết nhanh hơn. So sánh mọi cấu hình tại Mac mini M5 Pro và Mac mini M6.

Mac mini có chạy được mô hình 70B không?

Chỉ bản M5 Pro 64 GB, ở 4-bit và với ngữ cảnh ngắn: trọng số chiếm khoảng 39 GB trong 48 GB mà GPU dùng được theo mặc định. Tốc độ viết chậm, vài token mỗi giây. Xem Llama 3.3 70B trên Mac.

Làm sao dùng mô hình trên Mac mini từ laptop hay điện thoại?

Khởi chạy máy chủ để nó lắng nghe trên mạng của bạn (ví dụ mlx_lm.server --host 0.0.0.0), rồi trỏ ứng dụng trên thiết bị kia tới http://<mac-mini-name>.local:8080/v1 như một endpoint tương thích OpenAI.

Máy chủ AI Mac mini tốn bao nhiêu điện?

Mac mini M6 dùng khoảng 4 W khi nghỉ và tối đa 70 W; bản M5 Pro từ 6 W đến 145 W. Chạy hết công suất cả ngày, tối đa là 1,68 hoặc 3,48 kWh (Apple).