Mac mini как ваш ИИ-сервер.

1Почему Mac mini

Генерация текста языковой моделью упирается в скорость чтения весов из памяти. На Mac GPU читает объединенную память напрямую, поэтому Mac mini с 64 ГБ вмещает модели, которые не помещаются на потребительскую видеокарту, и потребляет в простое несколько ватт. Он занимает мало места и работает на macOS, так что подходят те же инструменты, что и на MacBook.

Его пределы — память и пропускная способность. У старшего Mac mini 64 ГБ и 307 ГБ/с; для моделей класса 70B с более высокой точностью или самых больших открытых моделей следующий шаг — Mac Studio с памятью до 512 ГБ (Apple). См. лучший Mac для локальных LLM.

2Какой Mac mini для каких моделей

Скорость задает пропускная способность: M5 Pro читает память примерно на 80% быстрее, чем M6 с 24 или 32 ГБ, поэтому та же модель может писать на нем до 80% быстрее. Каждая строка ведет ко всем моделям, которые хорошо работают на этом Mac, со скоростями. Прежние Mac mini с M4 и M4 Pro устроены так же: Mac mini M4 Pro.

Агентам и длинным документам нужна память под контекст сверх самой модели. Если главная задача — ИИ-агент, берите больше памяти, а не более быстрый чип.

3Чтобы не засыпал и был доступен

Откройте на Mac mini Системные настройки › «Энергия» (Apple):

• Предотвращать автоматический переход в режим сна, когда дисплей выключен: включите, чтобы сервер отвечал и без подключенного экрана.
• Включать автоматически после сбоя питания: включите, чтобы он поднимался сам.
• Выводить из режима сна для доступа к сети: включите, если разрешаете ему засыпать.
• Режим энергосбережения: Apple советует его для компьютеров, которые работают постоянно, например серверов, — чтобы снизить расход энергии и шум вентилятора.

Чтобы управлять им без экрана, включите «Удаленный вход» (SSH) или «Общий экран» в Системных настройках › «Основные» › «Общий доступ» (Apple). Настройте серверное приложение на запуск при входе в систему, чтобы после перезагрузки все поднималось само.

4Отдайте модель другим устройствам

Каждый из этих инструментов запускает модель на Mac mini и дает другим приложениям API в формате OpenAI, который принимает большинство чат-приложений, инструментов для кода и агентов:

Например, с mlx-lm:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama по умолчанию выгружает модель через 5 минут без запросов; на сервере задайте OLLAMA_KEEP_ALIVE, чтобы она оставалась в памяти (Ollama). Подробное сравнение этих инструментов — в обзоре лучших программ для LLM на Mac.

В AI App Store собраны эти инструменты и другие приложения для локального запуска моделей, у каждого — официальная загрузка от разработчика, лицензия и то, куда уходят ваши данные.

5ИИ-агенты на Mac mini

Многие Mac mini сейчас круглосуточно запускают ИИ-агентов, которые работают через мессенджеры, файлы и веб. OpenClaw, например, — ассистент с открытым кодом, который работает на вашем собственном компьютере, а модели, в том числе локальные, подключаются к нему как сменные плагины (OpenClaw). Укажите такому агенту адрес локального сервера, и он будет использовать модель на вашем Mac mini вместо облачного API.

Для агентов две вещи важнее, чем для чата. Контекст: агенты отправляют длинные запросы с описаниями инструментов и историей, и это занимает память сверх модели (почему). И качество модели: самая большая модель, которая хорошо работает на вашем Mac mini, надежнее следует инструкциям и вызывает инструменты, чем маленькая.

6Приватность и безопасность

• Эти серверы слушают только сам Mac, пока вы не измените настройки. Открывайте их только домашней или офисной сети и только если доверяете устройствам в ней.
• Собственная документация mlx-lm не рекомендует его сервер для продакшена, потому что в нем реализованы лишь базовые проверки безопасности (mlx-lm).
• Не пробрасывайте порт в интернет. Чтобы добраться до Mac mini извне, используйте частную сеть, например VPN.
• Агент, который может выполнять команды или отправлять сообщения, действует от имени ваших аккаунтов: давайте ему только тот доступ, который нужен.

7Сколько это стоит и часы простоя

Домашний сервер большую часть дня ждет. MLX Node может использовать эти часы: он выполняет задачи ИИ для MLX Network в заданных вами пределах, в том числе по объему памяти для задачи, и зарабатывает токены MLX на бесплатном месте — до 1 MLX в день. Ставьте его на паузу, когда Mac mini нужен на полной скорости, или пусть он запускается только после того, как Mac какое-то время простаивает. Заработок зависит от сети и не гарантирован: прочитайте о рисках.

8Вопросы

Подходит ли Mac mini для ИИ?

Для локального запуска моделей — да: его GPU читает объединенную память напрямую, так что M5 Pro с 64 ГБ вмещает модели примерно до 85B параметров в 4 битах и потребляет в простое несколько ватт. Для обучения или самых больших моделей лучше подойдут Mac Studio или сервер с GPU.

Какой Mac mini купить для локального LLM-сервера?

С максимумом памяти, который можете себе позволить: память решает, какие модели поместятся, а добавить ее потом нельзя. К тому же M5 Pro читает память примерно на 80% быстрее, чем M6 с 24 или 32 ГБ, поэтому пишет быстрее. Сравните все конфигурации на страницах Mac mini M5 Pro и Mac mini M6.

Потянет ли Mac mini модель 70B?

Только M5 Pro с 64 ГБ, в 4 битах и с коротким контекстом: веса занимают около 39 ГБ из 48 ГБ, доступных GPU по умолчанию. Пишет он медленно, несколько токенов в секунду. См. Llama 3.3 70B на Mac.

Как пользоваться моделью с Mac mini на ноутбуке или телефоне?

Запустите сервер так, чтобы он слушал вашу сеть (например, mlx_lm.server --host 0.0.0.0), затем укажите в приложении на другом устройстве адрес http://<mac-mini-name>.local:8080/v1 как эндпоинт, совместимый с OpenAI.

Сколько энергии потребляет ИИ-сервер на Mac mini?

Mac mini на M6 потребляет около 4 Вт в простое и до 70 Вт, на M5 Pro — от 6 до 145 Вт. На пределе целые сутки — это не больше 1,68 или 3,48 кВт·ч (Apple).