Mac 能运行 LFM2.5 2.6B 吗?

可以,需要 8 GB 或以上的统一内存。LFM2.5 2.6B 有 2.69B 参数;下面是它在各种精度下所需的内存,以及每款 Apple 芯片运行它的速度。

4 位 所需内存3 GB权重 1.5 GB + 上下文
最低配置 Mac8 GB8 位 · 58 种 Mac 配置
最快的 Mac186–331token/秒 · M5 Ultra 96 GB(估算)

各种精度所需内存

版本权重含上下文最低配置 Mac
8 位2.9 GB4.4 GB8 GB
6 位2.2 GB3.7 GB8 GB
4 位1.5 GB3 GB8 GB
3 位 质量较低1.2 GB2.7 GB8 GB
2 位 质量较低0.8 GB2.3 GB8 GB

在每款 Apple 芯片上

每款芯片能运行 LFM2.5 2.6B 的最小内存容量、装得下的最佳版本,以及预计的生成速度。

芯片需要版本token/秒
M616 GB8 位 流畅运行24–42
M5 Ultra96 GB8 位 流畅运行186–331
M5 Max36 GB8 位 流畅运行71–127
M5 Pro24 GB8 位 流畅运行48–85
M516 GB8 位 流畅运行24–42
M4 Max36 GB8 位 流畅运行64–113
M4 Pro24 GB8 位 流畅运行42–75
M416 GB8 位 流畅运行19–33
M3 Ultra96 GB8 位 流畅运行127–226
M3 Max36 GB8 位 流畅运行47–83
M3 Pro18 GB8 位 流畅运行23–41
M38 GB8 位 流畅运行16–28
M2 Ultra64 GB8 位 流畅运行124–221
M2 Max32 GB8 位 流畅运行62–110
M2 Pro16 GB8 位 流畅运行31–55
M28 GB8 位 流畅运行16–28
M1 Ultra64 GB8 位 流畅运行124–221
M1 Max32 GB8 位 流畅运行62–110
M1 Pro16 GB8 位 流畅运行31–55
M18 GB8 位 流畅运行11–19

如何运行

  1. 最简单的方法:下载免费开源的 MLX Harness。搜索 LFM2.5 2.6B,下载适合你 Mac 的版本,即可开始对话。它还能通过 OpenAI 兼容 API 把模型提供给你的其他 App。下载 MLX Harness免费 · Apple Silicon · macOS 14.5 或更高版本
  2. 在终端中使用 Apple 的 MLX:pip install mlx-lmmlx_lm.chat --model mlx-community/LFM2.5-2.6B-4bit版本:Hugging Face 上的 mlx-community/LFM2.5-2.6B-4bit。其他精度的版本就在旁边。

分步指南:在 Mac 上下载并运行 LLM · 如何使用 MLX Harness · MLX、Ollama 与 llama.cpp 对比

关于 LFM2.5 2.6B

开发者Liquid AI
参数2.69B(稠密)
上下文128K token
许可证LFM Open License v1.0 (lfm1.0)
发布时间2026-07
输入文本
权重LiquidAI/LFM2.5-2.6B

常见问题

LFM2.5 2.6B 需要多少内存?
在 4 位 下权重约 1.5 GB,再加上上下文空间,总共 3 GB。在 Mac 上,这意味着需要 8 GB 或以上的统一内存,因为 macOS 默认允许 GPU 使用约 75% 的统一内存。
LFM2.5 2.6B 在 Mac 上有多快?
生成速度取决于内存带宽。本页中运行它最快的 Mac 是 96 GB 的 M5 Ultra,每秒约 186–331 个 token(8 位)。能运行它的最低配置 Mac 是 8 GB 的 M3,每秒约 16–28 个。
量化会影响 LFM2.5 2.6B 的质量吗?
在 4 位时,大多数模型的质量接近原版;低于 4 位,质量下降更快。选择能装进你的 Mac 并留有余量的最高精度。

类似模型

所有模型 · 所有 Mac · 对比你的 Mac

用于你的模型卡或 README

Runs on a Mac: LFM2.5 2.6B 显示能流畅运行 LFM2.5 2.6B 的最低配置 Mac,并链接到本页。

[![Runs on a Mac](https://mlx.app/badge/run/lfm2.5-2.6b.svg)](https://mlx.app/run/lfm2.5-2.6b)

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

Mac 能运行 LFM2.5 2.6B 吗?各款 Apple 芯片的内存与速度