LFM3 技术拆解：1GB 权重背后的三混合架构与端侧部署

“约 1GB 就能运行的 AI 模型”，很容易被理解为：一台只有 1GB 空闲内存的设备，也能流畅处理长文档和复杂任务。实际上，这句话首先需要区分模型权重、运行内存和任务能力。

Liquid AI 于 2026 年 10 月 27 日发布的 LFM3，正好提供了一个具体样本：以约 20 亿参数的规模覆盖文本、视觉与语音任务，并面向本地部署和专用任务微调。它的主要技术变化，是在同一骨干里组合三种序列处理方式，而非单纯扩大参数量。官方发布说明

1GB 存的是权重，长上下文还要另算

LFM3-1.7B 的参数量为 17.3 亿。以每个参数 4 bit 粗略估算，仅参数数值就需要约 0.865GB 的十进制存储空间；算上量化元数据等开销，官方给出的 4 bit 权重规模约为 1GB。这个数量描述的是压缩后的模型参数，不是整个应用的内存预算。

生成文本时，还需要保留上下文相关的中间状态。常见的一部分叫 KV cache：保存注意力计算要复用的键和值，避免每生成一个新 token 都重新计算全部历史信息。

官方报告，LFM3-1.7B 在完整 128K 上下文下需要约 1.6GB 的 KV cache。因此，即使权重只有约 1GB，处理长上下文时也不能把总运行内存仍按 1GB 计算，运行框架、计算缓冲区和应用本身还会继续占用资源。内存数据来源

这里的 token 是模型处理文本的单位，不等同于一个汉字或一个英文单词。“256K 上下文”规定的是可容纳的输入与输出 token 总量，也不等于任意设备都能以相同速度处理这么长的内容。

三混合架构，把计算分配给不同范围的信息

传统全注意力模型可以让当前位置直接关联较早的内容，但长序列会增加计算和缓存负担。LFM3 的做法是让不同层承担不同范围的信息处理。

根据 Liquid AI 发布在 Hugging Face 的技术说明，其骨干共有 24 层：

• 13 层门控短卷积：在较短的局部范围内混合序列信息，门控用于调节信息通过。
• 5 层滑动窗口注意力：每层使用 256 token 的窗口，在邻近内容中建立较灵活的关联。
• 6 层全局注意力：保留跨越较远位置的信息交互能力。

三类算子组合使用，使模型不必在所有层都承担全局注意力的成本。局部处理负责大量常规信息整合，全局层则保留长距离联系的通道。

这也解释了为什么“窗口只有 256 token”和“上下文达到 256K”并不矛盾：前者是部分局部注意力层的作用范围，后者是整套模型支持的序列长度，不能直接画等号。

相比上一代主要结合短卷积和注意力的设计，滑动窗口注意力成为第三种组成部分。官方还引入注意力头门控、部分旋转位置编码等调整；它们服务于效率与表达能力的折中，并不意味着小模型自动获得大模型的全部能力。

同一个系列，实际是几种不同的模型

LFM3 不是一个下载后便同时具备所有功能的文件。选用哪个版本，取决于应用需要接收什么输入。

文本版 LFM3-1.7B 面向文本生成、工具调用和结构化输出；它不能因为属于多模态家族，就直接读取图片。其官方模型卡也明确指出，小规模限制了复杂多步推理和自主编程任务的适用性，知识密集型任务需要配合检索。文本版模型卡

视觉版 LFM3-VL-2B 在语言骨干之外加入视觉编码器和投影模块，总参数约 19.2 亿。它接收文本、图像和视频，输出文本，上下文为 128K。视频默认按每秒 2 帧抽样，因此“能理解视频”不等于逐帧检查了所有快速动作；短暂出现的事件是否被采到，仍受输入处理方式影响。视觉版模型卡

全模态版 LFM3-Omni-2B 则同时接收文本、图像、视频和音频，输出文本或语音。它的上下文是 32K，不能直接套用文本版的 256K 指标。例如，分析一段带解说的视频，需要同时利用画面和声音，这才属于 Omni 版本的目标场景。全模态版模型卡

系列还包含独立音频模型，以及面向结构化决策的 d1 版本。选型时需要核对具体模型卡，不能把某个版本的内存、上下文和输入能力拼成一个“全功能 1GB 模型”。

本地 Agent 的关键一步，仍在应用侧

LFM3-1.7B 支持工具调用，但模型生成调用意图，与程序真正执行动作，是两层不同的能力。

以“把周五下午的事项记进日历”为例，模型需要识别用户意图、补齐时间信息，并生成对应工具及参数。随后，应用程序解析调用、检查必填字段和权限、调用日历服务，再把结果传回模型。模型负责组织调用，运行工具的代码仍由应用提供。工具调用说明

这意味着，替换成本地模型可以改变推理发生的位置，却不会自动补上应用集成。使用云端日历、搜索或邮件服务时，相关数据仍可能发往这些服务，不能仅凭“本地推理”就断言整个任务完全离线。

LFM3 的权重已经开放下载，也可通过官方 Playground 和 API 访问。它采用 LFM Open License v1.0，包含商业使用限制，不能当作没有附加条件的宽松许可证使用；商业部署需要核对具体条款。许可证原文

因此，LFM3 的明确定位是：为输入类型和任务范围较清楚的应用提供紧凑、可定制的模型基础。判断它能否替代现有方案，需要把具体任务的正确率、真实上下文下的内存和响应时间放在一起衡量；仅比较参数量或下载体积，无法得出部署结论。

---

资料核查于 2026 年 11 月 2 日。本文依据官方发布说明和模型卡整理，未进行本机性能测试。封面为 Liquid AI 官网分享图，用于标识本文介绍的厂商。