AI 快讯 编译自 marktechpost #模型发布#端侧AI#工具调用

Liquid AI发布LFM2.5-2.6B:128K上下文、工具调用、开放权重的端侧智能体模型

Liquid AI推出LFM2.5-2.6B,一款2.69B参数的端侧智能体模型,支持128K上下文、工具调用,权重开放。本文解析其架构、性能、部署方式,并探讨对中文开发者的影响与国产模型对比。

编译发布 2026/08/07 原文发布 2026/08/07

一句话看懂

Liquid AI发布LFM2.5-2.6B,一个2.69B参数的端侧智能体模型,支持128K上下文和工具调用,权重开放,可在手机、笔记本上运行。

详细发生了什么

Liquid AI正式发布LFM2.5-2.6B,这是一个完全在设备端运行的智能体模型,能够规划、调用工具并完成多步骤任务。模型总参数2.69B,上下文窗口131,072 token,词汇量128,000,预训练数据约34万亿token。提供两个检查点:LFM2.5-2.6B-Base(用于fine-tuning)和LFM2.5-2.6B(针对智能体工作负载优化)。

由于推理完全本地化,数据不出设备,每次运行边际成本接近零。Liquid AI声称其工具使用和指令遵循得分与近四倍大小的模型相当。两个检查点均在Hugging Face上以lfm1.0许可证公开,支持GGUF、MLX和ONNX格式,并兼容llama.cpp、vLLM、SGLang和LM Studio。

架构上,模型共30层,包含22个双门控短卷积块和8个分组查询注意力块。通过扩展现有tokenizer将词汇量翻倍至128K,并经过专门的中间训练阶段将上下文扩展到128K。后训练分四个阶段:两轮SFT、教师专业化(每个领域一个专家,使用可验证奖励的强化学习)、多领域on-policy蒸馏,以及使用GRPO在真实环境中进行智能体强化学习。

基准测试中,LFM2.5-2.6B在ToolSandbox、Multi-IF、IFStruct和IFBench上均领先于gemma-4-E4B-it和Qwen3.5-9B,但在BFCLv4上略逊于Qwen3.5-9B。编码能力上,LiveCodeBenchv6得分为59.41,低于Qwen3.5-9B的69.86。

中文圈视角

LFM2.5-2.6B的发布对中文开发者有几点启示。首先,端侧智能体模型在国内有实际需求,尤其是在数据合规要求高的行业(如金融、医疗),本地推理避免数据出境,符合监管趋势。其次,与国产模型对比:Qwen3.5-4B和Qwen3.5-9B在工具调用上表现接近,但LFM2.5-2.6B在指令遵循上更优,且体积更小。国内开发者可直接通过Hugging Face下载权重,无需梯子,但需注意许可证条款。

对于中文场景,模型支持16种语言,但未明确是否包含中文优化。建议中文用户测试其在中文工具调用和长文本处理上的效果。此外,模型不推荐用于编程,中文编程场景仍需依赖更大模型或专用代码模型。

几条值得记住的细节

  • 模型参数2.69B,30层(22短卷积+8 GQA),上下文128K,预训练约34T token。
  • 在M5 Max上解码速度220 token/s,内存占用低于2.5GB;手机上约30 token/s。
  • 权重以lfm1.0许可证开放,支持GGUF、MLX、ONNX,兼容llama.cpp、vLLM等。
  • 在ToolSandbox、Multi-IF、IFStruct上超越gemma-4-E4B-it和Qwen3.5-9B。
  • 不推荐用于智能体编码或知识密集型任务。

一句话总结

LFM2.5-2.6B为端侧智能体提供新选择,中文开发者可低成本部署,但需验证中文效果。