开源项目

Liquid AI 开源 LFM2.5-24B-A2B:每次只用 20 亿参数,能在笔记本上跑的智能体模型

总参数 240 亿、每次只激活约 20 亿,上下文长度提升到 13 万 token,权重已在 Hugging Face 公开。

Liquid AI 于 10 月 13 日发布 LFM2.5-24B-A2B,这是它目前最大的模型,开放权重。

有哪些亮点

  • 总参数 240 亿,每处理一个词只激活约 20 亿参数(混合专家结构),所以跑得快、占内存少
  • 上下文长度 131,072 token,是上一代的 4 倍
  • 会先推理再回答,擅长调用工具、完成多步骤任务
  • 官方测试:在 Apple M5 Max 笔记本上每秒能生成约 184 个 token

在哪里可以用

基础版和对话版权重都已放在 Hugging Face,首日支持 llama.cpp、MLX、vLLM 等常用工具;也可以在 Liquid 官网的 Playground 直接试。

对你意味着什么

想在自己电脑上跑一个“能干活”的本地模型,又不想把资料传到云端,这类小激活参数的模型值得关注。官方建议搭配联网搜索或资料库使用,知识类问题会更准。