开源项目

Liquid AI 开源 d1 决策模型:不生成文字,一次就给出答案

d1-3B 和 d1-omni-600M 不逐字生成,而是一次前向计算直接输出结构化答案,在 RTX 4090 上一次判断只要 8 毫秒。

Liquid AI 于 10 月 7 日开源了两款“决策模型” d1-3B 和 d1-omni-600M。和常见的生成式大模型不同,它们不逐字输出,而是一次前向计算就给出答案,适合分类、路由、判断这类任务。

要点

  • d1-3B:基于 LFM2.5-VL-3B,支持文字和图片
  • d1-omni-600M:支持文字加图片,或文字加音频,官方称是第一个实验性版本
  • 速度:d1-3B 在 RTX 4090 上一次判断约 8 毫秒,在 Jetson Orin Nano 上约 50 毫秒
  • 已发布在 Hugging Face,首日支持 llama.cpp

对你意味着什么

如果你的 AI 应用里有大量“是或否”“属于哪一类”的判断,用这类小模型可以比调用大模型更快、更省钱,也能在本地设备上跑。