

锐英源软件精品原创,禁止转载和任何形式的非法内容使用,违者必究
📑 本文目录
Liquid AI野心十足,现在已经布局国防战场上的业务线,把复杂电磁环境离线状态的独立AI做为目标,并承诺提供产品。国内AI开发公司和各级高校要加强科研,应对竞争。Liquid AI 的核心主张可以用一句话概括:不追求参数规模的军备竞赛,而是让 2B 级别的模型在端侧完成过去需要大模型才能做的事。LFM3 是这个主张在 2026 年 10 月的最新答卷。
Liquid AI 于 2023 年由 MIT 计算机科学与人工智能实验室(CSAIL)的研究团队创立,总部位于马萨诸塞州剑桥市。四位联合创始人是 Ramin Hasani(CEO)、Mathias Lechner(CTO)、Alexander Amini 和 Daniela Rus,其中 Daniela Rus 是 MIT CSAIL 主任。公司的技术底色是“液态神经网络”思路的延伸:用更紧凑、更高效的架构,替代靠堆参数换性能的路线。
Liquid AI官网的宣传是“设备原生基础模型,为数据中心之外的处理器提供先进智能,专为满足物理世界在延迟、隐私和硬件方面的约束而打造。”设备原生是翻译文字,按锐英源软件的理解,说成设备一体基础模型,更好领悟。
融资方面,Liquid AI 在 2024 年底完成了 2.5 亿美元 A 轮融资,由 AMD Ventures 领投,估值约 23 亿美元;2026 年又有 AMD、德州仪器等战略投资方继续跟进。需要说明的是,不同来源对估值的口径略有差异(有的写作 23 亿,有的写作 24 亿),但“20 亿美元级别”是共识区间。
官方入口:官网 liquid.ai,模型权重在 Hugging Face 的 LiquidAI/lfm3 collection,文档在 docs.liquid.ai。
LFM3 不是一个单一模型,而是一个共享同一骨干网络的模型家族,包括文本、视觉、音频、全模态和决策等版本。所有模型都基于同一个 LFM3-1.7B-Base 骨干,主要规格如下:
| 项目 | 规格 |
|---|---|
| 参数量 | 1.73B |
| 架构 | 24 层三混合:13 层门控短卷积 + 5 层滑动窗口注意力 + 6 层全局注意力 |
| 上下文长度 | 256K tokens(输入 + 输出) |
| 预训练数据 | 22T tokens,最后 3.5T 包含智能体轨迹与工具调用数据 |
| 端侧体积 | 4-bit 量化后约 1GB,可装入手机或笔记本 |
| 语言 | 16 种,包括中文、英语、法语、德语、日语、韩语等 |
| 许可证 | LFM Open License v1.0 |
需要区分的两个模型:LFM3-1.7B-Base 是预训练基座,适合做深度微调或领域继续预训练;日常对话、工具调用和智能体任务应该使用指令微调后的 LFM3-1.7B。官方在模型卡中明确建议:聊天和 Agent 场景不要直接拿 Base 用。
最直接的方式是用 Hugging Face Transformers 加载。以下代码对应官方模型卡中的快速开始:
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "LiquidAI/LFM3-1.7B-Base"
model = AutoModelForCausalLM.from_pretrained(
model_id,
device_map="auto",
dtype="bfloat16",
trust_remote_code=True,
)
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
prompt = "The nematode C. elegans is"
input_ids = tokenizer(prompt, return_tensors="pt").input_ids.to(model.device)
output = model.generate(input_ids, max_new_tokens=128, do_sample=False)
print(tokenizer.decode(output[0], skip_special_tokens=True))
这是Python大模型推理经典代码,tokenizer负责转换自然语言值到大模型理解的token,也负责把结果转换为自然语言,前者对应函数是tokenizer,后者对应decode。中间调用大模型是generate函数。
trust_remote_code=True是必须的,因为LFM3的三混合架构需要加载自定义建模代码。如果换成指令微调版 LiquidAI/LFM3-1.7B,建议使用apply_chat_template组织对话;默认会开启思考轨迹,如果希望直接回答,可以设置 enable_thinking=False。
LFM3-Omni 的核心能力是同时理解图片和音频,并调用工具。下面的结构来自 Liquid 官方文档中的“预订餐厅”示例,通过餐厅的图片和音频帮助定位具体位置,是哪家餐厅。下面代码做了精简,重点展示流程骨架:
import torch from PIL import Image
# 1. 定义工具(告诉模型“可以调用什么”)
tools = [{
"name": "book_table",
"description": "Book a table at a restaurant using its name and city.",
"parameters": {
"type": "object",
"properties": {
"restaurant_name": {"type": "string"},
"city": {"type": "string"},
"date": {"type": "string"},
"time": {"type": "string"},
"party_size": {"type": "integer", "minimum": 1},
}, "required": ["restaurant_name", "city", "date", "time", "party_size"],
},
}]
# 2. 准备多模态输入:一张图片 + 一段音频
# 实际使用时替换为你自己的文件和 processor
inputs = processor.apply_chat_template(
[
{"role": "system", "content": "Use the tools to help the user complete their goal."},
{"role": "user", "content": [
{"type": "image", "image": "restaurant.jpg"},
{"type": "audio", "audio": "request.wav"},
]},
],
tools=tools,
add_generation_prompt=True,
tokenize=True,
return_dict=True,
return_tensors="pt",
).to(model.device)
# 3. 生成(只输出文本,即工具调用 JSON)
with torch.inference_mode():
out = model.generate(**inputs, max_new_tokens=512, generation_mode="text")
# 4. 跳过 prompt 部分,只解码新生成的内容
print(processor.decode(
out.sequences[0, inputs["input_ids"].shape[1]:],
skip_special_tokens=True
))
几个关键点:tools 是给模型看的 schema,模型会按照其中的字段生成结构化 JSON;generation_mode="text" 强制只输出文本,避免模型同时合成语音;解码时切片 [inputs["input_ids"].shape[1]:] 是为了跳过输入部分,只保留模型新生成的工具调用。模型输出的是“申请调用”,有了哪家餐厅信息,才能真正执行订餐,这时候就要外部调度层去调用真实的预订 API。
主要来源:Liquid AI 官方文档 docs.liquid.ai;Hugging Face 模型卡 LiquidAI/LFM3-1.7B-Base;公司融资与背景信息来自 Dealroom、AlphaSignal 等公开报道。