

锐英源软件原创内容,禁止转载和任何形式的非法内容使用,违者必究
📑 本文目录
智能体框架有轻有重。小满代表轻量一路:一个进程、两条循环、几个内聚模块,就能在手机上跑起一个能"想"也能"做"的 Agent;LangGraph、CrewAI、AutoGen 等则代表大型一路:把编排、记忆、工具、状态拆成平台层。本文先讲小满的轻量架构,再逐行拆解它的编排循环源码,最后介绍大型框架各自解决什么问题。下载链接文末提供。
小满是开源的安全个人 Agent,住在手机里,能记住事情、设提醒、操作其他 App。它的架构分四层:core-api 定义能力接口(ToolSpec、Action、AgentConfig 等数据契约);core-agent 实现聊天和手机操作两种 LLM 循环;hands 通过无障碍服务执行屏幕操作;app 是 Android UI 和集成层。
对应到智能体的常用组成,小满把几块能力内聚在同一个进程里:
核心设计是两种 LLM 循环分工:ChatLoop 负责对话理解 + 工具调用,擅长"想";OperatorLoop 负责截图 → 节点树 → 单步 Action(tap / swipe / type / deeplink / finish),擅长"做"。小满没有"推理记忆状态工具MCP优化子平台"这种独立平台,这些能力都是散落在代码里的几个类或几个函数,共享同一个进程、同一份配置、同一个模型客户端。
下面这段代码是小满编排循环的核心,对应 ChatLoop 里的一次完整任务执行:
try {
val builtIn = builtInSpecs()
val toolSpecs = builtIn + externalSpecs()
val system = ChatMessage.system(systemPrompt(userMessage, hasExternalTools = toolSpecs.size > builtIn.size))
val past = historyLock.withLock { history.toList() }
val turn = mutableListOf(ChatMessage.user(userMessage))
var lastText: String? = null
var finalText: String? = null
for (round in 0..MAX_TOOL_ROUNDS) {
val offerTools = round < MAX_TOOL_ROUNDS
val response = chat.complete(
ChatRequest(listOf(system) + past + turn, tools = if (offerTools) toolSpecs else emptyList()),
)
val text = response.text.trim()
if (response.toolCalls.isEmpty() || !offerTools) {
finalText = text.ifEmpty { if (response.toolCalls.isNotEmpty()) Prompts.TOOL_ROUNDS_EXCEEDED else "" }
break
}
if (text.isNotEmpty()) {
emit(AgentEvent.Reply(taskId, text))
lastText = text
}
turn += ChatMessage(ChatRole.ASSISTANT, listOf(ContentPart.Text(response.text)), toolCalls = response.toolCalls)
for (call in response.toolCalls) {
turn += ChatMessage.tool(call.id, tools.execute(call, taskId, emit))
}
if (stop.stopped) break
}
if (!finalText.isNullOrEmpty()) emit(AgentEvent.Reply(taskId, finalText))
remember(userMessage, finalText?.takeIf { it.isNotEmpty() } ?: lastText)
} catch (e: LlmException) {
emit(AgentEvent.Failed(taskId, Prompts.llmFailed(e)))
}
逐段看,这段代码做了几件事:
1. 组装工具与系统提示。内置工具加外部工具合成 `toolSpecs`,再用 `systemPrompt` 生成系统消息,并告知模型是否接入了外部工具。
2. 取出历史记忆。`past` 是加锁取出的历史列表,`turn` 以本轮用户消息开头。
3. 构造推理请求。关键的一行是 `ChatRequest(listOf(system) + past + turn, tools = ...)`:它把系统提示 + 历史记忆 + 本轮对话作为上下文,加上可用工具的描述(schema),一起发给大模型,请求一次带工具上下文的推理。注意工具不在这一步执行,`tools` 参数只是让模型知道有哪些能力可用。
4. 模型决定"想"还是"做"。若模型没有返回 toolCalls,或已到最后一轮不再提供工具,就取文本作为最终答案并跳出。否则把 assistant 消息连同 toolCalls 塞回 `turn`,再在本地逐个执行 `tools.execute(call, taskId, emit)`,把结果以 `ChatMessage.tool(...)` 追加回 `turn`,进入下一轮。
5. 收尾与记忆。循环结束后把最终文本发出去,并用 `remember(...)` 把本轮用户消息和回答写入记忆。异常时走 `LlmException` 分支上报失败。
所以更准确的理解是:模型负责"想"——要不要用工具、用哪个、参数填什么;本地负责"做"——`tools.execute` 真正去查日历、点屏幕;结果再回喂给模型,循环往复直到给出最终回答。记忆是输入的一部分,工具是模型可请求调用的能力,执行在本地,不在大模型里。
比小满复杂的智能体,会在"怎么组织多个步骤、多个工具"上做文章,并把能力拆成平台层。常见的大型编排框架包括:
复杂智能体的记忆需求也远超"记住用户偏好",会引入 RAG(检索增强生成):向量数据库(Chroma、FAISS)加检索策略(向量相似度、关键词、图检索的混合),把记忆分成情景记忆、语义记忆、程序记忆等不同尺度来管理,开源项目如 agent-brain-rag 集成了 GraphRAG 和两阶段重排序。
推理调度层则出现了另一类技术:vLLM 官方推出 Agentic API,定位是"agent harness",管理对话状态、执行内置工具、协调多轮推理循环;智能体多轮循环中上下文增长快、新增token少,输入输出比可达 131:1,缓存命中率很高,于是 vLLM 与 Mooncake 集成分布式 KV 缓存池来解决跨轮次复用问题。还有 Semantic Router 在探索让多个模型以 micro-agent 形式协作:便宜模型先试,置信度不够再升级到更强模型。
一句话区分两条路线:私有化部署 = 编排框架(必需)+ 推理引擎(vLLM 等,可选但常见)+ 记忆/检索平台 + 工具/MCP 网关 + 状态持久化;小型智能体 = 一个轻量编排循环 + 内聚的记忆模块 + 内联的工具定义 + 可选的 MCP 接入,全部跑在一个进程里,不拆平台。小满就是后者的典型:它有编排、有记忆、有工具、能接 MCP,但这些都是 App 里的几个模块,不是独立子平台。
总结:轻量智能体的技术壁垒不在"调模型",而在把记忆、工具、MCP 和编排循环内聚得足够紧凑;大型框架的价值在于把规模、协作、持久化这些复杂度拆成可独立演进的平台层。看懂了小满这段几十行的循环,再去看 LangGraph 这类框架,会更容易理解它们各自在补哪块短板。源代码下载链接https://github.com/aduoge/xiaoman。