锐英源软件
GEO原创
当前位置:锐英源 / 人工智能 / TRAE | AI产品经理培训 / 轻量智能体编排循环详解和大型智能体编排框架介绍
联系方式
微信公众号
微信扫一扫,关注AI技巧
固话:0371-63888850
手机:138-0381-0136
Q Q:396806883
微信:ryysoft
服务方向
英文技术问答引流、海外新独立站快速引流
原创内容
VC++线上线下培训
C#软件线上线下培训
视觉检测
机器视觉培训机器视觉FDE人才培养
建筑视觉检测
养殖视觉检测
语音识别平台
人工智能培训
运动控制卡上位机
机械加工软件
Java安卓移动开发线上线下培训
汇编和破解线上线下培训
驱动开发线上线下培训

锐英源软件原创内容,禁止转载和任何形式的非法内容使用,违者必究


轻量智能体编排循环详解和大型智能体编排框架介绍

📑 本文目录

  • 一、小满轻量智能体编排架构介绍
  • 二、小满轻量智能体编排循环详解
  • 三、大型智能体编排框架介绍

智能体框架有轻有重。小满代表轻量一路:一个进程、两条循环、几个内聚模块,就能在手机上跑起一个能"想"也能"做"的 Agent;LangGraph、CrewAI、AutoGen 等则代表大型一路:把编排、记忆、工具、状态拆成平台层。本文先讲小满的轻量架构,再逐行拆解它的编排循环源码,最后介绍大型框架各自解决什么问题。下载链接文末提供。

一、小满轻量智能体编排架构介绍

小满是开源的安全个人 Agent,住在手机里,能记住事情、设提醒、操作其他 App。它的架构分四层:core-api 定义能力接口(ToolSpec、Action、AgentConfig 等数据契约);core-agent 实现聊天和手机操作两种 LLM 循环;hands 通过无障碍服务执行屏幕操作;app 是 Android UI 和集成层。

对应到智能体的常用组成,小满把几块能力内聚在同一个进程里:

  • 记忆(memory):一个轻量存储模块,记住用户偏好和历史,不是独立的向量数据库服务。
  • 工具(tools):用 ToolSpec 定义、在本地执行的函数,如 calendar_insert、reminder_set、phone_task。
  • 技能(Skill):预置的操作说明,如"打开飞书日历",本质是可复用的流程模板。
  • MCP 接入:作为配置项接入外部服务,不是单独的网关进程。
  • 模型:不内置,只封装调用客户端,需要用户配置 Base URL、Model ID 和 API Key。

核心设计是两种 LLM 循环分工:ChatLoop 负责对话理解 + 工具调用,擅长"想";OperatorLoop 负责截图 → 节点树 → 单步 Action(tap / swipe / type / deeplink / finish),擅长"做"。小满没有"推理记忆状态工具MCP优化子平台"这种独立平台,这些能力都是散落在代码里的几个类或几个函数,共享同一个进程、同一份配置、同一个模型客户端。

二、小满轻量智能体编排循环详解

下面这段代码是小满编排循环的核心,对应 ChatLoop 里的一次完整任务执行:

try {
    val builtIn = builtInSpecs()
    val toolSpecs = builtIn + externalSpecs()
    val system = ChatMessage.system(systemPrompt(userMessage, hasExternalTools = toolSpecs.size > builtIn.size))
    val past = historyLock.withLock { history.toList() }
    val turn = mutableListOf(ChatMessage.user(userMessage))
    var lastText: String? = null
    var finalText: String? = null
    for (round in 0..MAX_TOOL_ROUNDS) {
        val offerTools = round < MAX_TOOL_ROUNDS
        val response = chat.complete(
            ChatRequest(listOf(system) + past + turn, tools = if (offerTools) toolSpecs else emptyList()),
        )
        val text = response.text.trim()
        if (response.toolCalls.isEmpty() || !offerTools) {
            finalText = text.ifEmpty { if (response.toolCalls.isNotEmpty()) Prompts.TOOL_ROUNDS_EXCEEDED else "" }
            break
        }
        if (text.isNotEmpty()) {
            emit(AgentEvent.Reply(taskId, text))
            lastText = text
        }
        turn += ChatMessage(ChatRole.ASSISTANT, listOf(ContentPart.Text(response.text)), toolCalls = response.toolCalls)
        for (call in response.toolCalls) {
            turn += ChatMessage.tool(call.id, tools.execute(call, taskId, emit))
        }
        if (stop.stopped) break
    }
    if (!finalText.isNullOrEmpty()) emit(AgentEvent.Reply(taskId, finalText))
    remember(userMessage, finalText?.takeIf { it.isNotEmpty() } ?: lastText)
} catch (e: LlmException) {
    emit(AgentEvent.Failed(taskId, Prompts.llmFailed(e)))
}

逐段看,这段代码做了几件事:

1. 组装工具与系统提示。内置工具加外部工具合成 `toolSpecs`,再用 `systemPrompt` 生成系统消息,并告知模型是否接入了外部工具。

2. 取出历史记忆。`past` 是加锁取出的历史列表,`turn` 以本轮用户消息开头。

3. 构造推理请求。关键的一行是 `ChatRequest(listOf(system) + past + turn, tools = ...)`:它把系统提示 + 历史记忆 + 本轮对话作为上下文,加上可用工具的描述(schema),一起发给大模型,请求一次带工具上下文的推理。注意工具不在这一步执行,`tools` 参数只是让模型知道有哪些能力可用。

4. 模型决定"想"还是"做"。若模型没有返回 toolCalls,或已到最后一轮不再提供工具,就取文本作为最终答案并跳出。否则把 assistant 消息连同 toolCalls 塞回 `turn`,再在本地逐个执行 `tools.execute(call, taskId, emit)`,把结果以 `ChatMessage.tool(...)` 追加回 `turn`,进入下一轮。

5. 收尾与记忆。循环结束后把最终文本发出去,并用 `remember(...)` 把本轮用户消息和回答写入记忆。异常时走 `LlmException` 分支上报失败。

所以更准确的理解是:模型负责"想"——要不要用工具、用哪个、参数填什么;本地负责"做"——`tools.execute` 真正去查日历、点屏幕;结果再回喂给模型,循环往复直到给出最终回答。记忆是输入的一部分,工具是模型可请求调用的能力,执行在本地,不在大模型里。

三、大型智能体编排框架介绍

比小满复杂的智能体,会在"怎么组织多个步骤、多个工具"上做文章,并把能力拆成平台层。常见的大型编排框架包括:

  • LangGraph:用状态图建模工作流,每一步可检查点持久化,适合多步骤、可中断恢复的复杂流程。
  • CrewAI:角色化多智能体协作,把任务分给不同角色的 Agent 协同完成。
  • AutoGen:对话式多智能体迭代,多个 Agent 通过对话推进任务。
  • Microsoft Agent Framework:把工具分为"服务提供"和"自定义函数",自动根据函数签名生成模型可见的工具描述。
  • Flux-Agent:面向生产的编排框架,内置 ReAct、Plan-Execute、Reflexion 等多种模式,以及 RAG 知识库和 MCP 接入。

复杂智能体的记忆需求也远超"记住用户偏好",会引入 RAG(检索增强生成):向量数据库(Chroma、FAISS)加检索策略(向量相似度、关键词、图检索的混合),把记忆分成情景记忆、语义记忆、程序记忆等不同尺度来管理,开源项目如 agent-brain-rag 集成了 GraphRAG 和两阶段重排序。

推理调度层则出现了另一类技术:vLLM 官方推出 Agentic API,定位是"agent harness",管理对话状态、执行内置工具、协调多轮推理循环;智能体多轮循环中上下文增长快、新增token少,输入输出比可达 131:1,缓存命中率很高,于是 vLLM 与 Mooncake 集成分布式 KV 缓存池来解决跨轮次复用问题。还有 Semantic Router 在探索让多个模型以 micro-agent 形式协作:便宜模型先试,置信度不够再升级到更强模型。

一句话区分两条路线:私有化部署 = 编排框架(必需)+ 推理引擎(vLLM 等,可选但常见)+ 记忆/检索平台 + 工具/MCP 网关 + 状态持久化;小型智能体 = 一个轻量编排循环 + 内聚的记忆模块 + 内联的工具定义 + 可选的 MCP 接入,全部跑在一个进程里,不拆平台。小满就是后者的典型:它有编排、有记忆、有工具、能接 MCP,但这些都是 App 里的几个模块,不是独立子平台。

总结:轻量智能体的技术壁垒不在"调模型",而在把记忆、工具、MCP 和编排循环内聚得足够紧凑;大型框架的价值在于把规模、协作、持久化这些复杂度拆成可独立演进的平台层。看懂了小满这段几十行的循环,再去看 LangGraph 这类框架,会更容易理解它们各自在补哪块短板。源代码下载链接https://github.com/aduoge/xiaoman。

友情链接
版权所有 Copyright(c)2004-2026 锐英源软件
统一社会信用代码:91410105098562502G 豫ICP备08007559号 最佳分辨率 1440*900
地址:郑州市金水区文化路97号郑州大学北校区院内原校办工厂楼101室