并行专长通道允许一个 Gateway 将不同的聊天或房间路由到不同的代理,同时保持用户体验流畅。关键在于把并行性视为一种稀缺资源设计问题,而不只是“更多代理”。Documentation Index
Fetch the complete documentation index at: https://openclaw.zhcndoc.com/llms.txt
Use this file to discover all available pages before exploring further.
第一原则
只有当专长通道减少了真实瓶颈的争用时,它才会提升吞吐量:- 会话锁:同一时间只应有一个运行修改给定会话。
- 全局模型容量:所有可见的聊天运行仍然共享提供方限制。
- 工具容量:shell、浏览器、网络和仓库工作可能比模型轮次本身更慢。
- 上下文预算:较长的对话记录会让未来每一轮更慢且更不聚焦。
- 所有权歧义:多个代理重复做同一件事会浪费容量。
推荐推进方式
阶段 1:通道契约 + 后台重任务
在每个通道的工作区和系统提示中写明契约:- 目的:该通道负责的工作。
- 非目标:应当交接而不是尝试处理的工作。
- 聊天预算:简短回答留在聊天中;长任务应简短确认,然后在后台子代理或任务中运行。
- 交接规则:当其他通道拥有该工作时,说明应去哪里,并提供简洁的交接摘要。
- 工具风险规则:优先使用能够完成工作的最小工具面。
阶段 2:优先级与并发控制
围绕每个通道的业务价值来调整队列和模型容量:阶段 3:协调器 / 流量控制器
当多个通道开始活跃后,再添加一个小型协调器模式:- 跟踪活跃的通道任务和所有者。
- 检测跨群组的重复请求。
- 在通道之间路由交接摘要。
- 只暴露阻塞项、完成结果,以及人类必须做出的决策。