DeepSeek多会话攒批:单决策推理降到1.6秒
DeepSeek 官方10月31日设计笔记:事件压测从每分钟1条升到40条,单决策推理由6.4秒降到1.6秒;去掉Thread直通,前台决定数增30%。均为合成负载消融实验,非生产结论。
2026-11-10 13:22:48 · 主编:刘立永2026年10月31日,DeepSeek Harness 团队发布《Super-agent 设计探索:迈向更自主的 Agent 系统》,并公开研究原型 dsh-superagent-prototype。官方在文中给出一组压测数据:事件频率从每分钟 1 条提高到 40 条时,单次请求耗时由 2.5 秒升至 3.9 秒,但摊到每个决定上的推理时间反而从 6.4 秒降到 1.6 秒。需要先行说明口径:这是合成负载下的消融实验数据,不是生产环境的实测结论。
瓶颈从模型换成了上下文组织
官方观察到的起点是,一个人通常只能同时跟进 3 到 5 个活跃会话,因此「单任务的上限取决于模型能力,多任务的上限取决于人的注意力」。但把会话管理收进系统之后,新的成本就落到了上下文上:Agent 每轮循环都要重放系统提示、工具定义与历史轨迹,20 个工具的 JSON Schema 就可能占掉上万 Token,消耗随任务轮数呈乘法增长,而非加法。
官方给出的对策是 Inline 与 Spill:近期高频信息直接内联进当前窗口,长内容只保留摘要和「续读入口」存到窗口外,靠唯一 ID 互相索引,模型顺着编号跳查相关对象,即所谓链式召回。这套思路借自编译器的寄存器分配和操作系统的页面换入换出,差别在于缺页由内核自动处理,而 LLM 必须自己意识到引用存在、并判断该读回多少——同一套机制换用不同模型,效果差距可能很明显。
攒批与订阅直通:省的是调度开销
事件进入系统前先过两级过滤:Fast Path 用确定性规则筛掉明显无关的消息,Slow Path 才把拿不准的交给模型做语义判断。通过筛选的消息按 Thread(消息线程)组织,同一个 PR、同一邮件往来或同一 IM 话题归成一串;首条消息派活之后,后续消息直接投递给订阅该 Thread 的执行单元,不再经过全局路由。
官方的消融实验说明了这层设计的价值:去掉订阅直通后,任务完成时间没有变化,但前台决定数多了 30%,读取缓存的 Token 从 2323 万涨到 3177 万。也就是说,它省下的不是时间,而是钱和上下文预算。前述 6.4 秒降到 1.6 秒同样来自攒批——消息密集时把积压决定合并成一批处理,代价是单次请求耗时从 2.5 秒升到 3.9 秒。这是一笔明确的取舍:用单次延迟换总体吞吐与单位决定成本。
边界:设计笔记不是产品说明书
官方在文首明确写了,这是一篇面向工程实践的架构思路探讨,并非对 DeepSeek Harness 现有产品功能的介绍。实验条件也写得很清楚:约 300 条消息中真正的任务约 20 件,其余是闲聊与 CI 噪音;每种方案跑 5 次,任务用耗时占位工具模拟,衡量的是调度协作能力,不是单任务执行能力。
研究原型 dsh-superagent-prototype 采用 MIT 许可证,官方声明其为研究原型、不是正式产品,运行范围在团队内部;架构里的异步任务机制虽已在 Harness 中实现,但尚未默认开启。中国日报 11 月 3 日援引中国信通院人工智能研究所所长魏凯的判断:Agent 在可靠性、上下文记忆和长程任务上仍需改进,距离大规模应用还有一段距离。把这几条边界放在一起,就不该把 1.6 秒读成「企业上线后能提速四倍」。
给中小企业的三条建议
• 先把业务流程和数据口径固化,再谈多任务自动化。多会话调度只会放大既有流程的混乱,这与做 ERP 实施时先理流程、再上系统是同一个次序。
• 上下文与权限按可见范围分级。客户、财务、ERP 数据只把当次必需的部分放进调用,参考 Inline/Spill 的思路,既控 Token 成本,也控数据泄露面。
• 保留人工验收闸门,先小范围试点。当 AI 并行产出的速度快过验收速度,瓶颈只是换了位置;研究原型和预览版都不宜直接接到正式账套或生产数据。
参考来源:
• DeepSeek 产品部 / Harness 团队,《Super-agent 设计探索:迈向更自主的 Agent 系统》(机器之心 Pro 转载),2026-11-01,https://www.163.com/dy/article/LAM1295N0511AQHO.html
• 微信公众号,《把 AI 从「一个窗口」变成「一个同事」——DeepSeek Super-agent 通俗拆解》(含消融实验数据),2026-11,http://mp.weixin.qq.com/s?__biz=MzU1Nzg4NjMyMw==&mid=2247483979&idx=1&sn=feb64e061186399fe26ae7bdd9321ba4
• GitHub 官方研究原型,dsh-superagent-prototype(MIT,研究原型),2026-10-31,https://github.com/deepseek-ai/dsh-superagent-prototype
• 中国日报 China Daily,《AI agents being given greater autonomy》(引中国信通院魏凯),2026-11-03,https://mobile.chinadaily.com.cn/html5/2026-11/03/content_013_6ae8e964ed503f94b68284ff.htm