11月12日,InfoQ中国发布技术趋势文章指出,上下文膨胀正成为企业级智能体落地的关键瓶颈,单纯扩大上下文窗口无法根治。Snowflake AI Research提出两条相辅相成的优化路径:构建智能上下文管理框架(Harness),并前置注入业务上下文以降低理解成本。
文章指出,每一项工具定义、每一次查询结果、每一轮对话都会增加Agent需要处理的上下文。在持续时间较长的调查任务中,这些开销不断累积,即使早期步骤的信息已不再相关,Agent仍可能在后续每一轮交互中反复携带。这不仅增加token消耗,还会稀释模型注意力,使Agent更难聚焦真正重要的信息。Snowflake认为,这并非单纯的规模问题,而是信息治理问题。
在Harness层面,Snowflake CoCo的框架负责管理工具发现方式、独立操作的执行方式以及工具结果进入上下文的方式。三项关键技术发挥作用:一是按任务需要动态发现相关工具,避免在初始上下文加载全部工具定义;二是将相互独立的工具调用合并为一次统一调度,减少不必要的交互轮次,同时保留依赖操作的执行顺序;三是对大规模工具输出进行压缩与管理,避免模型在后续轮次反复处理全部数据。
另一条路径是提前为Agent提供业务上下文,减少其自行探索和理解业务信息的成本。文章以数据管道夜间故障排查为例:Agent需查询Snowflake、搜索Slack、查找Jira记录并检查代码,业务上下文预置可显著减少探索性交互轮次。该内容适合AI平台工程师、LLM应用架构师及企业级Agent系统开发者参考。