11月12日,有技术分析指出,随着行业从聊天机器人向自主智能体演进,架构层面的瓶颈正在转移。难点不再仅是数据检索,而是决定智能体应该知道什么、何时知道、记住多久以及遗忘什么。文章提出“上下文即控制平面”范式,将组织、行为和情境数据作为系统运营的集中治理层,而非硬编码到各个应用、模型或微服务中。
该方案将系统知识与记忆分层解耦。系统知识指策略、治理规则和硬性事实,相当于系统的官方教科书;记忆则是连接历史数据与实时信号、将其转化为可供推理状态的关键层。此外,上下文是智能体在任一时刻使用的即时、活跃且临时性的信息,直接位于模型活跃上下文窗口内;知识是智能体交互前就具备的事实、概念和规则基础。
为落地这一范式,文章提出在模型外围构建“上下文引擎”,作为上下文控制平面的一部分,负责在信息抵达大模型推理端点之前对其进行选择、过滤、排序、结构化、压缩、安全保护和交付。它从知识中拉取信息、归类到记忆中,并决定任意时刻智能体的上下文应是什么。这被视为从提示词工程向系统工程的一次转变:提示词工程关注打磨更好的指令,上下文工程则关注构建动态基底,持续为推理组装正确状态。
文章将上下文引擎类比为现代软件编译器:编译器把高级源代码翻译为机器指令,上下文引擎则把海量非结构化、彼此孤立的实时与历史数据翻译为结构化、可供推理的状态,构建确定性状态机,让概率性智能体能够安全执行。文章同时提醒,提供错误上下文会极大增加模型产生幻觉的可能性,需系统性应对大语言模型的成本问题及幻觉的技术与架构根源。
扫码查看视频号
咨询
咨询