MirroS团队发布AgentGarten,将可执行的代码环境与实时神经渲染器连接起来:代码定义物理规则,模型生成视觉反馈,以超过30 fps的吞吐让智能体持续与世界交互,从而获得一个可以反复行动、试错并积累经验的“试炼场”。
团队指出,让AI理解物理世界不能只靠观看海量视频,智能体必须亲自采取行动、观察结果,再决定下一步,这需要具备物理因果确定性的环境。当前两条主流路径各有局限:传统代码或游戏引擎环境状态精准、规则透明,但程序化场景往往只有粗糙几何白模和重复贴图,逼真场景的美术建模投入巨大;以视频生成为核心的世界模型画面精美,但物理信息隐式藏在神经网络中,无法提供可查询、可干预的明确状态。
AgentGarten的解法是让两者各司其职:物理交给代码,光影交给神经模型。智能体给出动作指令后,代码环境立即计算物理碰撞与状态更新,并从第一人称相机视角导出轻量几何草图(空间深度或表面法线);神经渲染器读取草图并结合此前视觉记忆,实时渲染出拟真的下一帧画面。场景布局、接触判定与胜负均由代码裁决,不产生“幻觉物理”。
由于渲染器采用流式生成,动作走一步、画面画一段,智能体看清结果后再做下一决策,交互如现实世界般连贯。任何能输出简单三维深度和法线轮廓的极简代码场景都可套用该渲染器,获得写实光影与材质,虚拟环境扩充成本从“美术劳动密集型”转向“代码程序化扩展型”。在经典捉迷藏实验中,躲藏者第4轮学会搬动挡板搭建掩体,搜寻者第10轮掌握借坡道翻墙,一次跳跃失败后还会主动推近坡道调整位置再次尝试;推动策略演化的是智能体每轮复盘写下的“实验手册”。