AI正从工具演进为具备自主规划与执行能力的软件系统,工程重心随之转向构建稳定、可信、可控的AI Native架构。在这一背景下,2026年QCon全球软件开发大会·上海站正式启动,将于10月22日至24日举办,聚焦Harness AI时代的工程实践,围绕AI Native架构、Agent Runtime、AI Infra、Agent安全与可观测、端云协同等前沿方向展开分享。
快手电商B端商家前端负责人李东东已确认出席“端云协同与AI Native终端生态”专题,发表题为《端侧优先,云端兜底:端云协同调度在B端应用的工程实践》的主题分享。他指出,B端应用接入AI能力后面临一个核心矛盾:纯云端推理延迟高、成本贵、数据出域合规风险大;纯端侧推理又受限于设备算力,无法处理复杂任务。
为此,团队构建了一套端云协同调度系统,核心是三层决策机制:规则引擎短路、端侧推理、云端推理,并支持混合流水线。调度器实时评估任务复杂度、端侧模型就绪状态、设备性能与网络质量,动态决策执行路径,云端失败时自动降级。目前系统已在B端桌面端完成集成,规则引擎可覆盖60%以上高频场景,端侧推理延迟稳定在100ms以内。
李东东2021年加入快手,主导商家前端团队,长期专注端智能在B端场景的工程落地,主导了端侧推理引擎选型、端云协同调度器设计、A2UI智能界面生成等实践,推动商家桌面端从纯云端AI向端云协同架构演进,并在端智能方向持有多项发明专利。本次演讲将分享调度器设计思路、端侧模型选型、混合流水线的工程实现,以及“端侧优先”原则下的取舍与踩坑。