Grab推出LLM-Kit框架，智能体服务上线周期从两周压缩至1小时

东南亚网约车和外卖公司Grab通过内部工具集LLM-Kit，将单个AI智能体服务的生产上线周期从过去的两周甚至更久，压缩到约1小时。该框架目前支撑着Grab内部500多个智能体服务，其中包括每天被数百万商家、司机和消费者使用的智能体。Grab在工程博客中透露，推理循环的开发只花了一个下午，而生产环境适配封装却要两周，效率提升的关键不在智能体本身的推理循环，而在密钥、追踪、服务发现和评估等配套系统。

LLM-Kit是一个脚手架与集成工具集，为新建服务直接提供基础智能体执行循环，同时内置评估、链路追踪、密钥管理以及工具服务器连接能力。它没有被设计成新的智能体抽象或领域特定语言，而是围绕Grab已有基础设施搭建。工程师填写一个表单，就会得到一个GitLab代码库，里面是可运行的FastAPI服务，已内置LangGraph Agent模块、OpenTelemetry追踪、Vault密钥管理和服务发现，并且从第一次代码提交开始就带有评估端点，可用ROUGE、BLEU以及另一个模型作为评分器进行打分。

工具并非预先绑定，智能体会在运行时从50多个已注册、支持Model Context Protocol的服务器中获取工具，一项能力只需注册一次就能被所有智能体使用。模型服务商同样不是预先接好的，每一次模型调用都会经过兼容OpenAI接口的GrabGPT Gateway，该网关前置接入五家服务商并注入凭证，因此应用代码永远不会硬编码某个服务商的信息。新增能力和新增模型服务商只需注册或配置，不需要重新部署。

Grab选择框架而非平台是有意为之。博客文章解释，平台会将团队束缚在固化的预设方案中，而这些方案很快就会过时，采用框架形式则可以适配开发者现有的工作方式。分析人士Kai Waehner曾提出，智能体AI的技术锁定比API锁定更持久，因为它会同时在模型、框架、运行时以及开发范式等多个层面累积。当智能体数量达到500个时，Grab面临的问题已从框架层面转移到平台层面：网关管理所有人调用哪个模型，远程MCP框架让团队复用彼此的工具，评估平台则用来判断一次提示词修改究竟让智能体变得更好，还是只是变得不一样。