OpenAI仅用2名工程师借Codex将核心存储从Python重写为Rust

OpenAI团队明知Python难以支撑未来规模，仍先将核心在线存储平台Habitat做成Python服务，主动接受这笔技术债。其赌注在于：等真正需要还债时，Codex和GPT可能已足够强，能大幅降低系统重写成本。今年第二季度，仅2名工程师借助Codex和GPT-5.5，就将整个Habitat服务从Python重写为Rust。

目前Rust版本已承担95%的生产请求，OpenAI计划在未来几周彻底下线Python版本。新系统CPU效率达到Python版本的6倍、内存效率达15倍，平均延迟和尾延迟也明显下降。这被视为“大模型改变软件工程成本结构”最具体的案例之一，AI正在改变何时偿还技术债这一传统问题。

Habitat是OpenAI几乎所有产品背后的在线存储平台，每秒处理超过7000万次请求，为每周超过10亿用户提供服务，覆盖接近40个地理区域，承载超过500PB数据。OpenAI表示，过去3年其业务规模连续每年增长超过10倍，而Habitat最初只是2023年DevDay发布的一个小型Python库，底层部分操作映射到Azure Cosmos DB。

问题在2025年中开始显现。随着内部产品增多、Habitat逻辑变复杂，把所有逻辑做成客户端库变得难以维护，一次协议或路由变更需协调几十个服务升级客户端。一次多区域数据迁移中，团队先修改路由逻辑并协调数十个服务升级，又增加影子流量验证分片，期间发现Bug再发修复版本，前后耗时数日；最终因其他团队回滚服务，Habitat客户端也退回存在Bug的旧版本，触发了团队此前竭力避免的故障。

这让OpenAI意识到真正的问题在于架构本身。Habitat由此从嵌入几十个服务的Python客户端库被抽出，做成独立服务，逐步成为OpenAI产品访问在线存储能力的统一平台，路由、部署、监控和基础设施升级均可在中央完成。