MLIR(Multi-Level Intermediate Representation)编译器框架近日迎来重要更新,新增对动态形状(Dynamic Shapes)的原生支持。这一特性使得AI模型在推理和训练过程中能够更高效地处理可变大小的输入数据,无需预先固定张量维度。MLIR团队表示,动态形状支持在保持代码生成质量的同时,显著提升了模型执行的灵活性和性能。
动态形状是AI计算中的常见需求,尤其在自然语言处理和推荐系统等领域。传统编译器通常要求静态形状定义,导致对变长输入需要额外的填充或循环处理,增加计算开销。MLIR通过引入新的类型系统和优化传递,实现了对动态形状的一流支持,能够自动生成针对动态边界的优化代码。初步测试显示,在BERT等Transformer模型上,动态形状支持可带来最高30%的推理加速。
该更新已合并至MLIR主分支,开发者可通过升级LLVM工具链获取。MLIR作为LLVM生态中的关键组件,正逐步成为AI硬件和框架的通用编译基础设施。这一改进有望进一步推动AI模型的部署效率,降低对固定输入尺寸的依赖。