36氪获悉，百度今日发布语义理解框架ERNIE 2.0，及基于此框架的ERNIE 2.0预训练模型。据百度方面介绍，该框架支持增量引入词汇、语法、语义等3个层次的自定义预训练任务，能够捕捉训练语料中的词法、语法、语义等潜在信息。目前，百度ERNIE 2.0的Fine-tuning代码和英文预训练模型已开源。