微软近日发布了Phi-3系列小型语言模型,包括Phi-3-mini、Phi-3-small和Phi-3-medium三个版本。其中,Phi-3-mini参数规模为38亿,但在多项基准测试中表现优异,性能可与GPT-3.5等大型模型相媲美。该模型采用Transformer架构,经过3.3万亿个token的训练,并针对移动设备进行了优化,可在手机端运行。
Phi-3系列模型在推理、数学和编程任务上展现出强大能力,尤其在代码生成和数学问题解决方面表现出色。微软表示,Phi-3-mini在MMLU、HellaSwag等测试中超越同等规模模型,甚至在某些任务上接近GPT-3.5。这一突破意味着小型模型在特定场景下可替代大型模型,降低部署成本。
目前,Phi-3-mini已在Azure AI模型目录中提供,并支持Hugging Face下载。微软还计划推出多模态版本,以扩展应用场景。业界认为,Phi-3系列将推动边缘AI和移动设备上的智能应用发展。