阿里云通义千问团队正式发布Qwen2.5-Turbo模型,将上下文长度扩展至128K tokens,并实现4.3倍推理速度提升。该模型基于Qwen2.5-32B-Instruct,通过稀疏注意力机制和窗口注意力优化,在长文本任务中保持高精度,同时显著降低显存占用。
在RULER长文本评测中,Qwen2.5-Turbo在128K长度下取得93.1分,超越GPT-4和Claude 3.5 Sonnet。此外,模型支持100万tokens上下文处理,未来将开源。阿里云表示,该技术将推动大模型在文档分析、代码生成等场景的落地。