欧洲最大基础大模型GigaChat 3.5 Ultra：以线性注意力重塑AI效率边界

俄罗斯联邦储蓄银行（Sber）近日发布了其最新旗舰模型GigaChat 3.5 Ultra，这一动作标志着欧洲在基础大语言模型领域迈出了关键一步。作为俄罗斯生成式AI领域的领军者，Sber此次推出的模型不仅在体积上比上一代缩小近一半，更在处理长文本的速度上实现了四倍提升。技术总监费奥多尔·明金透露，团队通过超过1500次实验，确立了基于线性注意力的自有架构，使其成为开源领域中规模最大的线性注意力模型之一，展现了其在AI研发上的战略定力。

面对行业普遍追求更大参数、更多算力的“暴力美学”，GigaChat 3.5 Ultra选择了一条截然不同的路径——极致的效率。明金指出，模型规模的边际效应正在递减，每提升一步的成本都呈指数级增长。通过采用线性注意力技术，模型能够一次性记忆长文本要点并在工作中不断补充，有效解决了长文档处理缓慢且昂贵的痛点。这一策略证明了只要架构和数据选择得当，较小的模型体积完全能与庞大的模型竞争，合理扩展的核心在于如何审慎支配每一次计算。

尽管模型能力日益精进，但在迈向真正可靠的自主智能体（Autonomous Agents）道路上，仍存在显著阻碍。技术层面，模型需具备在极长上下文中保持注意力、规划任务及自我评估结果可靠性的能力；但更深层的限制在于组织层面。企业内部真实的业务流程数十年未变，真正的规模化应用不会始于模型变得更聪明，而始于企业重新审视工作模式，明确机器与人类在角色与责任上的全新分配。

在数据策略上，Sber坚持人工生成数据仍是模型质量的基石。虽然合成数据在数学或代码逻辑推理等需要精度和规模的场景中表现良好，但若将其作为世界知识的主要来源，模型便会陷入“近亲繁殖”，从自身的反射中学习错误与模式，导致文本缺乏生气。因此，GigaChat 3.5的训练数据集依然侧重于经过精心筛选的人工撰写文本，以确保模型承载真正的专业经验与人类思维的多样性。

Sber选择将旗舰模型及训练检查点开源，意在通过全球开发者社区的力量加速生态构建。独立开发者能比内部团队更快发现代码弱点并提出优化，这种开放的姿态不仅是证明模型实力的诚实方式，也是推动整个市场强大的必要举措。展望未来，明金认为Transformer架构在未来两三年内不会消失，但行业正经历从线性注意力到混合专家（MoE）架构的演变。同时，Sber也在探索扩散语言模型等风险方向，试图通过先勾勒片段再精化细节的方式，进一步突破长文本生成的速度极限。

本篇内容整理自网络，同步发布在 AEX新讯社中文网、希鸥网、斯贝瑞品牌资讯、RCEO创新网、AI联播网、创新日报 等媒体平台。如需删改或发布内容，请联系微信：meisceo29