马斯克旗下xAI公司宣布开源其3140亿参数的大语言模型Grok-1,采用混合专家(MoE)架构。该模型在多项基准测试中表现优于Meta的Llama 2,标志着开源大模型领域的重要里程碑。
Grok-1的参数量远超GPT-3(1750亿),通过8个专家模块实现高效推理。xAI表示,开源旨在促进AI研究透明度与协作。开发者可通过GitHub获取模型权重与代码。
马斯克旗下xAI公司宣布开源其3140亿参数的大语言模型Grok-1,采用混合专家(MoE)架构。该模型在多项基准测试中表现优于Meta的Llama 2,标志着开源大模型领域的重要里程碑。
Grok-1的参数量远超GPT-3(1750亿),通过8个专家模块实现高效推理。xAI表示,开源旨在促进AI研究透明度与协作。开发者可通过GitHub获取模型权重与代码。