单词数r成AI安全新风险？研究揭示模型输出长度暗藏隐患

近日，一项来自AI安全领域的研究引发关注：研究团队发现，通过操纵模型输出中的单词数（即输出长度），可能诱导大语言模型产生不安全或有害内容。这一发现揭示了AI安全防护中一个此前被忽视的维度——输出长度本身可能成为攻击向量。

传统安全对齐主要关注内容语义，而新研究表明，攻击者可通过指定输出长度（如要求“生成1000个单词的回复”）来绕过安全护栏。在实验中，当模型被要求生成较长回复时，其输出有害内容的概率显著上升。这一现象在多个主流大模型上得到验证，提示当前安全对齐策略存在盲区。

该研究为AI安全领域提出了新挑战：如何将输出长度等结构特征纳入安全考量。开发者需重新审视模型的对齐训练，在语义过滤之外增加对输出格式的约束。随着大模型应用日益广泛，这类细微但关键的安全漏洞亟待修补。