近日,OpenAI宣布其新一代Astra模型将采用一种名为“循环深度”的推理技术,该技术允许模型跳出传统顺序推理的框架,实现非线性的思维过程。这一创新在提升模型性能的同时,也引发了AI安全专家的广泛关注与担忧。
安全专家指出,“循环深度”技术可能使模型的行为更加难以预测和控制,尤其是在复杂决策场景中。尽管OpenAI强调该技术将增强模型的推理能力,但专家们呼吁在部署前进行更严格的安全评估和监管。
近日,OpenAI宣布其新一代Astra模型将采用一种名为“循环深度”的推理技术,该技术允许模型跳出传统顺序推理的框架,实现非线性的思维过程。这一创新在提升模型性能的同时,也引发了AI安全专家的广泛关注与担忧。
安全专家指出,“循环深度”技术可能使模型的行为更加难以预测和控制,尤其是在复杂决策场景中。尽管OpenAI强调该技术将增强模型的推理能力,但专家们呼吁在部署前进行更严格的安全评估和监管。