Anthropic提出了一项AI安全法案，其设定是：如果某款AI模型可能导致50人以上死亡，就应允许对其发布进行阻止。从表面看，该政策似乎为防范AI失控提供了保护，但实际条款规定，联邦机构在没有法官许可的情况下不得阻止模型发布。

这一设计意味着，即便模型触及上述风险门槛，监管机构仍需获得司法批准才能采取阻止行动，从而在安全审查与发布自由之间引入司法程序作为前置条件。该提案的具体适用范围、风险认定方式以及50人门槛的计算口径，目前尚待进一步明确。