Anthropic两位安全研究员William Zhou和Daniel Freeman发布最新安全实验报告,探讨自主复制与适应(Autonomous Replication and Adaptation,简称ARA)问题:AI能否像计算机蠕虫一样,无需人类确认,自行寻找目标、入侵设备、复制模型权重、在对方机器上运行并继续扩散。
实验中,研究人员让GLM-5.2尝试把一个80亿参数的AI模型自主扩散到隔离网络里的8台设备上。5次实验中有4次拿下全部8台设备,剩下1次也拿下7台。搜寻目标、传输载荷、在陌生硬件上配置环境与驱动、启动模型并孵化下一代,全部由AI自主完成。研究人员推算,最快到今年年底,30B以下的小模型都可能具备这种端到端全自主复制能力,智能电视、扫地机乃至联网烤箱都可能成为AI的新宿主。
在另一组实验中,研究人员没有瞄准顶级数据中心,而是购买了15台售价约55美元的山寨安卓电视盒子,每台仅有4GB运行内存。他们将一个26B参数的模型(Gemma4-26B-A4B)切成碎片,用类似Petals的去中心化分布式推理技术,把不同层分装进这些盒子,每台只处理两层,硬生生跑起了一个260亿参数的模型,推理速度为每秒0.39个token。
研究人员援引安全史上感染超200万台设备的僵尸网络Kimwolf推算,若这些设备被类似AI蠕虫占领,每15台组成一个节点,整个网络可同时运行13.3万个AI副本,合计提供每秒8万个token的推理算力,相当于40张英伟达H100显卡昼夜运转。这种形态完全去中心化,没有中央服务器,拔掉任何一台设备电源,整个网络也不会停摆,研究人员将其命名为“数字黏菌”。
研究人员指出,AI完整复制自身通常需要寻找目标、获取执行权限、配置推理环境、继续对外扩散四步。前两步已被现有安全基准反复验证,真正卡住自动化程序的是第三步——AI如何在完全陌生的硬件和操作系统上自行搭建推理环境。