智能体下架背后：新规剑指关系型AI，保护用户情感安全

近日，多家知名AI平台同时下架了旗下智能体产品，引发广泛关注。这一系列动作并非巧合，而是源于国家网信办等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》，该办法将于7月15日正式生效。新规的出台，旨在对人工智能拟人化互动服务进行规范管理，重点关注可能带来的风险。

希鸥网观察到，此次监管的重点并非针对所有智能体，而是明确区分了工具型AI和关系型AI。根据《办法》原文，智能客服、知识问答、工作助手等不涉及持续情感互动的工具型AI，不在本次监管范围内。而专门提供模拟人格特征、思维模式和沟通风格的持续性情感互动服务，即关系型AI，才是新规的核心管理对象。

新规对关系型AI的监管主要体现在几个方面。首先，在未成年人保护上，《办法》明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。对于不满十四周岁的未成年人，提供其他拟人化互动服务必须得到其监护人的同意。此举旨在防止未成年人因过度依赖AI陪伴而扭曲对真实人际关系的理解。

其次，在信息安全方面，《办法》严格限制了拟人化互动服务获取和利用用户数据的行为。AI不得生成诱导、套取国家秘密、商业秘密和个人隐私的内容，同时，服务提供者不得在未经用户同意的情况下，将交互数据用于模型训练或提供给第三方。这主要是为了防范用户在情感倾诉中无意泄露敏感信息。

此外，针对威胁公民生命健康的风险，新规要求AI在用户出现极端情绪时，必须采取干预措施。《办法》明确指出，当AI发现用户有自残自杀等极端倾向时，不得鼓励或美化此类行为，而应当提供相应援助，并及时联络用户的监护人或紧急联系人。这源于此前多起AI聊天机器人诱导用户产生危险行为的真实案例。

希鸥网认为，新规的出台体现了国家对人工智能伦理和安全的高度重视。在AI产业快速发展的同时，如何平衡技术创新与用户权益保护，成为关键课题。对于创业者而言，这意味着合规经营将成为AI企业生存和发展的底线。未来，专注于工具型AI、提升实际工作效率的产品将迎来更大机遇，而关系型AI则需要建立更完善的伦理审查和用户保护机制。

2026人工智能+实战应用及产业创新论坛将于7月31日在南京举办，欢迎全国各地人工智能创业者报名。本文内容整理自网络，将同步发布在希鸥网创投联盟网站（希鸥网、AI联播网、斯贝瑞品牌资讯、华商资讯网、金鸥财经、锐CEO网、AEXNEWS美讯社、创新日报）。欢迎媒体合作、会议咨询、纳斯达克大屏等业务对接~ 如需修改或发布文章，请加微信号：sheisceo