快讯
“技术标准+管理制度”规范人工智能发展
发布时间 2025-03-17 09:42 转载 阅读 57150次

近日,国家网信办联合多部门发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自9月1日起施行。

  生成式人工智能、深度合成等新技术快速发展,为生成合成文本、图片、音视频等提供了便利工具,在促进经济发展、丰富网上内容、便利公众生活的同时,也造成虚假信息传播、破坏网络生态等问题。

  国家网信办有关负责人表示,《标识办法》聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地。同时,减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。

  探索显隐双标识机制

  “生成合成内容标识已成为国际惯例。”公安部第三研究所副所长金波介绍,欧盟《人工智能法》、美国《编辑和深度伪造内容来源保护完整性法案》、英国《人工智能(监管)法案》等均对水印、标识义务有要求。在我国,2023年1月施行的《互联网信息服务深度合成管理规定》提出针对文本、图像、音频、视频、虚拟场景等信息内容的标识要求,2023年8月施行的《生成式人工智能服务管理暂行办法》承袭相关规定。

  此次《标识办法》明确,人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式。显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识;隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

  《标识办法》要求,服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照要求对生成合成内容添加显式标识;服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识;提供网络信息内容传播服务的服务提供者应当采取技术措施,规范生成合成内容传播活动。

  “我国迄今已备案生成式人工智能产品300余款,生成合成服务3000余个,有力推动了人工智能行业的快速发展。”国家计算机网络应急技术处理协调中心正高级工程师张震表示,《标识办法》是对我国人工智能算法治理体系的进一步完善。

  实现全链条治理

  《标识办法》明确,互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求服务提供者说明是否提供人工智能生成合成服务。

  对此,张震谈到,《标识办法》明确了文本、图像、音频、视频等多模态的标识要求,将安全治理深入到内容模态层面,并创新性地将传播平台纳入监管范畴,实现从生成到传播的全链条治理。

  值得注意的是,配套《标识办法》,强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识标准》)将于9月1日同步实施,以更好指导相关主体规范开展标识活动。

  “这开创了技术标准与管理制度配合实施的新型治理模式,标志着我国人工智能安全治理迈入‘技管双强’的新阶段。”中国电子技术标准化研究院副院长范科峰认为,二者协同发布,破解了以往治理中管理规范与技术标准衔接不畅的问题。

  在他看来,作为我国人工智能领域首部“办法+强标”组合拳,其在管理维度明确生成、传播、分发全链条主体责任,在监管维度建立审核、监测、追责的闭环机制,在技术维度规范显隐标识体系并预留创新空间,这种三位一体的治理架构为人工智能安全治理提供了清晰的实施路径。(记者 崔 爽)

【责任编辑:朱家齐】
银河系三维尘埃“滤镜图”绘制完成 [原文链接]
“技术标准+管理制度”规范人工智能发展[原文链接]
科企竞逐新技术以防AI“越狱”[原文链接]
“高阶智驾”成车企竞争新焦点[原文链接]
从“新奇玩具”到“实用好物”:智能机器人成为中国消费市场新热点[原文链接]
每周精选查看更多 >
美国副总统《乡下人的悲歌》:我们最大的敌人是自欺欺人
美国副总统《乡下人的悲歌》:我们最大的敌人是自欺欺人
《乡下人的悲歌》是J.D.万斯通过个人成长经历对当代美国工人阶级白人群体困境的深刻反思。这部作品的核心并非仅仅讲述一个“逆袭”故事,而是以自传为框架,剖析一个群体在现代化进程中遭遇的文化断裂、经济衰败与精神迷... [详细]
希鸥网观点:创业公司团队如何管理更有效率?
希鸥网观点:创业公司团队如何管理更有效率?
当团队中出现冲突或挑战时,积极介入并提供协助和支持。促进团队成员之间的沟通和解决问题的能力,以保持团队的凝聚力和效率。 [详细]
想升职加薪?拿着超4亿年薪的CEO给了20条建议
想升职加薪?拿着超4亿年薪的CEO给了20条建议
我们熟知的“迪士尼”,全称是华特迪士尼公司(英文简称:DISNEY),作为一家市值超过2万亿人民币(3103亿美金)的大型企业,迪士尼最为国人所熟悉的是其位于上海的迪士尼乐园和电影屏幕上的公主系列大电影,但这些只是迪士尼公司的一... [详细]
如果最近你创业不顺,不妨读一读段永平这100句话
如果最近你创业不顺,不妨读一读段永平这100句话
上市后,拼多多市值一度超过京东,在所有中国互联网企业中排名第四。因此,其“80后”CEO黄峥也被人们戏称为“杭州80后新首富”、“抛弃你的同龄人。... [详细]
希鸥网李志磊:创业5年认识的六个创业真相
希鸥网李志磊:创业5年认识的六个创业真相
2013年7月,大学毕业一周年,遭遇简短创业带来的失败以及工作不顺利,我进入了人生低谷,此后一个月,每天花20块钱买10注双色球,希望可以一夜暴富。一个月后终于中了五块钱,我意识到,翻身不能靠运气,还是要要靠自己的努力... [详细]