人工智能生成合成内容必须添加标识
创始人
2025-03-17 09:40:24
0

□新华社记者 王思北

近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》。办法聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,将于2025年9月1日起施行。

近年来,生成式人工智能、深度合成等新技术快速发展,为生成合成文本、图片、音频、视频等信息提供了便利工具。

“然而,人工智能生成合成内容日益逼真,也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险,并削弱着公众对网络传播内容的信任根基。”中国工程院院士、浙江大学教授陈纯认为,面对人工智能安全治理这一世界性难题,四部门适时出台《人工智能生成合成内容标识办法》,配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》也同时发布,成为保障人工智能时代网络生态安全有序的关键手段。

国家网信办有关负责人表示,办法重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。

——针对服务提供者,办法明确应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,在提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识;应当在生成合成内容的文件元数据中添加隐式标识。

——针对互联网应用程序分发平台,办法提出在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务,并核验其生成合成内容标识相关材料。

——针对用户,办法要求使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。

此外,任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

“此前出台的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》提出了标识有关要求,办法进一步细化了标识的具体实施规范。”北京航空航天大学法学院副教授赵精武认为,办法明确了生成合成内容制作传播各主体的责任义务,用户能够清晰识别人工智能生成的内容,减轻人工智能生成合成技术滥用危害,防范利用生成合成内容传播虚假信息、实施电信诈骗等风险行为。

良法善治,重在实施。专家认为,办法的落地需要各方协同配合,推动标识工作行稳致远。

相关内容

热门资讯

港理大大亚湾技术创新研究院人工... 中新网惠州7月1日电 (孙秋霞 王强)香港理工大学大亚湾技术创新研究院(简称“大亚湾研究院”)人工智...
河南具身智能加速“跑起来” 头戴棒球帽、脚蹬运动鞋,上下台阶步伐稳健,平地行走更是轻松自如——这可不是马拉松爱好者,而是中豫具身...
如何部署本地大模型?分享这款实... 如何部署本地大模型?在数据隐私保护需求激增的当下,本地化部署大模型已成为企业与个人用户的首选方案。D...
“2025长三角(昆山)具身智... 三大赛道竞逐新质生产力,打造千亿级产业集群! 6月28日,2025长三角(昆山)具身智能场景应用大赛...
长川科技获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示长川科技(300604)新获得一项实用新型专利授权,专利名为“...
何小鹏催雷军早点交付YU7丨新... 21世纪经济报道新质生产力研究院综合报道 早上好,新的一天又开始了。在过去的24小时内,科技行业发生...
四川新规:促重大科研设施与仪器... 近日,四川省科学技术厅正式发布了《四川省重大科研基础设施和大型科研仪器开放共享管理办法》,该办法旨在...
鸿远电子获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示鸿远电子(603267)新获得一项实用新型专利授权,专利名为“...
土壤水分快速测定仪:解锁高效测... 在农业生产、科研实验以及生态监测等领域,对土壤水分数据的获取效率和准确性都有着极高要求。土壤水分快速...
权威发布!亚信科技跻身中国“大... 为推动“AI+”行动落地,助力百行千业将大模型能力真正落实到业务场景中,6月26日,中国信通院、中国...