网信办等四部门印发《人工智能生成合成内容标识办法》，9 月起施行

GoodNav 3 月 14 日消息，为了推动人工智能的健康发展，规范人工智能生成内容的标识，保护公民、法人及其他组织的合法权益，并维护社会公共利益，国家互联网信息办公室联同工业和信息化部、公安部、国家广播电视总局共同制定了《人工智能生成内容标识办法》（简称《标识办法》），将于 2025 年 9 月 1 日实施。

近年来，生成式人工智能、深度合成等新技术高速发展，为生成合成文本、图片、音频、视频等信息提供了便利工具。这些技术在推动经济发展、丰富网络内容、便利公众生活的同时，也引发了虚假信息扩散和网络生态破坏等问题。社会各界呼吁加强立法、强化技术监管及平台责任的落实。对此，国家互联网信息办公室与工业和信息化部、公安部、国家广播电视总局联合制定了《标识办法》。该办法以内容标识为重点，细化相关部门的规章要求，增强内容标识的提醒与监督作用，致力于建立开放、公正、有效的治理机制，营造公平有序的发展环境，推动人工智能产业的健康发展。

《标识办法》指出，人工智能生成内容的标识分为显式标识和隐式标识两种形式。显式标识是在生成内容或交互场景中明显呈现的标识，用户可以通过文字、声音或图形等方式识别；隐式标识是在生成内容的文件数据中加入的，用户不易察觉到的标识。

该办法还要求，按照《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》的相关规定开展人工智能生成内容的标识活动，需符合《标识办法》的相关要求。

根据《标识办法》，服务提供者提供的生成合成服务如果符合《互联网信息服务深度合成管理规定》第十七条第一款的情况，必须对生成合成内容添加显式标识；同时，服务提供者还需按照《互联网信息服务深度合成管理规定》第十六条的要求，在生成合成内容的文件元数据中添加隐式标识；提供网络信息内容传播服务的服务提供者亦需采取技术措施，规范生成合成内容的传播活动。

《标识办法》强调，任何单位或个人不得恶意删除、篡改、伪造或隐匿依据本办法规定的生成合成内容标识，不得为他人实施上述行为提供工具或服务，也不得通过不正当手段损害他人合法权益。

《标识办法》全文如下：

第一条 为促进人工智能的健康发展，规范人工智能生成内容的标识，保护公民、法人及其他组织的合法权益，并维护社会公共利益，依据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规及部门规章，特制定本办法。

第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》相关要求的网络信息服务提供者（以下简称“服务提供者”），在进行人工智能生成内容标识活动时，适用本办法。

第三条 人工智能生成内容是指利用人工智能技术生成或合成的文本、图片、音频、视频、虚拟场景等信息。

该内容的标识分为显式标识和隐式标识。

显式标识是在生成内容或交互场景中使用的，用户可明显察觉的文字、声音或图形等方式的标识。

隐式标识是通过技术手段在生成内容的文件数据中嵌入的，不易被用户察觉的标识。

第四条 对于提供的生成合成服务，若符合《互联网信息服务深度合成管理规定》第十七条第一款，服务提供者应按照要求对生成合成内容添加显式标识：

• （一）在文本的开头、结尾或适当位置添加文字提示或通用符号等标识，或在交互界面及文字周围显著位置添加提示标识；

• （二）在音频的开头、结尾或适当位置添加语音提示或音频节奏提示等标识，或在交互界面中添加显著的提示标识；

• （三）在图片的适当位置添加显著提示标识；

• （四）在视频的起始画面和播放周围适当位置添加显著提示标识，且可以在视频末尾和中间的适当位置添加显著提示标识；

• （五）在呈现虚拟场景时，在起始画面和持续服务过程中的适当位置添加显著提示标识；

• （六）其他生成合成服务场景可根据自身特点添加显著提示标识。

若服务提供者提供生成合成内容的下载、复制、导出等功能，应确保文件中加入符合要求的显式标识。

第五条 服务提供者应依照《互联网信息服务深度合成管理规定》第十六条的要求，在生成合成内容的文件元数据中添加隐式标识，包括生成合成内容的属性信息、服务提供者名称或编码、内容编号等制作要素信息。

鼓励服务提供者在生成合成内容中增加数字水印等形式的隐式标识。

文件元数据是指嵌入到文件头部的描述性信息，用于记录文件的来源、属性、用途等信息。

第六条 提供网络信息内容传播的服务提供者应采取下列措施以规范生成合成内容的传播活动：

• （一）核查文件元数据中是否包含隐式标识，若明确为生成合成内容，应适当方式在发布内容周围添加显著的提示标识，提醒公众该内容属于生成合成内容；

• （二）若未核查到隐式标识，但用户称该内容为生成合成内容，适当方式在发布内容周围再添加显著的提示标识，提醒公众该内容可能为生成合成内容；

• （三）若未核查到隐式标识，且用户也未声明为生成合成内容，但服务提供者检测到显式标识或其他生成合成痕迹，则将其识别为疑似生成合成内容，并以适当方式在发布内容周围添加显著提示标识，提醒公众该内容可能为生成合成内容；

• （四）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。

如遇前款第一项至第三项的情况，应在文件元数据中添加生成合成内容的属性信息、传播平台名称或编码、内容编号等传播要素信息。

第七条 互联网应用程序分发平台在审核应用程序上架时，应要求应用程序服务提供者说明是否提供人工智能生成合成服务。若其提供该服务，分发平台应核实其生成合成内容标识的相关材料。

第八条 服务提供者需在用户服务协议中明确标示生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

第九条 用户申请服务提供者提供未添加显式标识的生成合成内容时，服务提供者可在明确用户的标识义务和使用责任后，提供不含明确标识的内容，同时需依法保存提供对象信息等相关日志至少六个月。

第十条 用户使用网络信息传播服务发布生成合成内容时，应主动声明并使用服务提供者提供的标识功能进行标识。

任何单位或个人不得恶意删除、篡改、伪造或隐匿依据本办法的生成合成内容标识，不得为他人实施上述行为提供工具或服务，亦不得通过不正当的方式损害他人合法权益。

第十一条 服务提供者在开展标识活动时，亦须符合相关法律、行政法规、部门规章以及强制性国家标准的要求。

第十二条 服务提供者在履行算法备案、安全评估等手续时，应按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，以支持并帮助防范和打击相关违法犯罪活动。

第十三条 违反本办法的，由网信、电信、公安和广播电视等主管部门依据职责，依照相关法律、行政法规及部门规章的规定予以处理。

第十四条 本办法自 2025 年 9 月 1 日起实施。