防范虚假信息！今起AI生成合成内容必须添加标识丨科技观察

封面新闻记者 边雪

当下AI的应用愈发广泛，生成式AI创建的内容高度逼真，普通人越来越难准确区分内容真假，伪造、扭曲现实、造谣等也越来越容易，有防不胜防的趋势。有图有视频，目前也不一定有真相。

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起正式施行。

《标识办法》的出台，标志着我国在人工智能治理领域迈出关键一步，旨在规范AI生成合成内容的标识与管理，保护公民、法人及其他组织的合法权益，维护社会公共利益，推动人工智能产业健康有序发展。

近年来，生成式人工智能、深度合成等技术迅猛发展，为文本、图像、音频、视频等内容的生成和编辑提供了强大工具。这些技术广泛应用于新闻传播、文化娱乐、商业推广等领域，显著提升了信息生产效率，丰富了网络生态，为经济发展和公众生活带来诸多便利。

然而，技术的滥用也带来了一系列问题。深度伪造、虚假新闻、网络诈骗等现象频发，严重扰乱网络秩序，侵害个人权益，甚至威胁国家安全和社会稳定。

8月30日，女子台球运动员王思诺发布视频，称自己遭人恶意利用AI技术伪造淫秽视频并传播。王思诺郑重声明，所有此类内容均为非法伪造，并已委托律师保全证据启动法律程序。

同日，台球女裁判王钟瑶也发布视频力挺王思诺，并透露自己几年前就曾遭遇类似经历，当时选择报警但未公开回应。王钟瑶表示：“沉默是对犯罪的纵容”，她呼吁所有受害者站出来维护自身权益。

中国—东盟法学院常务副院长陈星教授分析，现行法律在应对网络“造黄谣”时存在明显滞后。社会各界对加强AI生成内容监管、压实平台责任、推进专门立法的呼声日益高涨。以制度创新应对技术挑战，《标识办法》的执行迫在眉睫。

封面新闻记者注意到，《标识办法》核心内容之一是明确了人工智能生成合成内容的标识方式，主要包括“显式标识”和“隐式标识”两种形式。

显式标识要求服务提供者在生成合成内容或交互界面中，以文字、声音、图形等可被用户明显感知的方式添加标识，例如在水印、标签或语音提示中注明“由AI生成”。

隐式标识则通过技术手段在内容文件的数据元信息中嵌入标识信息，这类标识虽不易被普通用户察觉，但可用于内容溯源和平台监管。

此外，《标识办法》进一步细化并衔接了《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》等现有规章中的标识要求，强化了制度协同性。

中国科学院科技战略咨询研究院研究员肖尤丹在接受采访时指出，《标识办法》制度的优势主要体现在，过往对于生成式人工智能的监管需要按照每个个案判断，这对平台来说监管识别难度非常大。“该办法出台后，平台方也可以追溯到服务提供者，明确其是否履行了标识义务。”

《标识办法》对服务提供者提出了明确要求。属于《互联网信息服务深度合成管理规定》第十七条第一款情形的服务提供者，须对生成合成内容添加显式标识；同时，应按照该规定第十六条，在文件元数据中嵌入隐式标识。提供内容传播服务的平台则需采取技术措施，规范AI生成内容的传播行为，防止虚假和有害信息扩散。

《标识办法》还严禁任何组织或个人恶意删除、篡改、伪造、隐匿标识，或为此类行为提供工具和服务，不得通过不正当标识手段损害他人权益。这一规定为打击技术滥用行为提供了法律依据。

为确保《标识办法》有效实施，多项配套技术标准与实践指南同步推出。强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》已由国家市场监督管理总局、国家标准化管理委员会批准发布，于2025年9月1日与《标识办法》同步实施。

“通过法律合规分析可以看出，该办法与《网络安全法》等上位法及相关部门规章紧密衔接，构建了明确的标识义务体系和执法框架。”上海锦天城（重庆）律师事务所高级合伙人李章虎律师认为，对于企业来说，尽早部署显式和隐式标识措施、完善合规管理流程，是响应法规的必然选择；个人层面则多了一道权益保障屏障，可更有效地防范AI内容侵权和虚假信息；从行业观察，标识新规将引导市场更加健康竞争，催生技术创新与服务升级；在技术实现上，虽然存在挑战，但配套标准和指南为合规落地提供了方向。

全国网络安全标准化技术委员会也发布了《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》，为服务提供者开展元数据隐式标识提供了具体编码指引。未来，该委员会还将逐步推出针对不同文件格式元数据标识规范和应用场景标识方法的推荐性标准与实践指南，形成多层次、全覆盖的技术标准体系。

《标识办法》的出台是我国人工智能治理体系现代化建设的重要里程碑。它以内容标识为切入点，通过技术手段实现生成合成内容的可识别、可追溯、可监管，为构建开放、公正、有效的治理机制奠定了基础。

部分专家认为，这一规定不仅有助于遏制虚假信息传播、保护用户权益，还能提升公众对AI技术的信任度，为人工智能产业的创新与发展营造健康环境。同时，它体现了我国在科技治理中平衡创新发展与规范管理的理念，为全球人工智能治理提供了“中国方案”。

随着人工智能技术不断融入日常生活，对其生成内容进行规范管理已成为国际共识。《标识办法》的施行，将推动我国人工智能治理进入法治化、标准化新阶段。

“用户在使用AI技术介入的软件或互联网产品时，一方面应当注意勿恶意利用AI技术进行不法行为，另一方面也应注意识别、核对交流方的真实身份，切勿轻信表象，在需要转账或花销采购时谨慎考虑。”泰和泰律师事务所律师刘青告诉封面新闻记者，若民众遭遇诈骗应当第一时间报警寻求警方的帮助，注意保留相关材料以供警方尽快掌握案情，严惩犯罪分子。“此外，一旦发现自己的肖像被盗用或者‘被换脸’，我们应当第一时间保留证据，以便后续维权；同时还可以向网络平台运营商提出投诉，要求强制下架侵权图片或视频；最后，也可以提起人格权诉讼，用法律武器维护自己的合法权益。”