近年来，人工智能技术快速发展，为生成合成文字、图片、音频、视频等信息提供了便利，但也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题。国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，9月1日起正式施行，“标识办法”明确所有AI生成的文字、图片、视频等内容都要“亮明身份”。
截至目前，我国已有490余款大模型在国家网信办完成备案，240余款大模型在省级网信办完成登记，我国生成式人工智能产品的用户规模已达2.3亿人。
9月1日起，人工智能生成合成内容将打上“电子水印”，重点解决“哪些是人工智能生成的”“谁生成的”“从哪里生成的”等问题。
具体怎么加？
“标识办法”明确，服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识。以文字、声音、图形等方式呈现并可以被用户明显感知到。
在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。
在记录文件来源、属性、用途等信息内容的文件元数据中还应当添加隐式标识，包含属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
如何安全管理？
不仅如此，“标识办法”与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。服务提供者在履行算法备案、安全评估等手续时，相关材料可能涉及标识的技术细节，如水印算法、元数据格式、服务商编码等，这些信息能够帮助执法部门在发现违法内容时快速识别内容来源，追踪到服务提供者或者用户。
任何组织和个人不得恶意删除、篡改、伪造、隐匿标识。推动由生成到传播各环节全流程安全管理。从源头阻断不良内容传播，打造可信赖的人工智能技术。
来源： “中国工信新闻”微信公众号
