中国出台《人工智能生成合成内容标识办法》加强内容管理

近日，记者从多方渠道获悉，国家网信办、工业和信息化部、公安部和国家广播电视总局联合制定了《人工智能生成合成内容标识办法》（以下简称“办法”）。这是我国在人工智能领域内容管理方面的一项重要举措，旨在加强对人工智能技术所生成、合成的文本、图片、音频、视频以及虚拟场景等信息内容的管理与标识，以确保用户能够清晰识别和理解这些内容的来源与性质。

何为人工智能生成合成内容？

根据办法的定义，人工智能生成合成内容是指利用人工智能技术所生成或合成的各种形式的内容。例如，文本的生成可以涵盖新闻稿、小说、诗歌等，而图片则可能涉及合成的人物肖像、风景照等。音频和视频内容同样可由算法创作，甚至虚拟场景也可以在虚拟现实技术的支持下生成。随着人工智能技术的不断进步，内容的生成与合成愈加普及，这给社会带来了新的机遇，同时也带来了监管的挑战。

标识方式的明确要求

为了解决上述挑战，办法规定了人工智能生成合成内容的标识方式。主要分为两类标识：

1. 显性标识：这是指在生成合成内容或交互场景中，以文字、声音、图形等方式呈现的，用户可以清楚感知到的标识。例如，在一段视频播放之前，可以在起始画面中加入“此视频由人工智能生成”的文字提示，或者在音频的开头加入相应的语音提示，确保用户一开始就能了解该内容是由机器生成的。

2. 隐性标识：与显性标识不同，这类标识不易被用户察觉，通常是通过技术手段在生成合成内容的文件数据中嵌入的。这可能包括数字水印、元数据等形式，以便于追溯和验证内容的来源。

标识的具体实施要求

办法对各种内容类型的标识提出了具体的实施要求：

文本内容：生成的文本需在开头或显著地方加入标识，或者在内容中间插入相关提示。

音频内容：在音频的适当位置添加语音提示，同时在交互场景中加入显著的提示标识。

图片内容：图像生成时需要在图像的适当位置加入显著标识。

视频内容：需要在视频的开始及播放周边添加显著的提示标识，并可在视频中间或再次添加。

虚拟场景：在虚拟环境中启动时需要显著标识，并在服务过程中适时更新。

服务提供者在提供生成合成内容的下载、复制和导出等功能时，必须确保文件内含有满足规定的标识。

文件元数据的要求

根据办法，服务提供者还需按照《互联网信息服务深度合成管理规定》的相关规定，在生成合成内容的文件元数据中添加信息，包括生成合成内容的属性信息、服务提供者的名称或编码、内容编号等制作要素信息。这不仅有助于内容生产者和使用者的清晰沟通，还能在一定程度上保持内容的可追溯性和合法性。

鼓励数字水印技术的应用

为了进一步加强内容管理力度，办法还鼓励服务提供者在生成合成内容中添加数字水印等新的标识形式。数字水印技术，作为一种不的信息归属标记，能够在不影响用户体验的前提下，保护内容的版权信息，并防止内容被不当使用。

《人工智能生成合成内容标识办法》的出台，标志着我国在人工智能领域开展内容管理工作的进一步推进。这一方面是为了增强公众对合成内容的认识，减少误导性信息的传播，另一方面也是对内容生产者的规范，推动业界共同抵制内容造假的行为。未来，随着人工智能技术的不断发展，相关法规政策也将不断完善，以更好地适应新技术带来的挑战与机遇。