《人工智能生成内容标识办法》9月1日起实施，所有AI生成内容须“亮明身份

2023年9月1日起，国家网信办等四部门共同发布的《人工智能生成合成内容标识办法》正式实施，成为中国人工智能领域的重要规章。这一办法要求所有通过人工智能技术生成的文字、图片和视频内容必须标明来源和生成方式，即需“亮明身份”。此举旨在提升信息的透明度，减少虚假信息的传播，同时保护创作者的权益。

根据《人工智能生成合成内容标识办法》，人工智能生成合成内容包括利用人工智能技术制作的各类信息，如文本、图片、音频、视频及虚拟场景等。这一标识办法不仅明确了内容标识的重要性，还区分了显式标识和隐式标识两种形式。显式标识是指在内容中明确提示其为人工智能生成，而隐式标识则利用技术手段，比如元数据，自动识别内容的来源。在上架或发布内容时，需对此进行审核，确保所有内容都有标识，对于未标识或疑似为人工智能生成的内容，要及时添加风险提示，以防止虚假信息的扩散。

该办法还提出了对内容的检测分级。如果通过元数据发现隐式标签，可以直接标识该内容为AI生成；但如果仅通过算法推测，则应标记为“疑似AI生成”。这一措施可以有效提高内容识别的准确率，尤其是在目前AI技术发展尚不完全的背景下，减少对原创内容的误判。

不过，法学专家也指出，由于算法技术的局限性，可能会导致部分原创作品被错误标识为AI生成，进而影响创作者的权益。因此，专家建议建立相应的保障机制，以应对误判情况。例如，网络服务提供者可以公开其算法原理以及误判样本数据，增强透明度；同时，还应设立申诉渠道，允许用户提出证据申请复核，以实现监管与创作自由之间的有效平衡。

截至目前，据统计，中国已有490余款大模型在国家网信办完成备案，240余款在省级网信办登记，生成式人工智能产品的用户规模已达到2.3亿人。这表明，AI技术在各个领域的应用正在越来越广泛，因此加强对这些内容的管理显得尤为重要。《人工智能生成合成内容标识办法》和即将实施的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》一起形成了“办法+强标”的政策组合，构建了一个在监管上审核、监测和追责的闭环机制，同时在技术上规范了标识体系，为AI行业的健康发展提供了保障。

此举不仅是为了治理生成式人工智能的潜在风险，还旨在规范互联网信息内容，促进AI技术的健康良性发展。专家指出，高质量的数据对生成式人工智能产业的发展至关重要，错误或不完整的数据可能导致决策偏差，并带来法律风险。未标识的内容若被用于大型模型的预训练，可能会导致数据污染，最终影响技术的可信度。因此，《标识办法》的出台，正是从源头入手解决这一困境的重要举措。

标识的规范化运用也能有效指导人工智能企业选择合适的训练数据，利用隐式标识帮助企业轻松筛选出使用内容。通过这项规定，内容将明确合规要求和管理程序，有助于提高运营效率，降低审查成本。

法学专家表示，《人工智能生成合成内容标识办法》的实施将带来公平竞争环境，强化对内容生成的有效管理。一方面，强制标识机制能够保护传统内容产业，减少AI技术对其市场的冲击；另一方面，通过标识可以追溯AI生成内容的来源，有助于降低因AI生成内容带来的侵权、诈骗等问题，维护个人隐私及财产安全。

所有使用生成式人工智能服务的用户，包括自媒体账号和博主，都将面临相应的合规要求，尤其是一些多渠道网络（MCN）机构和专业内容创作者，需确保其内容的标识符合国家标准和相关规定。《标识办法》与《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法规形成了良好衔接，确保相关服务 providers在履行算法备案、安全评估等手续时，能够提供必要的标识技术细节，帮助监管部门迅速识别违法内容及其来源。

实施《人工智能生成合成内容标识办法》不仅有助于维护网络内容的真实性和安全性，还有助于建立一个更加透明和公正的数字生态系统，从根本上推动生成式人工智能的健康发展。