人工智能合成内容标识新规9月1日施行，乱象仍未根治
时间：2025-09-24 20:50
小编：小世评选
自9月1日起，《人工智能生成合成内容标识办法》正式实施。该办法由国家网信办、工业和信息化部、公安部及国家广播电视总局共同制定，旨在解决人工智能生成内容的标识问题，要求相关内容必须进行显式和隐式标识。虽然新规已落地，但相关乱象并未得到根治，依旧令社会各界感到担忧。
根据《办法》，人工智能生成合成内容主要指运用人工智能技术生成或合成的文本、图片、音频、视频及虚拟场景等信息。这一新规明确划分了标识方式，显式标识为用户可以明显感知的标识，通常表现为文字、声音或图形；而隐式标识则是通过技术手段嵌入数据中，不易被用户察觉。目的是为保护用户的知情权，防止其误认为这些内容是人工创作的。
南都N视频近期的调查显示，尽管有新规实施，仍然存在大量未标识的合成视频，尤其是涉及名人形象与声音的内容。例如，针对孙俪与邓超的合成视频频繁出现，利用其形象和声音进行虚假广告宣传的事件屡见不鲜。这些视频的作者并未遵循新规要求进行标注，继续误导观众，引发公众对相关内容真伪的困惑。
更令人忧虑的是，某些不法分子借助AI技术制造虚假视频，通过“快速起号”来获取流量和收益。这些上的账号利用深度伪造技术，迅速建立粉丝基础后，出售课程和推广商品，依靠这种虚假信息赚取利益。更有甚者，部分账号甚至将伪造的明星声音用于制作“鸡汤”类视频，从而误导观众并吸引眼球。
调查显示，这样的违规操作并未因新规的实施而减少，反而在一些上愈演愈烈。南都N视频在9月1日的进一步搜索中发现，多条合成视频依然缺乏相应的标识，例如一名情感博主运用某知名女明星的形象和声音，制作了多个“鸡汤”类短视频。这些视频不仅点赞量居高不下，还吸引了大量浏览量，然而视频页面并未标明内容为技术合成。该账号出售的商品种类繁多，涵盖抽纸、牙膏、护发膜等多个生活用品，且都未标注其视频内容的真实性。
对此，业内专家也对此现象表达了担忧。互联网治理研究学者谢永江指出，网络虚假信息的传播一向是个老问题，即使在没有人工智能的时代，因人为因素造成的虚假信息频繁出现，AI的引入使得这种传播更加便捷和隐蔽。他认为，在这一环境中应当承担起更大的审核责任，掌握对AI生成内容进行甄别和标注的技术手段，确保信息发布不误导公众，避免侵害他人合法权益，维护社会的公共秩序。
在政策执行方面，监管机构的力度显然需要加强。除了明确的法律法规外，相关部门也应加强对的监管力度，推动其落实新规，对于未标识的合成内容及时处理，维护用户的知情权。公众也应提高警惕，增强分辨真伪信息的能力，避免成为不法行为的受害者。
虽然新规的实施对于规范AI生成内容的管理具有积极意义，但在实际执行过程中依然面临挑战。如何有效落实合成内容的标识要求、维护互联网环境的健康和清朗，亟需全社会共同努力。我们期待着在今后的发展中，更加成熟的技术和规范能够帮助我们应对AI带来的新问题，确保信息的真实性与可靠性。
