上海举行2025世界人工智能大会 474款大模型完成备案超30亿用户注册

2023年7月26日，2025年世界人工智能大会在上海隆重开幕。本次大会不仅是全球人工智能领域的一次重要盛会，也是一场关于人工智能全球治理的高级别会议。在“有益、安全、公平”的人工智能向善分论坛上，国家网信办网络管理技术局局长于永河透露，截至目前，我国已有474款大模型完成备案，并且247款大模型的应用或功能已完成登记，注册用户总数更是超过了30亿。这一数字充分展示了人工智能在我国的快速发展及其广泛的应用场景。

会上，于永河指出，这一备案工作与《生成式人工智能服务管理暂行办法》的实施密切相关。去年7月，国家网信办联合七部门发布了这一暂行办法，目的在于及时应对生成式人工智能带来的风险和挑战。根据《暂行办法》，提供舆论属性或社会动员能力的生成式人工智能服务必须进行安全评估，并遵循相关的算法备案和变更、注销备案的规定。这一做法反映了国家对生成式人工智能的高度重视，既要促进其发展，又要加强监管，以保护社会公众的合法权益和安全。

生成式人工智能及深度合成技术的迅速发展，极大方便了信息的生成与合成。伴随而来的假信息、深度伪造和欺诈等风险问题也日益突出。国家制定《互联网信息服务深度合成管理规定》《暂行办法》等部门规章，明确网络服务提供者对AI生成的合成内容负有标识义务。这一措施旨在提升信息的透明度和用户对信息的信任度，帮助公众识别真假信息，防止因技术滥用而造成的社会风险。

为了应对这一“信任危机”，于永河强调，国家网信办将重点关注生成合成内容的标识问题。早在今年3月，国家网信办就与多个部门共同发布了《人工智能生成合成内容标识办法》。这项新规为生成合成内容的标识提供了明确路径，同时，相关的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也已同步实施。这一系列措施旨在建立一个完善的人工智能全生命周期治理体系，推动行业的健康有序发展。

于永河详细介绍了《标识办法》的制定思路。一方面，法律法规充分考虑了当前人工智能产业的发展现状，明确不强制要求在多媒体文件中添加数字水印，考虑到了这会提高企业成本及技术难度。本办法创新地提出了隐式标识的概念，通过嵌入源数据的技术手段，用户和能够在不大幅增加成本的前提下，对生成合成的内容进行监督与追溯。

例如，在文本内容中，国家网信办借鉴了注册商标TM标识、3C认证标识等形式，推出了一种新型的文字角标显式标识。同时，在音频内容中，采用了“摩斯码”式标识，致力于减少对用户体验的影响。国家也鼓励内容传播服务提供者增强对生成合成内容的识别能力，及时标注出生成合成内容，从而提升鉴别的准确性，并尽量避免误标和漏标的情况。

于永河还强调，应该贯穿整个内容制作、传播、使用的全链条，着力解决“哪些是生成的、谁生成的、从哪里生成”的问题。在内容生成阶段，制作需要在生成内容的同时记录嵌入的隐式标识，这样为全流程的识别与溯源奠定基础。在内容传播阶段，传播则需承担核验的责任，比如提取和识别文件元数据中的隐式标识，确保合规标识的内容得到传播。至于在应用分发阶段，应用程序分发也需严格审查相关标识材料，确保用户获取的人工智能工具都具备必要的合规能力。

为实现这些目标，国家网信办还构建了包括管理办法、技术标准、实践指南在内的全面治理框架。据于永河透露，涉及文本、图片、音频和视频等多模态的元数据标注方法及内容检测方法等六项实践指南也将在近期发布，从而不断提高人工智能内容的透明度和安全性。

本次2025年世界人工智能大会在大模型备案及内容标识治理方面的成绩，标志着我国在人工智能领域的监管与发展上将迈向一个新的高度。面对快速发展的数字技术，国家将继续努力建立更加完善的法律法规体系，保护公众权益，促进健康、有序的发展与应用，为全球人工智能的安全与治理贡献中国智慧。