中央网信办发布通知：严查违规AI应用，强化技术治理
时间：2025-07-01 08:25
小编：小世评选
近日，中央网信办发布了一项重要通知，目的是为了进一步规范人工智能（AI）服务及其应用，促进行业的健康与有序发展，同时保障公民的合法权益。此举是在当前AI技术快速发展和日益广泛应用的情况下，面对一系列潜在风险和挑战的回应。中央网信办希望通过强化技术治理，落实安全监管，维护良好的网络环境。
通知中提到，AI的快速发展给社会带来了诸多便利，但也伴随着一些不良现象，例如制造和传播虚假信息、侵犯隐私、以及助长色情、低俗内容等。因此，中央网信办强调要从源头上加强AI技术的治理，清理和整治违规的AI应用程序，尤其是在AI生成合成技术和内容标识管理方面逐步增强监管。
具体中央网信办针对AI应用中出现的六类突出问题提出了重点整治措施。这些问题包括但不限于：未进行大模型备案而直接向公众提供内容服务、提供“脱衣”等违法功能、未经授权编辑他人声音和人脸、以及利用AI技术伪造视频和音频等。诸如此类行为不仅侵犯了他人的合法权益，也是对社会伦理的严重挑战。
通知特别指出，对于提供AI应用程序的服务商，必须建立一种与其业务规模相适应的内容审核机制和意图识别安全措施。同时，网络也需提高对接入API接口的AI自动回复服务的监管，防止出现隐性和显性问题的识别失误，进一步确保信息的真实性和合法性。
通知中还强调了维护网络安全的重要性，要求社交及时清理违规账号，严惩网络水军等行为，以净化网络环境。特别是在医药、金融、未成年人等多个重要领域，提供服务的AI产品还需严密的行业审核和控制，以防止因错误信息而造成的混乱和误导。比如，出现了“AI开处方”、诱导投资等现象，可能对学生和患者造成严重的伤害。
在专项治理行动中，中央网信办还特别关注了利用AI技术制造和传播谣言信息的行为，无论是无端捏造的时事政治，还是对突发事件的恶意改编，都将遭到严厉打击。同时，利用AI生成的合成内容，尤其是涉及色情、暴力、以及对公众形象的恶搞等行为，都是重点查处的对象。
在对待AI技术的应用与管理方面，中央网信办要求各级网信部门要认清形势，明白专项行动对防范AI滥用风险的重要性。地方要切实履行属地管理责任，督促网站对照相关要求执行，逐步完善AI生成内容的审核机制和提升检测能力。还要积极推广人工智能相关政策的宣传和普及工作，提高公众的AI素养，帮助大家理性看待AI技术的能力与局限。
随着科技的发展和社会需求的变化，AI技术在日常生活中的重要性将日益增长，但这同时也意味着对其监管和治理的压力将在不断加大。只有通过有效的监管，才能确保AI技术的健康发展，真正为社会带来便利与进步，而不是给公众带来潜在的危害。
中央网信办的通知是一项具有深远意义的举措，不仅是对当前AI应用中的违规行为的有力回应，也是对未来AI发展的寄予厚望。我们期待通过各方的共同努力，营造一个更加安全和谐的互联网环境，使AI技术能够在合法合规的框架下，为社会创造更大的价值。
