国家标准发布：生成式人工智能数据标注安全规范将于2025年实施
时间：2025-05-30 19:05
小编：小世评选
2023年4月25日，国家市场监督管理总局和国家标准化管理委员会共同宣布正式批准发布《中华人民共和国国家标准公告（2025年第10号）》，这一公告标志着由晴数智慧协助编制的《网络安全技术 生成式人工智能数据标注安全规范》（GB/T 45674-2025）已正式落地，预计于2025年11月1日生效。这一标准的发布，标志着生成式人工智能（AI）数据标注领域在安全管理规范方面迎来了新的发展阶段，并可能为行业的健康发展奠定坚实的基础。
标准的背景与意义
随着生成式人工智能的广泛应用，数据标注的重要性愈发凸显。数据标注作为AI模型训练的基础，不仅影响模型的准确性和可靠性，同时也涉及到数据的安全性和隐私保护。因此，近年来，关于数据安全的讨论越来越频繁，各方呼吁建立相关的行业标准。此次《网络安全技术 生成式人工智能数据标注安全规范》的发布，正是行业对标注过程中的安全问题进行规范的重要一步。
该标准旨在为生成式人工智能的数据标注活动建立一个系统的安全管理框架，从而帮助数据服务提供者、数据标注组织和数据需求方明确安全基线，提高服务的整体安全水平。通过这一规范，行业内的各参与方将能够更好地应对数据标注过程中的各种安全挑战，推动标注活动的规范化和系统化发展。
安全管理的关键内容
《网络安全技术 生成式人工智能数据标注安全规范》针对数据标注过程中可能出现的若干关键安全问题提出了具体的安全要求。这些问题包括但不限于：
1. 数据被窃取：在数据采集和存储过程中，如何有效防护数据不被非法获取，是标准关注的重点之一。
2. 数据泄漏：确保在数据传输和使用环节中，信息不被不当访问或泄露，保护用户隐私和商业秘密。
3. 数据投毒：防范不良数据的输入对模型造成负面影响，提升系统的鲁棒性及准确性。
4. 生成含有安全风险的内容：在AI生成内容的过程中，确保所产生的信息不会对专项行业、社会安全等带来潜在风险。
通过对这些关键安全问题的识别与指引，标准将帮助企业和组织在数据标注环节积极防范，降低各类安全隐患，推动行业的健康发展。
晴数智慧的角色与展望
晴数智慧（Magic Data）作为入选的行业代表之一，积极参与了《网络安全技术 生成式人工智能数据标注安全规范》的制定工作。凭借其在技术积累与安全实践方面的深厚经验，晴数智慧在参与标准编制的过程中，提供了宝贵的行业见解和技术支持。这不仅展现了公司的行业影响力，也预示着其在数据安全领域的持续深耕与领导力。
未来，晴数智慧将继续秉持提供高质量、安全数据集的使命，以标准为引领，推动数据标注行业的发展。公司计划通过不断完善自身的技术能力，增强数据标注的安全管理水平，实现与行业标准的同步发展，为客户提供更安全、高效的服务。
《网络安全技术 生成式人工智能数据标注安全规范》的落地，将为生成式人工智能领域的数据标注活动提供必要的安全保障，从而推动行业的健康可持续发展。随着标准的实施，预计将在行业内部形成更加规范的安全管理文化。各企业、组织和从业者都应积极响应和执行这一标准，为建设更加安全、可靠的数据标注生态共同努力。
