中国发布《向未成年人提供生成式人工智能服务安全指引》 强化AI保护措施

在2023年6月10日，中国网络文明大会的人工智能分论坛上，重磅发布了《向未成年人提供生成式人工智能服务安全指引》（以下简称《指引》），这标志着中国在保护未成年人使用生成式人工智能方面迈出了重要一步。该《指引》的制定得到了包括阿里巴巴、腾讯、美团等知名互联网企业在内的60家单位的积极参与，以及君同未来的深度贡献，专业的力量为未成年人在数字领域的安全保障构筑了坚实的屏障。

未成年人保护的迫切性

随着生成式人工智能技术的迅猛发展，未成年人日益频繁地接触这一领域。未成年人在数字环境中的自我保护能力相对较弱，面临着各种潜在的风险，包括信息安全、心理健康、以及内容适宜性等问题。因此，围绕未成年人构建一套完整的安全保障体系显得尤为重要。《指引》的发布，正是为了深入贯彻网络强国战略，切实守护未成年人在数字时代的健康成长。

在《指引》的规划中，核心原则围绕“最有利于未成年人”展开，以社会主义核心价值观为指导思想，力求通过一系列策略构建一个“安全可控、权责清晰、协同共治”的治理框架。这一框架不仅涵盖了生成式人工智能服务的全生命周期，包括从数据合规与审核，到模型开发设计，再到应用场景的风险管控和运营内容监管，形成一个系统化的保护网络。

创新治理模式的提出

值得注意的是，《指引》提出了“主体责任 + 社会共治”这一全新的治理模式。这一模式鼓励行业、学术界与社会各方通力合作，积极推进适年龄段产品的研发，并加强对未成年人的AI素养教育。《指引》还在附录中详细列出了生成内容审核的实操指南，以及未成年人模式的搭建，旨在为行业提供易于落地的治理标准，确保技术的健康发展。

君同未来作为《指引》的核心参编单位，一直以来聚焦于未成年人保护、企业智能化转型及高校科研创新等多元场景下的AI治理与合规运营，在技术和实操经验方面有着丰富的积累。这为《指引》的有效实施奠定了坚实的基础。

全生命周期的治理能力

君同未来凭借其自主研发的全链路算法治理框架，推动了生成式人工智能服务在未成年人场景的全面安全治理。这一框架的设计涵盖了语料安全及质量评估、模型的合规验证、以及风险防控策略，形成了从产品研发到运营监管的全生命周期治理能力。有了这样的体系，可以为未成年人提供更加安全的人工智能应用环境，有效降低AI技术对其身心健康的负面影响。

该公司的多模态内容识别技术与青少年认知发展模型相结合，让未成年人在接触AI服务时能够获得更加适宜的内容，从而促进其健康成长。

推动高质量发展

《指引》的出台不仅是政策法规的完善，更是对人工智能治理技术能力的全面提升。君同未来在政策标准体系建设中，不断推进技术与合规保障的提升。目前已主导或参与超过20项国家及行业标准的研制工作，这为中国人工智能行业的规范化发展提供了强有力的支撑。

随着生成式人工智能的不断演进，在保护未成年人的道路上，如何平衡技术的创新与社会责任是一个巨大的挑战。君同未来未来将继续秉持未成年人保护的核心理念，助力社会各界共同营造一个更加安全、健康的人工智能应用环境。

在科技迅猛发展的今天，我们必需为未成年人营造一个更为安全的网络环境，让他们在探索数字世界的同时，能够健康、快乐地成长。各方的共同努力，让未来充满了更多的可能性，也为未成年人铺就了一条光明的成长道路。