360发布大模型安全卫士 助力AI安全防护新进展

在当前迅速发展的人工智能 (AI) 领域，如何保障AI技术的安全性和可靠性，成为了各界关注的焦点。2023年9月8日，在上海外滩FTC举行的ISC.AI 2025大模型安全论坛上，360公司正式发布了其全新的战略级产品——360大模型安全卫士。这一产品是360公司依托“安全+AI”的双重优势而推出的，标志着我国在大模型安全技术方面的又一个重要进展。

AI技术的快速发展与安全挑战

随着大模型技术的快速进步，AI的应用开始渗透到各行各业，并成为推动科技革命和产业变革的重要力量。AI技术在带来诸多机遇的同时，也带来了不少安全隐患。360集团创始人周鸿祎在致辞中指出，当前AI发展的安全挑战包括恶意利用、内容安全、幻觉问题以及提示词攻击等。大模型虽然是强大的生产力工具，但同时也可能变成新的攻击载体，威胁到和企业的数据安全与商业机密。

360大模型安全卫士的使命

针对这方面的挑战，360推出的大模型安全卫士旨在通过“四大智能体”的系统设计，全面提升AI技术的安全保障能力。360数字安全集团副总裁余凯在发布会上表示，当前的安全企业往往在AI技术领域的积累不足，而许多大模型公司亦缺乏必要的安全技术和实战经验，造成难以有效应对这些新出现的安全风险。

360大模型安全卫士通过“以模制模”的理念，专注于解决AI技术在“可靠性、可信性、可控性与善用性”等方面的核心问题。具体来看，360大模型安全卫士的四大智能体分别承担了不同的安全职责：

1. 内容安全智能体：通过专业化的模型训练，具备智能判定、风险内容检测和安全回复功能，构建五道内容防线，识别超过100类风险，确保内容的双向安全。同时，通过定期的评测机制，持续监测模型的回复内容，识别潜在的攻击风险。

2. AI Agent安全智能体：该智能体致力于保障AI Agent在执行任务时的数据安全与权限控制，防止在自动规划及执行过程中产生行为失控的风险。

3. 幻觉抑制智能体：通过多项增强技术，该智能体提高了大模型推理过程的准确性，抑制因数据时效性不足而引发的“幻觉”问题，确保生成内容的真实性和可信度。

4. 软件安全智能体：该智能体可以高效识别开源软件中的安全漏洞，涵盖了从模型训练到推理的全链路安全检测，确保AI软件供应链的整体安全性。

AI安全的新基建

在提升AI安全性方面，360创新性地将大模型安全卫士融入到安全运营体系之中，构建了“网数模一体化”的安全运营。余凯指出，AI安全技术门槛高，需要具备AI领域的技术积累、安全实战经验和丰富的场景验证。360通过自身的实际业务场景，形成了一个以实践为基础的迭代闭环，同时沉淀了大量的安全语料，构建了难以复制的核心竞争力。

目前，360大模型安全卫士已在公司内部和多个业务中深度应用。在360的自有AI大模型业务中，日均守护的算力集群达到1.5万，处理超过3000P+的算力和数十条核心AI业务链路。内容安全方面，通过使用360大模型安全卫士，开源大模型的安全性提升了10%-30%。在智慧政务内容安全保障工作中，360大模型安全卫士每天检测不良内容超千条，业务代答超九百条，回复安全率超过99%，风险识别的准确率也高于99%。

未来展望

360已参与多项国家标准的制定，包括大模型国家标准、大模型技术研发标准以及人工智能核心安全标准，并牵头建立行业生态联盟，推动全球的产学研企一体化发展。随着360大模型安全卫士的发布，未来将在金融、政务、医疗、文旅等多个领域提供安全保障，助力实现智能化升级，从而为我国人工智能的发展注入强劲动力。

360大模型安全卫士不仅是技术的进步，更是对AI安全防护的重要承诺，期待在应对未来各种挑战时能够发挥更大的作用。