世界数字科学院发布AI智能体安全测试新标准

近日，世界数字科学院（WDTA）在瑞士日内瓦总部召开大会，正式发布了针对人工智能（AI）智能体运行的安全测试新标准——《AI智能体运行安全测试标准》（AI STR）。此次标准的推出，从根本上为全球 AI 生态系统的安全性、可信性和可持续发展提供了新的路径和保障。该标准由蚂蚁集团、清华大学和中国电信主导，联合普华永道、新加坡南洋理工大学及美国圣路易斯华盛顿大学等20余家国内外机构、企业与高校共同制定。

随着人工智能技术的迅猛发展，智能体在各领域的应用日益广泛。智能体在跨越“语言墙”时，可能会引发一系列行为风险，这对社会和经济产生潜在威胁。为了确保智能体在实际应用中的安全性，WDTA此次发布的安全测试标准首次将输入输出、大模型、检索增强生成（RAG）、记忆模块和工具链的五个关键链路与其运行环境进行关联，构建了一个全链路风险分析框架。这一创新举措将有助于识别和评估智能体在不同环境中的潜在风险，制定相应的安全防范措施。

新标准的核心在于对智能体风险类型的细分，主要包括功能风险、行为风险、数据隐私风险和安全性风险等几个方面。标准还创新性地提出了多种测试方法，包括模型检测、网络通信分析以及工具模糊测试等。这些测试方法可以有效评估智能体在处理特定任务时的表现，以及在各种网络环境下的安全通信和工具使用的安全性，从而提高智能体的整体安全水平。

根据蚂蚁技术的最新消息，此次发布的《AI智能体运行安全测试标准》不仅为相关从业者提供了一套切实可行的智能体安全基准，还为全球 AI 智能体生态的安全、可信和可持续发展探索了新的方向。这意味着，未来的人工智能产品和服务将遵循更加严格的安全标准，从而增强公众对其使用的信任。

在全球范围内，人工智能领域的标准化工作已经逐渐成为各国关注的焦点。WDTA此前已陆续发布了三项与 AI 相关的安全测试标准，包括“生成式人工智能应用安全测试标准”、“大语言模型安全测试方法”以及“大模型供应链安全要求”。这些标准的制定吸引了诸如OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家知名企业及多位专家的参与，强调了多个组织在推动 AI 技术发展的同时，确保安全与社会责任的重要性。

随着这几项标准的发布，国际社会在 AI 安全领域的合作与共同行动也愈加紧密。各国在面对 AI 发展迅猛带来的机遇与挑战时，应该加强信息共享、技术交流以及政策协调，形成一个全面、系统的人工智能安全治理体系。通过标准化，建立起良好的产业生态，不仅能保障AI技术的健康发展，还能提升公众的信任度，促进社会的和谐稳定。

未来，随着人工智能在医疗、交通、金融等领域的深入应用，其所带来的挑战与风险也将更加复杂。因此，研发更为细致和全面的安全测试标准必将成为行业发展的重中之重。同时，全球范围内的人工智能伦理、法律和社会影响的讨论也不断升温，各国亟需加强合作，共同探讨智能体与人类社会的良性互动，确保人类在享受科技进步带来便利的同时，也能免受其负面影响。

世界数字科学院发布的《AI智能体运行安全测试标准》是在当前人工智能领域迈出的重要一步，标志着全球 AI 智能体发展走向更加安全、可信与可持续的未来。这不仅为相关企业提供了规范，更为推动社会各界在智能体安全问题上的共同行动奠定了基础。