2025中国数谷·西湖论剑大会聚焦AI技术应用与安全治理

近年来，人工智能（AI）技术以其惊人的速度改变着各行各业的运作模式。AI不仅在金融、医疗、能源和制造业等领域提升了生产效率和服务质量，更成为全球经济和社会发展的重要驱动力。AI技术的广泛应用也引发了一系列安全和治理问题，如数据安全、隐私保护、算法伦理等。面对这些挑战，2025中国数谷·西湖论剑大会于近日成功召开，吸引了主管部门、行业专家、企业及行业组织的参与，围绕AI在关键领域的应用与安全防护进行了深入讨论。

浙江省网络空间安全协会的负责人在会议上指出，AI是引领社会发展的战略性技术。其影响已深刻渗透到人们的日常生活与生产活动中。他强调，在推动AI技术创新与应用的同时，必须重视与安全之间的平衡，只有统筹发展与安全，才能加速AI技术的有效落地和治理。各行业应积极构建AI服务，深化行业教育生态的建设，完善标准与治理体系，强化风险防控，以促进一个安全、健康的AI生态环境。

本次大会的亮点之一是国家互联网信息办公室等部门联合发布的强制性国家标准，标志着我国在AI治理方面进入了“技术标准牵引”的新阶段。浙江互联网应急中心的AI专家在会上分享了对这一《办法》的深入理解，并从促进技术透明性、构建可追溯责任框架、推动技术标准完善和保护创作权益等维度展开了细致的探讨。这为如何在技术创新与合规性之间实现协调发展提供了新的思路。

浙江大学滨江研究院数智融合研究中心副主任林昶廷博士也对AI安全风险的治理进行了深入分析。他指出，AI模型本身及其生成内容都存在风险，必须建立全面的安全治理机制。他的团队在AI全生命周期安全治理方面的实践，包括生成式人工智能的评测验证系统及大模型保护系统，有助于解决当前AI安全治理中面临的挑战。

在金融领域，数据的安全和隐私保护至关重要，而AI技术的应用也为这个行业带来了新的机遇与挑战。杭州银行信息安全部的经理沈勤在会上分享了该行的信息安全体系，他展示了杭州银行如何运用AI技术提升中小银行的安全防护水平。通过建立安全开发及构建AI安全模型，杭州银行成功实现了漏洞的自动化管理和分析，从而大幅提升了安全防护效率。

而安恒信息的副总裁杨绍波则带来了关于“让智能更安全”的主题演讲。他强调，AI安全防护应当涵盖数据处理、运行服务和生产应用等多个阶段，针对五大风险点制定全面的防护策略。这包括大模型的风险评估系统、内容保护系统及办公场景的安全防护等。他指出，这些措施将为AI技术的可持续发展提供坚实的保障，使企业在创新与合规之间找到平衡。

在随后的讨论环节，专家们围绕AI生成内容检测、渗透测试中的AI应用、数据加密、安全态势感知以及AI在安全领域的前景与挑战等热点议题进行了深入交流与探讨。此次研讨会，由浙江省网络空间安全协会、西湖论剑大会组委会主办，结合安恒信息、杭州市云计算与大数据协会、杭州银行的合作支持，为各行业提供了宝贵的思路和方法。

2025中国数谷·西湖论剑大会不仅为AI技术在不同行业的应用及其安全治理提供了丰富的经验和实践，也为未来AI技术的健康和有序发展奠定了基础。希望在、企业、高校及研究机构的共同努力下，构建全方位的安全防护体系，推动AI技术在更多领域的广泛应用，达到经济发展与社会效益的双赢。