新研究成果探索机器学习安全，应对对抗性遗忘攻击

最近，一项关于机器学习安全领域的新研究成果在国际机器学习大会（ICML2025）上引发了广泛关注。这项研究不仅为机器学习的安全性提供了新的视角和工具，还针对对抗性遗忘攻击提出了具有创新意义的方法。ICML作为全球机器学习和人工智能领域的顶尖会议之一，汇聚了最新的学术研究和行业动态。这次会议定于2025年7月13日至19日在加拿大温哥华召开，共收到3260篇论文投稿，最终接受率仅为26.9%，这充分证明了该研究成果的全球领先性和创新潜力。

此次研究的核心概念是“机器学习模型遗忘”（Machine Unlearning），它旨在减少特定数据点从已经训练的模型中移除时带来的负面影响，以增强对隐私保护法律的合规性。当前的研究在对抗性学习环境下，包括机器遗忘模型在面对恶意遗忘请求时的脆弱性，往往被忽视。这一问题的核心在于现有的对抗性机器遗忘攻击存在着诸多关键局限。

现有攻击方法受限于预定义的攻击目标，导致灵活性不足；在面对多个攻击请求时，效率问题显著，处理过程繁重且计算成本高；，现有方法在应对非凸损失函数时存在不稳定性，这使得攻击效果难以预测。在对抗性环境下，机器学习模型在取消学习的过程时常受到恶意的删除请求影响，降低了模型的安全性。

本研究提出了一种新的攻击方法——动态延迟中毒攻击（DDPA）。这一方法旨在解决现有的机器学习模型“遗忘”过程中遇到的安全问题。与传统方法不同，DDPA不需要预先定义攻击目标，而是能在遗忘过程中根据实际情况动态调整攻击目标。这种灵活性使得DDPA在对不同环境和请求时表现出更加出色的效果。

DDPA在处理多重攻击请求时同样展现了高效率。不同于以往需要为每一个请求重新构建中毒数据集的方法，DDPA的设计大大降低了计算成本。通过应用凸多面体近似技术，DDPA能够有效应对非凸损失函数带来的不稳定性问题，从而确保攻击的稳定性和准确性。这些优势使得DDPA在灵活性、效率和稳定性上相较于现有攻击方法具备了显著的提升。

为了更好地应对未来数据隐私与安全的挑战，特别是在我国这样数据资源丰富的场景下，产学研各界的协同创新显得尤为重要。随着数据安全和服务质量逐渐成为企业核心竞争力，各方需要共同努力完善信任治理框架，研发创新工具，为数据的有效利用提供保障。

北电数智作为国内最早推出可信数据空间产品的企业之一，始终致力于深化数据安全能力，并利用全栈AI技术解决数据流通与治理方面的难题。其信任数据空间产品通过“跨数据写作、数据可用不”的理念，有效保障了数据的隐私安全。北电数智还通过构建包含知识工程、数据合成、动态数据沙箱、模型数据服务等功能的底层体系，为数字中国建设提供了重要支撑。

在AI安全问题的解决过程中，行业发展需要在产学研的共同努力下形成合力。北电数智面向人工智能的产业努力，凭借技术创新为引领，不断加强与高校与科研机构的深度合作，汇聚顶尖人才，以协同创新的模式为产业高质量发展注入力量。通过吸引跨学科的高端人才，北电数智希望将科技成果转化为应用，形成一种科研与产业相互促进的良性循环。

在这一进程中，北电数智将以建设数字中国为己任，坚持长期主义的策略，专注于技术创新和提升全栈AI能力，以更加安全可信的数据服务推动人工智能行业的新变化。在AI技术不断进步的背景下，深度结合数据安全与应用将成为推动产业高质量发展的新动能。

针对对抗性遗忘攻击的研究成果为机器学习安全问题提供了新的视角和解决方案，进一步推动了数据安全的技术进步。这不仅有助于提升模型的安全性，也为整个产业的创新发展奠定了基础。未来，在各方共同努力下，AI安全将成为推动数字经济繁荣的重要保障。