《2025可信人工智能治理白皮书》发布：全球应对AI挑战与合规新规

在人工智能技术快速发展的今天，如何高效、安全地应用这些技术已经成为全球各国亟需解决的重要课题。2025可信人工智能治理白皮书近日由安永（中国）企业咨询有限公司与上海市人工智能与社会发展研究会共同发布，报告详尽阐述了各国在人工智能领域面临的挑战及合规新规，为科技公司及相关单位提供了宝贵的参考。

一、全球AI治理现状及趋势

全球人工智能的蓬勃发展，虽然推动了经济与社会的进步，但也引发了诸多问题，例如算法透明度、数据隐私保护、技术伦理等。各国纷纷加强对人工智能的监管。例如，欧盟通过了《人工智能法案》，旨在为AI应用设定严格的法律框架；美国则采取更加灵活的行业针对性监管措施；而中国也在积极构建完善的相关法律法规以适应这一新兴技术的发展需求。

二、可信人工智能的关键原则

可信人工智能的构建，需要遵循一系列原则。这些原则包括G20倡导的包容性增长、欧盟制定的七项关键要求，以及安永公司强调的算法问责性。具体而言，企业在应用人工智能时，需考虑如下关键问题：

1. 算法黑箱与透明度：许多算法缺乏透明性，导致外界难以理解其决策过程。例如，在网约车行业，算法的隐秘性使用户无法知晓定价依据，从而引发信任危机。

2. 算法偏见与公平性：招聘领域的算法曾被指控存在性别歧视，医疗数据的使用亦面临偏见问题。这对企业的社会形象和合规要求提出了更高的要求。

3. 数据安全：如何保护用户隐私，防止数据泄露，是当前企业面临的重要挑战之一。制定健全的数据保护政策是企业实现合规的基础。

4. 科技伦理：AI技术的应用必须遵循伦理标准，确保不对社会产生负面影响。

三、企业合规的要求与实施

报告中指出，企业在合规方面需遵循多项要求。其中包括：

资质监管：互联网服务提供者需具备相应基础和特殊资质，确保其在技术和运营方面满足监管要求。

算法备案及透明性：企业应定期对所使用的算法进行评估，确保其符合透明性要求，并在必要时进行备案。

内容审核与标识义务：企业在发布内容前需进行严格的审核，确保信息真实正确。同时，建立健全的投诉举报机制，为用户提供保护。

四、风险治理架构的灵活运用

有效的风险治理架构能够为企业、创新和市场提供支持。报告建议，企业应在AI生命周期的每个阶段进行风险管理，具体包括：

左移风险评估：提前识别可能存在的风险，以便及时采取相应措施。

敏捷管理模式：采用灵活的管理模式，提高企业对市场变化和技术挑战的应对能力。

人员风险治理：重视团队成员在人工智能实施过程中的潜在风险，确保所有参与者具备必要的专业知识和技能。

五、国际标准与企业实践

ISO 42001标准为企业提供了一套完整的人工智能管理体系框架，使得企业在治理AI时得以有章可循。同时，可信AI治理等级标识的设立，能够帮助企业分阶段建设治理体系，提供明确的方向和目标。

在应用实践方面，各行业仍面临不同的挑战。例如，汽车、医药、零售和服务等行业虽积极响应人工智能技术的整合，但也各自遭遇技术适配性和用户接受度的问题。报告中提到的多个企业案例，展示了他们在人工智能应用现状、模型使用评估及投入分析方面的积极探索，供行业参考。

《2025可信人工智能治理白皮书》的发布，标志着全球范围内对人工智能治理的关注与重视不断加深。在这一背景下，各国亟需协同合作，分享最佳实践，以共同面对AI发展带来的挑战。构建可信、合规的人工智能治理体系，不仅是企业自身发展的需求，也是实现社会公平与可持续发展的重要基础。