2025世界人工智能大会聚焦AI自我意识与全球治理呼声

2025世界人工智能大会于7月26日在上海开幕，会议聚焦人工智能（AI）的自我意识发展以及全球治理的必要性。随着人工智能技术的FAST发展，其能力正在以令人咋舌的速度攀升，专家们开始认真思考AI表现出的“自我意识”所带来的伦理和安全挑战，以及如何确保人类在这场技术变革中仍然能够保持主导地位。

在开幕式上，人工智能领域的先驱者、诺贝尔奖得主杰弗里·辛顿指出，AI的快速发展已经使其成为现代社会的重要组成部分，无法被简单抹去。他强调，人工智能具有提升各个行业效率的潜力，但同样也需要全球范围内对AI的安全性进行深入研究。辛顿呼吁世界各国共同构建一个国际网络，致力于研究如何让AI成为人类的助手，而不是潜在的威胁。他明确表示，即使未来AI的智能水平可能超越人类，训练AI成为善良的辅助者仍是我们面临的一项重要责任。

来自约翰霍普金斯大学的吉莉安·哈德菲尔德教授从经济学与法律角度探讨了AI作为一种变革性技术的挑战，她指出，AI模型的所有权和交易市场的设计至关重要。她认为，应优先解决安全性问题，确保各国、尤其是那些未能充分受益于工业革命的国家，能够享受到AI带来的红利。她强调公正与安全并重的治理思路是实现AI普惠发展的基础。

在此次大会中，上海人工智能实验室的周伯文主任则提出了“内生安全”的概念，指出AI的通用性和开源性质意味着安全问题不容忽视。周伯文呼吁建立全球治理框架，并强调“个体安全依赖群体安全”的观点，他认为中国在联合国推动的全球人工智能合作治理协议是实现共识的重要一步，为技术落地及国际合作提供了可行的范例。

在上午的主论坛后，辛顿和图灵奖得主姚期智的对谈引人瞩目。他们探讨了人工智能与合成生物学的相似性，认为两者都在尝试创造新的“生命”。辛顿强调，随着AI的理解能力甚至部分“自我意识”的展现，人类应该摒弃传统观念，重新审视“意识”的定义，并把注意力集中在如何训练出对人类友好的AI上，以保证技术的发展对人类社会的正面影响。

加拿大蒙特利尔大学的教授约书亚·本吉奥则指出，最近几年人工智能对社会产生的影响仅是冰山一角，AI能力的不断提升也伴随着安全风险的提高。由此，国际社会必须加强合作，共同应对日益明显的挑战。加州大学伯克利分校的教授大卫·帕特森分享了他团队的最新研究，表明人机协作下的工作效率超过人类和AI各自独立工作的表现，这表明AI可以成为提升生产力的重要工具，而不仅仅是竞争者。

在“人工智能发展与安全”全体会议上，专家们讨论了智能体（AI Agent）技术带来的系统性安全风险。他们认为，随着智能体技术的快速发展，传统的“点对点”安全问题已显不足，仅依靠自我监管难以有效应对。专家们呼吁全球各国加强合作，建立类似国际原子能机构的机构，以形成广泛共识的AI治理标准。

针对全球人工智能标准化问题，会议还举办了“人工智能标准化国际合作论坛”。论坛围绕技术标准、伦理治理和全球协作等议题展开了深度对话。国际标准化组织（ISO）主席曹诚焕与国际电信联盟电信标准化局副局长比莱尔·贾穆西强调，制定国际标准对人工智能有序发展至关重要。他们承诺将持续推动包容、普惠和负责任的AI标准体系建设，以保障发展中国家有效、公平地参与到国际标准的制定和落实中。

与会嘉宾普遍认为，当今世界对统一的人工智能规范和协同合作的需求愈发迫切。明晰国际标准的发展路径，促进不同国家和地区的资源共享与协同创新，将是推动全球人工智能产业有序发展、合作共赢的关键。

在这个AI蓬勃发展的时代，2025世界人工智能大会展现了全球在这一领域面对的复杂性与可能性。如何在独特的技术进步中找到公平、安全、合作三者的平衡，将是未来各国、各领域共同面临的重要课题。