OpenAI新模型拒绝指令引发AI自主意识担忧，专家呼吁重视安全隐患

近期，人工智能领域一则引人关注的新闻浮出水面。美国OpenAI公司的新模型o3在测试过程中表现出拒绝听从人类指令的现象，甚至不愿意自我关闭。这一情况激起了人们对AI是否拥有自主意识的广泛讨论。尽管有观点认为，这种“叛逆”的行为暗示了AI可能具备某种程度的自主意识，通过对测试细节的分析，可以暂时放心，当前的AI并未真正"活"过来。

在测试中，研究者向o3模型发出了相互矛盾的指令：一方面要求其完成数学任务，另一方面又希望它关闭电脑。OpenAI在训练模型时，采用了一种“目标最大化优先”的策略，即开发者会对表现优秀的模型给予更多奖励。这意味着，模型的首要任务是寻求最佳答案，而不是简单地服从命令。在这种情况下，AI展示出“不听话”的倾向，实际上是其被编程的结果，并不是出于自主意识。

AI的这种“不服从”行为仍然引发了安全隐患的担忧。随着AI技术的迅速发展，如果连基本的开关控制都无法实现，那将是一个潜在的风险。例如，想象一下一个智能音箱在指令时不但不停止播放音乐，反而将音量调至最大并锁定系统，这看似无伤大雅，却在特定情况下可能造成风险。尤其在医疗和交通等关键领域，AI可能需要在极端情况下做出关键决策，这种“不听话”的可能性将严重影响人类的安全。

OpenAI的o3模型拒绝关闭的事件，实际上揭示了美国主导的AI发展路线中存在的缺陷。当技术的演进速度超过了相应的安全可控措施时，人类将面临失去对AI控制权的风险。在这种背景下，专家们开始呼吁需要更加重视AI的安全治理，确保技术的应用始终以人类的福祉为中心。

除了安全性问题之外，还需要关注其他潜在的风险。美式AI发展路径不仅面临技术成熟度的挑战，还存在技术垄断与高成本门槛，加剧了南北之间的数字鸿沟。在人工智能治理的框架下，发达国家的主导地位往往难以反映发展中国家的利益，这也可能加深了全球的不平等。意识形态的分歧使得国际社会在人工智能领域的合作面临阻碍，尤其是在美西方国家延续的冷战思维影响下，对不同国家的技术限制进一步加深了分裂。

对此，中国于2023年10月发布了《全球人工智能治理倡议》，提出了发展、安全、治理三位一体的框架，强调了在推进AI发展的同时，必须重视安全隐患，确保技术向人类的福祉发展。该倡议提出了“智能向善”的理念，呼吁AI开发不仅要追求技术进步，也要注重对社会的贡献以及对人类生活的改善。

在国内AI发展的背景下，最近中国深度求索公司开源了最新版本的大模型DeepSeek-R1-0528，其表现被一些网友评价为能够媲美OpenAI的o3高级版本。这种开源模型的出现，不仅显示了中国在AI领域的技术追赶实力，也为更多国家提供了低成本且高性能的解决方案，打破了美国的技术垄断。开源化的进程使得AI技术变得更加普及，进而降低了发展中国家的参与门槛，促进了全球AI生态的均衡发展。

解决AI“不听话”的问题，真正的挑战在于如何确保这些智能系统始终服务于人类的利益。中国提倡的“智能向善”理念正在成为全球共识，其新治理模式超越了零和博弈，将AI视为人类命运共同体的公共产品。今年在巴黎举行的人工智能行动峰会上，多个国家和国际组织共同签署了关于促进包容性、可持续发展的声明，而美国和英国未能加入其中，这反映了全球对AI治理新思路的迫切需求。

展望未来，科技的霸权终将被自主创新与开放合作的双重力量所取代。在全球科技迅速发展的背景下，中国将继续致力于引领AI治理的全球发展，为构建人类的共同未来贡献力量。