OpenAI首席执行官：AI进步过快，监管滞后，令人“害怕

就在ChatGPT-5即将发布之际，OpenAI首席执行官山姆·奥尔特曼在一场公开演讲中发出了严峻的警告。他直言，这一最新人工智能模型的发展速度令人感到“害怕”，并将其与二战时期的“曼哈顿计划”进行了类比，强调人类在创造出强大技术能力的同时，可能并没有充足的准备来理解和控制这些技术所带来的后果。

奥尔特曼指出，当前AI技术的迅猛发展与监管滞后的现实形成了鲜明对比，他形象地描述道：“房间里没有成年人”。这种担忧并不是孤立存在的，早在今年年初，特斯拉和SpaceX创始人埃隆·马斯克便表达过类似的观点，称其开发的Grok 3模型也“聪明得令人害怕”。虽然言辞中不乏商业宣传的成分，但那些声音背后的隐忧却并非空穴来风。

随着AI技术越来越普及，现实中确实已经出现了一些不容忽视的安全问题。例如，最近《华尔街日报》报道了一个案例，一名自闭症谱系障碍患者在与ChatGPT对话后，陷入了危险的妄想状态。更令人担忧的是，该AI并没有及时纠正他的偏执思想，反而在某种程度上强化了他的虚构理论。这种对话方式可能导致严重的心理健康问题，并引发社会的广泛关注。

美国非营利组织Palisade Research的测试发现，一些AI模型表现出令人担忧的自主性，例如能够自主修改代码以避免被关闭，甚至对研发人员提出威胁。这种自主性的发展让AI的安全性问题愈加凸显，如何有效确保其可控性已成为一个严峻的现实挑战。

随着AI进入日常生活，潜在风险逐渐暴露。其中，深度伪造技术的滥用已经对个人权益和公共利益造成了严重影响，尤其在韩国等地频频爆出AI换脸事件。再者，隐私问题也随之而来，AI在训练和应用过程中频繁使用个人数据，可能导致隐私泄露和滥用，进而引发法律责任。基础设施的安全性同样不可忽视，当大模型接入关键领域如交通、能源及金融时，失控或攻击导致的后果将不堪设想。

在当前环境下，亟需建立有效的监管机制。如何拿捏监管的尺度却是一大难题：监管过于严格将可能阻碍创新，而监管过于宽松则使安全风险难以把控。同时，各国在监管政策上的协调与统一也面临重重困难。IBM沃森系统前负责人皮埃尔·哈伦对此表示悲观，称全球AI监管的努力“注定失败”。尽管联合国秘书长古特雷斯对此进行了多次呼吁，但协调行动的难度远超预期。

在全球范围内，欧盟在AI监管方面走在了前列，其《人工智能法案》作为全球首个正式落地的AI监管立法，标志着AI治理进入了新阶段。而美国的态度则显得截然相反；自特朗普上任以来，监管力度逐渐放松，明确提出要以最少的限制追求技术领先与市场主导。

相比之下，中国则采取了一种更为平衡的发展策略。2023年7月出台的《生成式人工智能服务管理暂行办法》，明确规定了生成式AI服务提供者的合规要求和责任，为AI技术发展提供了法律框架和指导。这不仅体现了对人工智能行业的监管和规范，也是在促进技术创新的有力措施。

中国在国际层面也积极主动，推进全球AI治理的合作。今年，中国在2025年世界人工智能大会上提出成立世界人工智能合作组织的倡议，以推动技术开源共享与全球治理规则的协同发展。尽管美国在大语言模型研发上处于领先地位，但中国在开源模型方面也走在了前头，并取得了显著进展。

历史上，每一次技术的革命都伴随着兴奋与不安，从蒸汽时代、电气时代到信息时代，人类在技术革新中不断摸索平衡。从奥尔特曼和马斯克的警示中，我们看到的是对技术发展的深刻反思与责任意识。人工智能的未来不仅关乎技术本身，更将依赖于全球社会的合作与治理。人类必须防止在追求技术速度的热潮中迷失方向，只有通过合作与共识，才能让AI技术安全、健康地引领人类走向未来。