约书亚·本吉奥警告：AGI或在五年内实现 人类需紧急应对AI风险

近年来，人工智能（AI）的迅速发展引发了全球范围内的广泛关注与热议。作为深度学习领域的先锋，约书亚·本吉奥对这一趋势的看法发生了显著的转变。在2025年北京智源大会，作为2018年图灵奖得主的他表示，自己严重低估了AI技术的进步速度，尤其是在大型语言模型和自动生成内容方面的突破，为实现通用人工智能（AGI）奠定了基础。

本吉奥指出，我们已经见证了AI在语言理解和生成方面的惊人能力，“几年前我们还无法想象这样的机器能通过对话与人类无缝交流。”这种能力的提高使得本吉奥感到不安，他认为在未来五年内，人类可能面临AGI真正实现的局面。在他看来，科技的惊人进步意味着我们在政策监管、伦理审视等方面的应对措施不能再拖延，而是需要立刻采取措施。

本吉奥的担忧并不仅仅是理论层面的。AI系统的决策过程往往是黑箱式的，作为开发者的人类很难充分理解机器在何种情况下作出特定决策。他表示：“即便我们可以训练机器进行某些任务，也无法确保它们始终按照我们的意图去行动。”这种不可预测的特性使得日益强大的AI可能导致重大的社会和政治风险。

在本吉奥看来，AGI的实现可能会使得权力集中在极少数拥有强大资源的组织或手中。这种不均衡的权力结构将可能导致全球范围内的不稳定和冲突。他尤其提到，某些人可能会因意识到AGI的潜力而推动技术的军事化，甚至希望机器能取代人类。这样的未来令人胆寒，而我们所需面对的时限也极具压力。

为了应对这一局势，本吉奥呼吁建立全球性的AI监管框架。他强调，AI的风险并非单独一国的问题，而是一个需要国际社会共同面对的挑战。尽管各国在这一问题上的立场和诉求往往存在分歧，确立有效的全球政策框架仍然至关重要。特别是，他认为加州的AI安全法案SB1047是朝着正确方向迈出的一步，该法案要求企业在未采取安全防护措施的情况下，需对其AI系统引发的损失负责。

本吉奥也清醒地意识到，现有的法规和监管措施可能不足以应对未来即将到来的AGI挑战。这样的局面不仅为科研者、企业带来了巨大责任，也对普通大众提出了警示。他表示：“智慧赋予力量，谁来控制这种力量？”在技术垄断和权力聚集的问题上，只有极少数的机构和国家有能力投入巨额资金来构建和训练强大的AI系统，这类发展可能加深经济和文化的不平等，带来社会分化和冲突加剧的风险。

为了确保AI发展能够服务于人类的共同利益，本吉奥已将自己的研究重心转向AI的安全机制，并倡导采取实际行动，包括：

1. 加深AI对齐研究：确保AI系统在决策过程中能够符合人类的核心价值观，避免其行为背离人类利益。

2. 加速全球监管框架的制定和实施：包括制定国际公约，以建立全球范围内的监管合作，减少技术滥用的风险。

3. 促进国际合作：在防止AGI技术可能引发的军备竞赛方面，各国应加强协作与对话，通过多边机制解决潜在的威胁。

4. 提升公众意识：通过教育与宣传提高大众对AI潜在风险的认知，推动透明的、负责任的AI发展。

本吉奥的警告并不仅是一种危言耸听，而应被视作时代的警钟。面对未来五年内AGI可能带来的变革和挑战，我们必须积极应对，推动研究、立法与社会共识的建立，以应对即将到来的这一重大科技转折点。

在这个快速演变的时代，技术的革新不可阻挡，但人类能够选择如何与之共存，塑造一个和谐共生的未来。AI的发展不是风险的代名词，而是人类智慧的延续与创新的契机。希望在约书亚·本吉奥的呼吁之下，更多的人能意识到这一点，共同创造一个更加安全和可持续的人工智能生态系统。