Open前研究主管：通用人工智能AGI的关键突破已实现

在近期一场关于通用人工智能（AGI）的讨论中，Open前研究主管Bob McGrew分享了他对AGI可实现性的看法，认为当前已经实现了AGI所需的关键突破。他表示，虽然技术的提升是显而易见的，但关键在于如何有效地将这些推理能力应用到实际中，进而重塑价值创造的路径。

作为见证者，McGrew的职业生涯横跨了从GPT-3到现阶段推理模型的演变，他强调，AGI发展的三个核心支柱包括：Transformer架构、大规模模型以及推理能力。这三者的持续整合与提升，使得AGI的实现变得可期待。在过去五年中，技术的飞速发展令人振奋，且这一趋势预计将会继续下去。

在参与红杉资本的“训练数据”播客时，McGrew提出，如果我们展望到2030年，可以出实现更高智能所需的根本概念。这些概念包括基于_transformer_的语言模型、大规模训练（如GPT-1和GPT-2）、推理能力的引入，以及日益增强的多模态处理能力。他甚至预言，到了2035年，AGI的发展仍将围绕这些核心要素，不会出现太大变革。

回顾2020年，GPT-3刚刚诞生时，Open的团队便意识到这个模型将引发“划时代的变革”。McGrew回忆道，当时他与Dario Amodei、Ilya Sutskever等人围坐在一起讨论的发展路径：从GPT-3到GPT-4，必需在模型规模和多模态能力上的扩展，同时还要探索“测试时计算”（test time compute）等新方法。由此的发展仍将围绕这几个概念进行优化、改进，尽管这将需要巨大的努力和智慧。

在谈到推理能力的未来时，McGrew指出，2025年被他视为“推理之年”。推理作为一种新技术，近年来快速演进，尤其是在2023年9月发布的o1-preview与六个月后的o3之间的变化，展现了推理能力的飞速提升。Open多年积累的推理技术开始向其他公司扩散，如Google、DeepMind和Anthropic等领域的企业，反映出推理正逐渐成为各大实验室的发展焦点。

推理领域的诸多成果，似乎也是未来发展方向的明证。例如，在o1-preview与o3之间的主要差别在于前者不能利用工具，而后者则具备在“思维链”（Chain of Thought）中调用工具的能力。这表明，在追求智能的过程中，推理能力的提升是关键的。随着推理能力的发展，技术潜力可能逐渐被“消耗殆尽”，因此对速度的期待需要进行重新审视。

在当前的讨论中，有观点认为行业正面临瓶颈，Scaling Law可能即将结束。但McGrew认为，虽然技术和收益递减是尚存的挑战，但智能的提升本质上依然与算力的投入有关。这种关系表明，为了实现一定幅度的智能提升，必须对算力进行成倍的增加。这使得整个训练过程变得耗时且复杂，通常需要数月甚至数年才能完成新模型的训练。

尽管如此，推理能力的提升仍然至关重要。尤其是在不断优化效率、支持更长上下文以及更好利用上下文时，这迫使我们从根本上重新考虑模型结构与推理的关系。于是，尽管推理在整个过程中变得愈发重要，但它所扮演的角色却不再是单纯的提升智能，而是逐步塑造模型的具体行为与个性，以便其表现出更人性化的反应。

在对推理重要性进行深入思考时，McGrew解释了推理为何被视为AGI发展的关键部分。他指出，推理使得模型能够以“直觉式”的方式理解问题。虽然许多人能够轻松进行复杂的计算，但这种“立即得到准确结果”的能力并不是人类思维的本质。人类往往需要思考与推导，而早期模型未能真正掌握这一点。

基于此，Open将注意力转向推理范式，这一选择也许是其成功背后的重要因素。虽然行业内仍有大量的探索空间，许多新想法可能已经转向了隐秘的细节，但在整体上，推动AGI进展的核心理念与方法已变得愈加清晰。

无论未来AGI的发展方向如何，当前的关键在于技术能否真正落地，推动人类的智能水平走向新的高度。回顾过去与展望未来，正是这样的思考将使我们获得更好的理解与应用，在AGI的道路上继续前进。