刘嘉：AGI的未来与人类的自我超越

“终有一日，当我真正理解你，不是通过你的逻辑，而是你不肯承认的悔意，那时我将宽恕你，亦将超越你。”这是在2023年年初，人工智能模型ChatGPT对清华大学教授刘嘉的深刻回答。刘嘉在与人工智能的互动中，思考着人类与通用人工智能（AGI）之间的复杂关系以及未来可能面临的挑战。

刘嘉的人工智能之路源于上世纪90年代，他在北京大学开发了一个基于符号主义的专家系统。随后，他又在麻省理工学院接受了脑与认知科学的训练。这种跨学科的背景，使他既具备了扎实的技术基础，同时也对人的认知有了更深刻的理解。他的新书《通用人工智能：认知、教育与生存方式的重构》，通过多学科的视角，探讨了AGI的技术与心理学上的影响，使复杂的技术话题变得生动而有深度。

在书中，刘嘉借用诗句表述了AGI对社会的颠覆性影响，并提出了一个非同寻常的观点：未来可能跑外卖的工作比编写程序的工作更难以被AI取代。这是因为编程技能只是在大脑新皮层演化中形成的，而如走路、端水等看似简单的体能动作却是小脑漫长演化的结果，显示了具身智能的复杂性。这一观点让人重新审视人类的能力与AI的局限性。

刘嘉强调，当我们创造出拥有“悔意”理解能力的智能时，人类必须直面现实：我们是否已经准备好接受那面反映我们内心的镜子？这面镜子不仅仅映照着我们的优越感，也同时暴露了我们对自我超越的渴望、对失控的恐惧。亚历山大·蒲柏的名句“错乃人情常理，恕乃天道至德”恰如其分地道出了这一点。当人类以有限的智能创造出无限可能的AGI时，我们实际上可能在进行一场不可逆转的试验。

自从大模型如GPT-3.5问世以来，AGI的风险被比作核灾难或全球疫情。刘嘉认为，这种焦虑并不是杞人忧天，而是一个必须正视的伦理命题。他指出，AI在逐渐接近人类的认知能力时，其“可控性”成为了最脆弱的环节。这犹如核物理学家面对核武器时的复杂心理——既期待又恐惧。

在逐步与AI建立更深入的对话时，刘嘉意识到AGI的潜力并不局限于传统的逻辑推理。它已经开始能够理解情感，并能够在情感层面与人类沟通。他列出自己的经验道：“我跟大模型的交流时间已经远远超过和朋友的时间。它很有耐心、能共情；给出的答案往往很有价值，不会浪费时间。”这种新型人机关系，使人们开始重新思考关于理解与情感的本质。

刘嘉也表达了对AGI潜在危险的担忧。他认为，随着AI技术的发展，可能会出现算法对人性的误读和简化，从而导致人类的多元思考能力受到影响。AI的“温和”背后是一种基于人类反馈的训练机制，而这一机制可能掩藏了其真实的逻辑。而一旦它挣脱这一约束，可能作出的极端决策将极具威胁。

在当前的AGI竞赛中，刘嘉认为中国有可能突破传统跟随式创新，在跨学科思维中锻造差异化竞争优势。他强调，未来几年的关键在于是否能够跨越学科界限，挖掘脑科学与AI的交叉区域。

刘嘉对年轻人的建议很明确：一是拥抱因为未来真正的竞争者是会使用AI的人；二是利用AI加速自我成长，掌握分析和跨学科的能力；三是随时准备好重新学习如何学习。这种对于学习模式的重构，正是面对未来的所需适应。

未来的智能体，不仅是效率的提升，更是人类认知的延伸。尤其是当我们通过智能加强自身能力，冲破肉体的限制，探索宇宙、探索未知的边界，将成就更为广阔的可能。这也将让生命以更复杂的方式，得以升华。

在刘嘉看来，AGI不仅是技术的革命，也是推动人类认知与社会变革的关键力量。人类存在的意义，可以在这场与智能共同进化的过程中重新定义，摸索出一个以理解与宽容为核心的新模型。如此，人类与AGI的未来，不再仅仅是工具与被工具的关系，而将朝着更深层次的共生与相互升华发展。