AGI 怎样才算真的来了？

本文来自微信公众号： 深流研究所 ，作者：吴绛枫 9月3日，OpenAI总裁格雷格·布罗克曼在发布新模型GPT-6 Astra后，抛出了一句话：“欢迎来到AGI时代。” 三天后，黄仁勋在社交平台上把话说得更直接：“从ChatGPT到o1，再到GPT-6 Astra，只用了四年。AGI已经到来。” 众所期待的AGI，就这么突然被宣布实现了？ 显然，事情没这么简单。 GPT-6 Astra发布前不久，OpenAI CEO山姆·奥尔特曼还在说，AGI是一个“定义极其模糊的词”，甚至差点称它为“无关紧要的营销术语”。 负责GPT-6 Astra关键评测的ARC Prize团队也专门提醒：GPT-6 Astra确实代表了通用化能力的重要进步，但“我们并不声称它就是AGI”。 一边是“欢迎来到AGI时代”，一边是“我们没有说这是AGI”。 今天，谁都在谈AGI，却没有谁能说清楚：AI究竟要做到什么，才算真正越过了AGI这条线。 ■榜单上的高评分，能和AGI划等号？ 先来看看GPT-6 Astra最令人咋舌的成绩，是在ARC-AGI-3上拿到99.9%。 ARC-AGI与普通评测不太一样。它不会直接告诉模型规则，而是把模型放进陌生环境，让模型自己判断目标、理解反馈，再找到解决办法。 这项评测试图衡量的，正是当前AI最受质疑的一种能力：面对没见过的问题，能不能现场学会。 99.9%的得分当然惊人。但这个数字有一个常被省略的前提。 在ARC Prize统一提供的标准测试框架中，GPT-6 Astra得分为62.7%；接入OpenAI提供的专用适配框架后，得分才上升到99.9%。 后者允许模型保留跨请求的隐藏推理状态，并利用上下文压缩延续此前的探索经验。 我们无法把OpenAI这项操作简单归类为“作弊”。毕竟，现实中的AI本来就不会裸机运行。记忆、工具和运行框架都可能成为智能系统的一部分。 问题在于，62.7%测量的更接近单个模型的能力；99.9%测量的则是一套经过专门优化的完整系统。 两项成绩都是真的，却不能混为一谈。更不能把99.9%的测试得分，顺手换算成“99.9%的AGI”。 此外，GPT-6 Astra在其他评测上的表现，也没有呈现出一个无懈可击的通才形象。 它在高难数学测试FrontierMath Tier 4上达到97.6%，在计算机操作测试OSWorld 2.0上得到72.6%；但到了更接近真实办公流程的AutomationBench，成绩降至41.4%，在复杂专业任务测试Agents’Last Exam上也只有59.3%。 这些数字真正说明的是，当任务规则清晰、答案可以验证时，Astra已经能够逼近甚至超过人类；一旦进入流程冗长、目标模糊的现实环境，它仍然会频繁失败。 AI在封闭考试中表现出色，并不新鲜。 深蓝击败国际象棋世界冠军，Watson赢下《危险边缘》，AlphaGo走出“神之一手”时，人们都曾短暂地产生过类似的错觉：既然机器已经征服了如此复杂的任务，通用智能大概也不远了。 规则明确、反馈即时、有自动裁判的世界，与现实生活并不是一回事。 ■人人都在说的AGI，是同一个东西吗？ AGI至今缺少统一共识。 OpenAI采用了最具经济导向的定义。其在2018年发布的公司章程将AGI描述为“在大多数具有经济价值的工作上超越人类的高度自主系统”。 这一定义包含三个关键条件——覆盖广泛的工作、表现超过人类、能够高度自主运行。 现实工作中的产出构成了核心尺度。意识、情感和人类式思维并未被列为必要条件。 这一标准与OpenAI近年的产品路线高度契合。 推理模型提升复杂任务的处理能力，智能体强化工具调用和计算机操作，Codex等产品进一步进入软件开发流程。 各项能力最终汇向同一个目标：让AI承担更完整的工作，并将模型能力转化为可规模化部署的生产力。 Anthropic对AGI的处理方式更加谨慎。CEO达里奥·阿莫迪认为，这个词承载了过多模糊含义，因此更常使用“强大的AI”。 在2024年10月发表的《Machines of Loving Grace》中，阿莫迪描述了一类具体系统： 它在多数重要领域达到或超过顶尖专家水平，能够独立完成持续数小时、数天乃至数周的任务，还可以复制成数百万个实例，以远高于人类的速度同时工作。 这幅图景包含能力、自主性和复制规模三个变量。三者共同决定AI的现实影响，也会同步放大滥用、失控和系统性风险。 基于这一判断，Anthropic将能力扩展与风险治理绑定。公司的战略重点可以概括为：保持前沿模型竞争力，同时让安全保障随能力等级同步升级。 Google DeepMind关注的，则是AGI的测量标准。 其2023年发布的《Levels of AGI》文章，以“性能”和“通用性”为两条主轴，将通用智能划分为“新兴”“胜