AGI定义之争再起:DeepMind首席科学家质疑GPT-6 Astra已达标
DeepMind联合创始人莱格反驳AGI已至论调,强调能力不能跑在安全前面,并发布DeepMind Institute聚焦AGI社会影响,首篇文章直指GPT-6 Astra透明度下降。
围绕通用人工智能是否已经落地,行业高层的分歧正变得公开化。谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日公开反驳了OpenAI总裁格雷格·布罗克曼与英伟达CEO黄仁勋关于“AGI已经到来”的判断,并强调AI能力的发展绝不能越过安全保障的边界。
能力与安全之间的时间差
莱格指出,当前AI能力的提升速度“非常、非常快”,但行业不能允许能力进步持续领先于安全措施。这一表态直接回应了近期部分厂商高管的乐观论调。
对于Anthropic CEO达里奥·阿莫代伊提出的建议——出于安全考虑放缓前沿模型发布、但不完全暂停研发——莱格认为方向“值得考虑”,不过具体执行方式仍需各方认真讨论。这并非简单的站队,而是把争议从“要不要慢下来”推向“如何慢、慢多少”的操作层面。
AGI判定标准尚未统一
OpenAI发布GPT-6 Astra后,布罗克曼宣称“我们现在已经进入AGI时代”,黄仁勋也以Astra的能力为依据给出相同判断。莱格对此持保留态度。他表示,即便不同机构对AGI的定义存在差异,目前也不清楚Astra是否达到了OpenAI自己的标准。
OpenAI此前将AGI定义为能够完成大多数具有经济价值的认知劳动。莱格承认这些模型确实能完成一些令人印象深刻的任务,但在他看来,其能力尚未达到OpenAI对AGI的定义。莱格也是“AGI”这一术语的早期提出者之一,他坚持此前预测:到2028年实现“最低限度AGI”的概率为50%。按照DeepMind的定义,AGI是具备人类大脑全部认知能力的人工智能系统。
DeepMind Institute亮相,首篇文章剑指透明度
莱格作出上述表态之际,DeepMind正式推出DeepMind Institute,研究通用人工智能的部署及其对科学、教育、社会、政策、哲学和人类福祉等领域的影响。该研究所由莱格、DeepMind董事长德米斯·哈萨比斯和谷歌高级副总裁詹姆斯·马尼卡共同担任负责人。
莱格表示,随着公众开始认真对待强大通用智能出现的可能性,现在需要展开更广泛的社会讨论。研究所将把DeepMind的技术研究转化为更多公众可以理解的内容,同时邀请外部专家参与讨论。
研究所首批发布三篇文章,主题涉及AI安全、经济政策及“新乌托邦主义”原则。其中一篇由DeepMind研究人员罗欣·沙阿和安卡·德拉甘撰写的文章,将矛头指向GPT-6 Astra的发布速度。
- 两名研究人员认为,Astra在推理过程透明度方面呈现出“令人担忧的下降趋势”。
- AI公司的竞争压力可能削弱其提高透明度的动力,监管可以在这一问题上发挥作用。
- 文章同时指出,只要在模型设计阶段加入保障透明度的机制,行业仍然可以继续开发能力更强的模型。
- 目前最先进的推理模型能够以人类可以理解的方式展示部分推理过程,这为外界观察和研究AI行为提供了难得的窗口。
马尼卡表示,谷歌希望参与的AI竞赛只有一个,即把这项技术做对的竞赛。
趋势解读:定义权争夺将成下一阶段焦点
从这场争论看,AGI是否“已经到来”并非纯粹的学术问题,而是牵动产品叙事、监管节奏与公众预期的定义权之争。厂商倾向于用里程碑式宣告抢占话语高地,而安全派则试图把讨论拉回可验证的标准与透明度机制。DeepMind Institute的成立,意味着谷歌系力量正把AGI议题从实验室推向公共政策场域。未来一段时间,围绕模型透明度、发布节奏与评估标准的博弈,可能比模型本身的能力跃升更值得关注。