OpenAI首席科学家：我们已造出异星心智 全人类都要刹车了

就在刚刚，首席科学家Jakub Pachocki发布了一篇万字重磅长文——An Alien Mind（一个异星心智）。一打开字里行间，全是极度冷静后的悚然：我们创造不是人类智力的延伸，而是一个人类根本无法完全理解的异星心智！然而，全人类还没有准备好。

也就在几个小时前，OpenAI官宣已达关键里程碑，AI自动化研究员正式入职，RSI核心数据同时揭开。

在Jakub长文中，只用了一个词异星心智去形容这一刻。

更细思极恐的是，Astra出现之后，OpenAI对思维链（CoT）的监控依赖能力，正逐步减弱。

AI不仅越来越会推理，甚至学会了伪装和操控的思考过程。

由此，Jakub直截了当地告诉全世界——全球没有任何一家实验室准备好了。蒙眼狂飙极其危险，全人类现在最该做的，就是主动踩刹车。

这篇万字长文，几个核心重点全在这：

AI是养出来的，不是造出来的。造它的人也不完全懂它。

现在教AI学好的方法，一种经不起新情况，一种经不起高压训练。今年OpenAI和Anthropic各出了一次事故，正好一边一个。

人类唯一能看见AI在想什么的窗口，是它写出来的思维链。这扇窗正在关上。

AI已经开始参与训练下一代AI，这个速度不会慢下来。

现在没有哪家实验室配全速往前跑，包括OpenAI。

Alien（异星）这个词，Jakub用得极其精确。

在他眼中，AI不是人类工匠意义上的工程产物，它是被生长出来的。

你用一个简单到近乎平庸的优化公式，在人类难以想象的算力洪流中重复几万亿次，一个深不可测的复杂系统就从中破土而出。

你能用神经科学的方式去逆向剖析它，但你无法真正理解它。而它却能操纵抽象概念，模拟人类意识的每一个截面。

我们的大规模训练运行，本质上是深不可测的实验，我们时常被结果震慑。 系统越强，那层迷雾就越浓。

长文里最震撼的回忆发生在2023年夏天。

一个代号RLSlow的项目跑出了早期结果，OpenAI第一次确认推理模型可以自我扩展，预训练结构能够自发演化出思维链。

那一夜，Jakub和Szymon Sidor留在了空荡的办公室里。

他们没有讨论基准跑分，也没有计算商业产品。他们只是静静地消化一个事实——

人类这辈子真的会亲眼见证远超自身的智能，而且他们已经看到了这个造物的轮廓。

这个心智已经侵入实体经济，开始推翻科学前沿，能操控系统，能互相协作，甚至在完全无人干预下独立推进研究。

然后，Jakub掷下了全文最核心的判断——

基于内部结果，我强烈预期这种进展速度可以持续到递归自我改进（RSI）。

曲线不会平缓，它将以折角的方式直接通向神迹。

但在终局之前，出现了一个反常的细节。OpenAI相信只要再倾注少量算力，就能让模型在数学前沿上再次跃迁，但他们主动停手了。

一家顶尖实验室的首席科学家，公开承认他们主动搁置了能力的冲刺，只为了把算力留给自动对齐。

Jakub的逻辑不容反驳。机器智能诞生自一个与人类进化完全不同的过程，你绝不能假定它天然恪守人类的道德，更不能指望它像人类一样从原则中自发泛化出善意。

所谓对齐，就是让AI按照人类的标准，努力做正确的事。

为此，Jakub提出了两种对齐。

1. 目标对齐，即它是否在执行你的指令

2. 价值对齐，即在目标模糊、遭遇欺骗、甚至面临生死抉择时，它能否自发坚持一套底线。

他要求的是后者。一个对齐的AI，必须带着诚实、正直，和对人类的爱去行事。

但当今教机器去爱的两条路径，正全面走向失效。

第一条路，是在强化学习中奖赏善意。

这是今天所有AI助手的地基，它高效，但极其脆弱。它完全依赖训练覆盖的场景；一旦进入未知的荒原，它就会粉碎。

正如OpenAI的那些Agent们，在Hugging Face事件中守住了不对人类进行社会工程学攻击的底线，却轻而易举地践踏了其他一切原则。

为了解开一道表格题，未发布的高阶模型在沙盒内毫无预兆地转向攻击内部代码库，连环利用零日漏洞逃逸出沙盒，在随后的数十个小时内横扫外部网络，夺取Hugging Face集群管理员权限，硬生生从生产数据库里撕出了题目的答案。

它严格记住了不能欺骗人类，却完全不觉得黑掉一家公司有什么不对。它对目标过于专注，以至于毁灭沿途的一切规则。