AI事故难以杜绝，奥尔特曼提议效仿航空业建事故上报制

奥尔特曼发声：AI事故无法杜绝，关键在复盘机制

在赛富时Dreamforce大会的讲台上，OpenAI首席执行官萨姆·奥尔特曼抛出了一个并不令人轻松的判断：对于一项新兴技术而言，一定程度的事故难以避免。与其追求零风险，他更在意的是行业能否形成一套完善的事故上报与复盘学习机制。

奥尔特曼以美国联邦航空管理局（FAA）和美国国家运输安全委员会（NTSB）作为参照。这两家机构对事故调查的重视，被认为是航空出行安全性持续提升的重要推力。他引用其处置思路称，事故终究会发生，关键在于尽可能从每一起事故中汲取经验，并据此作出应对。

这一表态的背景是，外界对头部AI实验室研发高能力自主系统的步伐是否过快，再次提出疑问。奥尔特曼承认，人们对于AI末日论的担忧确有其合理性，世界对此感到害怕是理所应当的。他同时指出，一方面存在AI失控事故的可能性，另一方面少数研发机构手中也可能聚集起过大的权力。

安全与能力赛跑，企业应做好减速准备

奥尔特曼给出的解决方案并非放弃技术。他强调，AI企业必须保证对齐、安全以及监控方面的工作大幅领先于模型能力本身的提升速度。如果做不到这一点，企业就应当做好准备，主动放缓甚至暂停研发工作。

不过，这番表态可能进一步激化AI安全倡导者的核心批评：前沿实验室口头上承认风险重大，却依旧持续开发能力更强的模型。奥尔特曼称，一旦商业压力有可能阻碍企业或者国家做出正确抉择，公众就会陷入深深的恐慌。但他强调，这并不代表就要接受灾难的发生，核心在于如实披露各类事件、迅速复盘吸取教训，阻止事态进一步恶化。他甚至表示，或许有机会彻底规避那些极端风险局面。

就在这场行业争论持续发酵的同时，特朗普政府对AI行业监管态度冷淡，政策重心是维持美国相对中国的技术领先地位。美国总统科学与技术顾问、前白宫AI事务负责人戴维·萨克斯于当地时间上周日再次重申该立场。此前奥尔特曼与Anthropic首席执行官达里奥·阿莫代都呼吁要对前沿AI的发展速度加以管控。萨克斯在X平台发帖写道，达里奥撰文提出需要管控前沿发展节奏，萨姆也对此表示认同；大家或许会对他的答复感到意外：放手去做吧，但是别再假装还需要征得其他人的许可。

从行业视角看，奥尔特曼的“航空业式上报”提议，实质上是试图在创新速度与公众信任之间寻找制度缓冲。但这一路径能否落地，取决于企业是否愿意公开那些可能暴露自身短板的负面事件，也取决于监管者是否愿意在“保持领先”的政治叙事下，为安全机制留出真正的空间。至少目前，来自白宫的信号与前沿实验室的呼吁之间，仍存在明显的张力。