绕开文本生成：前OpenAI研究员打造纯决策AI，响应提速200倍

不聊天，只决策：一种新范式的提出

当业界普遍将大语言模型视为通向通用人工智能的核心路径时，一位前OpenAI研究员提出了截然不同的思路：不生成文本，只做决策。该模型绕开了逐词预测的文本生成流程，直接输出动作或选择，从而将响应速度提升约200倍。这一方向挑战了当前以对话交互为主导的AI产品形态，也引发了对模型效率与任务边界的重新思考。

传统大模型在每次响应时，需要依次生成每一个词元，推理延迟随输出长度线性增长。对于需要毫秒级反应的场景——如机器人控制、高频交易或实时游戏——这种延迟往往难以接受。而纯决策模型将输出空间压缩为有限的动作集合，省去了语言解码的中间环节，因而在速度上具备数量级优势。

速度从何而来：绕开文本生成的代价与收益

文本生成本质上是一种序列解码过程，模型必须逐词采样并维持上下文一致性。这一过程不仅计算量大，还引入了不可控的延迟波动。纯决策模型则通常采用更紧凑的架构，直接映射状态到动作，推理路径更短。

• 延迟降低：无需生成完整句子，单次前向传播即可输出决策。
• 资源占用少：模型规模可大幅缩小，适合边缘设备部署。
• 任务专一：放弃通用对话能力，换取特定场景下的实时性。

代价同样明显。这类模型无法解释决策过程，也难以处理需要复杂语言理解的任务。它更像一个反应式的控制器，而非能与人自然交流的助手。因此，其适用边界集中在规则明确、反馈即时的环境中。

行业影响：实时决策场景或率先受益

微软等平台厂商近年来持续加码AI推理基础设施，若纯决策模型成熟，云服务商可提供更低延迟的推理实例，服务于游戏AI、自动驾驶仿真与工业控制等场景。对开发者而言，这意味着不必为每个实时任务强行套用聊天模型，而是可以选择更轻量的决策专用方案。

从更广的视角看，这一思路提醒业界：AI不必都以聊天界面呈现。语音助手、客服机器人之外，大量后台决策任务本就无需自然语言输出。将模型能力按任务解耦，可能比一味追求通用大模型更务实。当然，纯决策模型能否形成生态，取决于工具链、训练数据与部署标准的完善程度，目前仍处于早期探索阶段。