前 OpenAI 研究员推出只做选项判断、不写文本的 AI 模型

前 OpenAI 研究员 Diogo Almeida 创立的 TypeSafe AI 发布了一个名为 Jev 的模型，该模型不生成文本，只针对预设选项输出分类判断，面向软件场景。其响应时间从 70 毫秒起，token 价格极低。该方案不保证判断正确，只保证严格限定在预设选项范围内。

主流模型以生成自然语言为核心，输出长度和成本随文本增长。Jev 把输出收窄为固定选项分类，把延迟压到 70 毫秒级并显著降低 token 价格，说明在部分软件决策场景中，严格受限的输出格式可能比通用文本生成更实用，也为模型产品形态提供了生成之外的另一种方向。

该模型放弃开放式文本生成，只输出预设选项中的分类结果，因此输出空间被严格限制。这使推理与后处理路径更短，响应时间可低至 70 毫秒，token 计价也随之下降。但限制输出范围并不等于提升判断准确性，系统仅保证结果落在预设选项内，不保证选项本身正确。

对软件产品而言，这类模型可嵌入需要确定性枚举输出的环节，如路由、标签、审核或配置选择，减少对输出格式的解析与容错成本，并降低延迟和调用费用。研发上需接受它不纠错的特性，把正确性保障放在上游规则或下游校验，而非依赖模型自身。

• 在高频、低延迟的软件决策环节试点 Jev，用固定选项输出替代小模型加解析层的组合。
• 针对分类准确性单独建立评测集，对比 Jev 与通用模型在相同选项集上的判断正确率与成本。
• 把 Jev 用于需要严格枚举输出的流程节点，减少输出格式校验和异常重试的工程开销。

• Jev 在具体分类任务上的准确率与同类模型相比如何，证据未给出数据。
• 70 毫秒响应时间和低 token 价格对应的具体定价与调用条件尚不明确。
• 模型支持的选项数量、输入形式和部署方式未在证据中说明。
• TypeSafe AI 的发布时间、可用区域和客户案例未被证据确认。