ChatGPT 背后功臣:Almeida 推出 AI 模型 Jev,不生成文本、输出免费
IT之家 9 月 17 日消息,TypeSafe AI 于昨日(9 月 16 日)发布声明,正式推出名为 Jev 的 AI 模型,该模型被定位为“System One Model”(系统一模型),不进行文本生成,直接返回结构化决策结果,其成本和延迟均远低于大型语言模型。
IT之家查阅公开信息发现,TypeSafe AI 由 Diogo Almeida 创立,他曾在 OpenAI 任职,是 RLHF 研究的重要贡献者之一,而该研究直接推动了 ChatGPT 的诞生。这家公司成立于两年前,本周对外宣布结束隐身状态,并透露已完成由 DCVC 领投的 4000 万美元(IT之家注:按当前汇率约合 2.69 亿元人民币)种子轮融资。
该公司将 Jev 定义为“System One Model”(系统一模型),适用于快速、低延迟的重复性决策场景。该定义借用了心理学中的“系统 1”概念,即快速、直觉式的判断。这类模型针对固定选项、连续评分或是否概率等重复性决策任务,其输出形式并非以生成自然语言文本、代码或多轮对话为主。
Jev 不会生成自然语言字符串或代码。其输出包含三类固定原语:
- Choice(选择):这是 Jev 提供的结构化输出原语之一。模型从预先定义的选项集合中选取一项,最多支持 255 个选项,并返回各个选项的概率分布或对应的置信度。
- Score(评分):模型根据输入内容,在指定的数值范围内给出评分,并附带置信度信息。文中以 0 到 1 范围内的客户流失风险评分为例,其应用场景包括风险分级、记录排序和批量数据标注。
- Noul(布尔概率):模型针对预设问题返回校准后的“是”或“否”概率及置信度,可用于对其他模型的结果进行二次验证、识别低置信度结论,以及在自动化工作流中设置条件分支。
在底层训练方式上,官方称采用了“校准决策强化学习”(RLCD),其目标是优化模型置信度与实际正确率之间的对应关系。例如,当模型在多个预测中给出 70% 的置信度时,理论上约有 70% 的相关预测应当正确,这适用于风险评分、审核分流与模型输出验证。
该公司声称,在同类结构化任务上,Jev 的速度比前沿大语言模型快 20 至 200 倍,成本低至后者的 40 至 400 分之一。
输入词元(Token)的定价为每百万个 0.042 美元(按当前汇率约合 0.28 元人民币),而由于根本不存在自回归生成过程,输出词元实际上是免费的。
TypeSafe 公布的基准测试数据显示,速度最高提升了 193.6 倍,成本最高降低了 444.6 倍,但同时也承认这些数字代表实际性能的上限。
为了展示其实时决策能力,该公司发布了一段 Jev 玩《毁灭战士》的视频,其调用频率约为每秒 10 次,每小时游戏费用约为 7 美元(按当前汇率约合 47.1 元人民币)。在一项维基百科链接导航基准测试中,Jev 完成任务的速度超越了多个以高速非推理模式运行的前沿模型。
