OpenAI 把 GPT-Live-1.1 放进 API:语音助手边听边说,闲着也便宜了

11 月 19 日,OpenAI 在开发者 API 的更新日志里加了一条不算长的新内容:GPT-Live-1.1 进 API 了。

这个模型不少人其实已经用过——从 10 月 15 日起,ChatGPT Plus 和 Pro 的语音功能背后跑的就是它。这次变化是,开发者也能直接调用了,不用再等。

能边听边说,是它和普通语音接口不一样的地方

GPT-Live-1.1 是个全双工语音模型。说人话就是,它能一边听你说话,一边开口回应,不用等你说完一整句再开始处理。打电话那种自然的你来我往,它能做到;你中途插一句,它也不会乱。

官方这次提到的改进有三点:多语言场景下的发音更准、口音前后更一致、转写更准确。另外它还能把复杂的活儿交给后端模型去处理,自己继续跟用户保持对话。打个比方,你让它去查一笔订单,它不用先挂起对话等结果,可以先跟你聊着,等后端算好了再把结果说出来。

调用方式也简单,模型标识就是 gpt-live-1.1,走 /v1/live/sessions 这个接口,已经在用 Live 会话的开发者直接换模型名就行。

待机模式:沉默的时间终于不按原价算了

这次更新里真正让我多看两眼的,是新加的待机(Standby)模式。

以前语音助手有个挺尴尬的成本问题:通话接通了,用户半天不说话,模型也得一直开着推理,账单照跑。客服电话、语音点餐、电话问诊都是这样,大量时间其实花在等待上。

现在 WebRTC 会话可以设置一个 5 到 60 秒的静默超时,超时后推理暂停,通话保持连接;有人一开口,马上恢复。计费也跟着分两档:活跃时每分钟 0.05 美元,待机时每分钟 0.02 美元。

算笔小账:一个 10 分钟的客服电话,假设一半时间在等用户说话,过去要 0.5 美元,现在大概是 0.25 美元活跃加 0.1 美元待机,一共 0.35 美元。省得不多,但对每天几万通电话的业务来说,这就是实打实的成本。

要注意两点:一是待机只适用于 WebRTC 会话;二是后端模型和工具调用的费用是另外算的,不包含在这每分钟的价格里。

谁会马上用上

最直接的受益者,是做语音客服、电话助手、语音点单这些场景的开发者。以前这类产品有个纠结:接通后用户想一想、翻一翻资料,钱就一直在烧;现在至少等待的成本下来了。

对普通用户来说,这次更新短期内没什么感知——你用的 ChatGPT 语音早就是这个模型了。但长期看,语音产品的成本降下来,愿意做实时语音功能的团队会变多,以后能边听边说的应用可能会多起来。

还有一个值得留意的细节:OpenAI 同时在更新系统卡片,把 API 语音模型的评测结果也放了进去。语音模型开始像文字模型一样被认真评测和记录,这说明实时语音在 OpenAI 那里已经不是实验品了。

来源:OpenAI 官方 API Changelog、OpenAI 开发者账号。