过去几年,我们和语音 AI 打电话的体验,本质上是在跟一个反应极快、但从不思考的复读机对话。它能听懂"帮我订张机票",却永远搞不定"帮我改签到后天下午,但别动我那趟联程的第二段"。现在,谷歌决定让它先想一想再开口。
Google DeepMind 最近发布了一个在语音 AI 领域颇具分量的更新:Gemini 3.8 Live 以及它的伴生模式 Gemini 3.8 Live Extended Thinking。简单说,谷歌把此前只开放给非实时、纯文本 Gemini 模型的"推理能力",正式搬进了实时语音和视频 API 里。
这句话翻译成人话就是:实时语音 AI 终于可以"先想后说"了。
为什么"实时"和"推理"一直是两条平行线
要理解这次更新为什么重要,得先搞清楚实时语音 AI 长期面临的一个结构性矛盾。
传统的语音助手(包括早期的 Gemini Live)走的是"快通道":语音识别 → 意图理解 → 调用工具 → 生成回复 → 语音合成。整条链路被压缩到几百毫秒内完成,用户体验是"秒回",但代价是没有中间推理环节。模型只能做模式匹配式的浅层决策,遇到需要多步推导、条件约束、上下文权衡的任务,它要么硬答,要么答错。
而真正有"思考能力"的大模型(比如文本版的 Gemini、o 系列推理模型)走的是"慢通道":模型在给出答案前,会先生成一大段内部推理链(chain-of-thought),反复自我检查、拆解子问题、验证约束。这条路推理质量高,但延迟动辄几秒到几十秒——放在电话场景里,对方早就挂断了。
这就是行业里那个尴尬的"三难困境":低延迟、高质量推理、自然对话节奏,三者不可兼得。
Gemini 3.8 Live Extended Thinking 想做的,就是把这个三角往中间拉一拉。
Extended Thinking 到底改了什么
根据谷歌的说明,Gemini 3.8 Live Extended Thinking 允许开发者在实时会话中启用一个"扩展思考"模式。在这个模式下,模型面对复杂请求时,会先在内部进行推理,再输出语音响应。它不是把整个对话都变慢,而是按需触发——简单寒暄照旧秒回,复杂请求才进入"思考态"。
对开发者来说,这个能力通过 Live API 暴露,调用方式和现有的实时会话接口基本一致。一个示意性的伪代码大致长这样:
from google import genai
from google.genai import types
client = genai.Client(api_key="YOUR_API_KEY")
# 建立实时会话,启用扩展思考模式
config = types.LiveConnectConfig(
response_modalities=["AUDIO"],
thinking_config=types.ThinkingConfig(
thinking_budget=2048, # 内部推理的 token 预算
include_thoughts=False, # 是否把推理过程回传(调试用)
),
speech_config=types.SpeechConfig(
voice_config=types.VoiceConfig(
prebuilt_voice_config=types.PrebuiltVoiceConfig(
voice_name="Aoede"
)
)
),
)
async with client.aio.live.connect(
model="gemini-3.8-live-extended-thinking",
config=config,
) as session:
await session.send_client_content(
turns=types.Content(
role="user",
parts=[types.Part(text="帮我把周五的航班改到周六下午,"
"但联程的第二段别动,另外确认行李额够不够")]
),
turn_complete=True,
)
async for message in session.receive():
if message.server_content and message.server_content.model_turn:
for part in message.server_content.model_turn.parts:
if part.inline_data:
# 播放返回的音频
play_audio(part.inline_data.data)
关键参数是 thinking_budget。它决定了模型在内部"想多久"——预算越大,处理复杂约束的能力越强,但端到端延迟也会上升。这是一个需要开发者根据业务场景自行调优的旋钮,而不是一个开箱即用的固定值。
下图展示了这套架构的核心流程差异:
谁最该关心这件事:电话机器人开发者
这次更新最直接的受益者,是电话 AI 智能体(phone agents)这一类应用。
过去两年,客服、外呼、预约、催收等场景大量引入语音 AI。但落地时开发者普遍撞墙:用户一句话里塞了三四个条件,模型就崩了。比如:
- "我上周下的那个订单,如果还没发货就取消,发货了的话帮我改地址到公司。"
- "帮我查一下这个账单,如果超过 200 就分期,没超过就直接付。"
这类请求的本质是条件分支 + 多步推理,恰好是浅层语音模型最不擅长的。而 Extended Thinking 让模型可以在开口前把这些约束在内部梳理一遍,再给出一个连贯的语音回应。
这带来的不只是准确率提升,更是交互范式的变化:语音 AI 从"指令执行器"变成"能处理模糊需求的助手"。
冷静一点:三个还没解决的问题
作为一篇有态度的分析,这里必须泼点冷水。
第一,延迟的账还没算清。 谷歌没有公布 Extended Thinking 模式下的具体延迟数据。推理 token 越多,首字响应越慢。在电话场景里,超过 1.5 秒的沉默就会让用户以为掉线。这个平衡点需要大量实测。 第二,成本会显著上升。 内部推理消耗的是实打实的 token。对于高并发呼叫中心,这意味着单次通话成本可能成倍增长。商业模式能不能撑住,是个真问题。 第三,语音的"思考"和文本的"思考"不完全等价。 文本推理链可以展示、可以校验,而语音推理是隐式的。一旦模型想错了,用户很难像看文字那样定位问题。可解释性在语音场景里反而更稀缺。这是里程碑,但不是终点
把推理能力引入实时语音,方向毫无疑问是对的。它标志着语音 AI 从"语音版命令行"向"能对话的智能体"迈出了实质一步。谷歌这次的动作,很可能会倒逼 OpenAI、Anthropic 以及国内厂商加快在实时多模态推理上的布局。
但真正的分水岭不在于"能不能推理",而在于能不能在几百毫秒内完成高质量推理。谁先解决这个延迟与质量的矛盾,谁就拿下下一代电话智能体的入口。
Gemini 3.8 Live Extended Thinking 是这条路上的一个重要路标。它证明了可行性,但离"聪明到让人忘记对面是 AI",还有一段需要工程和算法一起啃的路。