qwen3 中文文档 下载 App

Qwen3 思考模式原理 — 混合推理模式技术解读与工作流程

混合推理模式是什么

混合推理模式是 Qwen3 的核心创新。在 Qwen3 之前，推理模型（如 DeepSeek-R1、QwQ-32B）只支持思考模式，快速响应模型（如 Llama 3、Qwen2.5-Instruct）只支持直接输出。开发者必须根据场景选择两种不同的模型。

Qwen3 用一套权重同时支持两种行为：

这不是"开了个 prompt 让模型一步步想"那么简单——思考模式是模型训练时就内置的行为，模型学会了识别什么时候应该思考、什么时候可以跳过。

思考模式的工作流程

一个完整的思考模式推理过程如下：

第一步：模型判断是否需要思考

在训练阶段，模型通过包含显式思考/非思考切换指令的数据学会了这种行为。在推理时，模型可以根据以下信号决定模式：

第二步（思考模式）：生成思考链

当开启思考时，模型先输出 <think> 标签，然后开始生成思考过程。思考链可以包含：

思考链结束后输出 </think> 标签。

第三步：输出最终答案

思考链完成后，模型根据思考过程输出最终答案。答案和思考链共享同一组推理上下文。

思考链在 token 层面的体现

对于开发者来说，最关键的一点是：思考链也是模型生成的 token，会消耗上下文窗口。

这也意味着思考模式的推理成本更高——思考链 token + 答案 token 都需要计算。在 API 调用中，思考链 token 同样计费。

为什么 Qwen3 的思考模式比传统 CoT 更好

传统 CoT（Chain-of-Thought）是通过 prompt 让模型"一步步想"，比如在 prompt 里写"请先分析问题再回答"。Qwen3 的思考模式和 CoT 的区别：

方面传统 CoTQwen3 思考模式
触发方式靠 prompt 引导模型训练内置，API 参数可硬切换
输出格式和答案混在一起有明确 <think> </think> 标签
模式切换需要改 prompt同一个模型，API 层一行代码切换
性能部分模型能触发，部分不行所有 Qwen3 规格都支持
可控性不可控，模型可能"假装思考"可以硬开关，保证不思考

思考链的长度和内容

Qwen3 模型生成的思考链有一些特征：

在某些推理框架中（如 SGLang），可以设置思考 token 的预算上限，防止思考链过长。

与前代推理模型的对比

模型思考模式非思考模式架构
QwQ-32B支持（必须）不支持Dense 32B
DeepSeek-R1支持（必须）不支持Dense
Qwen2.5-Instruct不支持支持Dense
Qwen3支持支持Dense + MoE

Qwen3 是首个在一套权重中同时支持两种模式的主流开源大模型。这意味着：

思考模式的适用场景

适合开启思考模式的任务：

适合关闭思考模式的任务：

相关阅读