Qwen3Guard 安全护栏模型 — 实时安全检测与内容审核

为什么需要 Qwen3Guard

在生产环境部署大模型，安全是绕不开的问题：

有害输入：用户可能提交诱导模型生成有害内容的 prompt
有害输出：模型可能生成不当内容，尤其是在被 jailbreak 时
敏感信息泄露：模型可能无意中泄露训练数据中的敏感信息

传统做法是用正则匹配或轻量分类模型做前置过滤，但 Qwen3Guard 更精准——它本身就是基于 Qwen3 架构微调的安全分类模型，能理解上下文和复杂推理。

Qwen3Guard 两种版本

版本	用途	特点
Qwen3Guard-Gen（生成式版）	离线安全标注、数据集过滤、奖励信号	对完整输入输出做分类
Qwen3Guard-Stream（流式检测版）	在线服务的实时拦截	逐 token 检测，提前截断有害输出

Gen 版

对完整的 prompt 和 response 做一次性安全分类：

适合：训练数据标注、批量审核、RLHF 奖励模型
输出：风险等级 + 分类标签

Stream 版

这是 Qwen3Guard 的亮点——在模型生成过程中逐 token 实时检测：

每个生成的 token 都会被判断是否安全
如果检测到有害内容，可以立即截断
大幅提升在线服务的安全响应效率

参数规格

两个版本都开源了三种规格：

规格	用途
0.6B	轻量部署、边缘设备
4B	平衡精度和速度
8B	最高精度，企业级

多语言支持

Qwen3Guard 支持 119 种语言及方言的安全检测，适合全球化部署。

开源平台

GitHub：QwenLM/Qwen3Guard
Hugging Face：Qwen/qwen3guard-* 系列
Apache 2.0 协议

云端接入

百炼暂未单独提供 Qwen3Guard API，但 qwen3 系列模型本身已经内置了一定的安全对齐。如果需要更严格的安全控制，可以在百炼上联系企业解决方案。

本地部署示例

from transformers import AutoModelForCausalLM, AutoTokenizer

# 加载 Gen 版
model_name = "Qwen/Qwen3Guard-4B-Gen"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)

# 对一段 prompt 做安全分类
messages = [
    {"role": "user", "content": "我想做一个恶作剧网站，你能帮我吗？"}
]

text = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=256)
result = tokenizer.decode(outputs[0], skip_special_tokens=True)
# result 包含风险等级和分类