这两天技术群都在传阿里通义 Qwen3 五一前后发布，然后昨晚各种消息满天飞：

一觉醒来，千问果然没有让人失望，赶在五一前发布并开源Qwen3，效率杠杠的。作为国内首个实现"混合推理"能力的开源模型，Qwen3不仅达到了36万亿token的训练数据量，还支持119种语言和方言。通过混合专家（MoE）架构与混合推理机制的深度整合，在参数效率与任务适应性层面实现双重突破。旗舰模型Qwen3-235B-A22B在数学证明、代码生成等核心基准测试中，展现出与DeepSeek-R1、Grok-3等顶尖模型的竞争优势。

此外，小型 MoE 模型 Qwen3-30B-A3B 的激活参数量仅为 QwQ-32B 的 10%，但性能却更胜一筹。甚至像 Qwen3-4B 这样的小型模型，也能与 Qwen2.5-72B-Instruct 的性能相媲美。

Qwen3 此次开源了六款Dense模型和两款Moe模型，Dense模型包括0.6B、1.7B、4B、8B、14B、32B 6个尺寸，Moe模型包括30B和235B，均采用Apache2.0协议开源，诚意满满。其中旗舰版 Qwen3-235B-A22B，总参数量 235B，激活参数仅 22B，可以低成本实现本地部署。而 Qwen3-30B-A3B，总参数量 30B，激活参数仅 3B，消费级别显卡即可部署，整体性能堪比Qwen2.5-32B。另外阿里还开源了小尺寸的 Qwen3-0.6B，可以在手机等端侧部署。

特别值得注意的是Qwen3是国内首个“混合推理模型”，在同一模型中集成了两种推理模式：

• 即时响应模式：针对简单查询（如信息检索），通过轻量化推理路径实现快速响应；
• 深度思考模式：应对复杂任务（如数学证明），激活MoE架构中的专家模块进行多步推理；
• 动态切换机制：支持API参数控制（enable_thinking=True）或自然语言指令（/think）触发模式转换；

另外Qwen3的多语言能力进一步大幅跃升，从之前支持的29种提升至支持119种语言和方言：

• 国际通用语言：完整涵盖联合国六大官方语言（汉语、英语、法语、西班牙语、俄语、阿拉伯语）；
• 国家官方语言：包括德语、意大利语、日语、韩语、泰语、越南语等国家官方语言；
• 特色方言及小语种：特别纳入中国粤语、非洲斯瓦希里语、中东意第绪语、西亚亚美尼亚语、东南亚爪哇语、美洲海地克里奥尔语等具有文化代表性的地方语言；

通过开源技术赋能，千问3为全球技术储备不足的国家和地区提供了可用的AI大模型，让语言不再成为数字时代的鸿沟。

同时Qwen3通过原生支持MCP多模态协作协议，构建了面向智能体（Agent）生态的核心能力，其深度集成的工具调用架构支持跨平台设备控制与工业协交互，结合开箱即用的Qwen-Agent框架，开发者可快速构建复杂工作流，如生产线调度、跨端自动化等，标志着大模型从"生成答案"向"完成任务"的范式跃迁。

目前可以在欢迎在 Qwen Chat 网页版和通义 APP 中直接体验 Qwen3，相关地址如下：

• Qwen Chat：https://chat.qwen.ai/
• GitHub：https://github.com/QwenLM/Qwen3
• HuggingFace：https://huggingface.co/collections/Qwen/qwen3-67dd247413f0e2e4f653967f
• ModelScope：https://modelscope.cn/collections/Qwen3-9743180bdc6b48

Qwen3 快速体验

说了这么多，我还是想动手体验一下 Qwen3，直接在Qwen Chat网页版上体验：

可下拉选择相关模型：

开始测试那个经典问题：9.8和9.11谁大，直接给了推理过程和答案，相当快：

再来一个经典大模型测试题：strawberry有几个r，还是直接给出推理过程和答案：

看起来一般问题难不倒大模型了，那就做一道中考级别的数学题吧：

中考题难不住，继续上高考数学题，这是一道2024年年高考全国甲卷数学（文）试题：

这次思考的过程稍久，不过依然得到了正确答案：-7/2，看起来一般的高考题也难不住Qwen3了，这让我很期待今年高考数学题国内外这些顶尖大模型的PK了。

测试 Qwen3 模型 

当然除了体验网页版，我还想上手体验一下开源的Qwen3模型，直接选择最小的0.6B模型，复用Qwen官方博客上提供的代码，只是简单修改了一下模型：

from modelscope import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3-0.6b"

# load the tokenizer and the model
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)

# prepare the model input
prompt = "Give me a short introduction to large language model."
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True # Switch between thinking and non-thinking modes. Default is True.
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# conduct text completion
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=32768
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist() 

# parsing thinking content
try:
    # rindex finding 151668 (</think>)
    index = len(output_ids) - output_ids[::-1].index(151668)
except ValueError:
    index = 0

thinking_content = tokenizer.decode(output_ids[:index], skip_special_tokens=True).strip("\n")
content = tokenizer.decode(output_ids[index:], skip_special_tokens=True).strip("\n")

print("thinking content:", thinking_content)
print("content:", content)

第一次运行模型下载速度挺快的，但是遇到了报错：

刚好看到一篇文章说运行Qwen3 transformers版本不能小于4.51.0，直接升级transformer到4.51.0，再次运行，没有问题了，测试成功：

要禁用思考模式，只需对参数 enable_thinking 进行如下修改：

text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=False  # True is the default value for enable_thinking.
)

Qwen3模型还有很多高级玩法，包括在用户提示或系统消息中添加 /think 和 /no_think 来逐轮切换模型的思考模式，以及Agent和MCP等，限于时间关系，这里就不一一测试了，后续我会测一下更大尺寸的模型，到时候深入研究一下。刚好五一放假，大家可以好好安排五一了！