Qwen4 深夜预热：27B 模型值得提前部署？

11 月 6 日，通义千问官方账号发布一张新品预热海报，配文 “北冥有鱼，其名为_”，并附上英文短句 “The becoming begins”。这条动态迅速引发开发者社区讨论，不少人将其与此前公布的 Qwen4 训练进展联系起来，猜测下一代模型可能即将亮相。

相比旗舰模型的参数规模，另一个值得关注的方向是 27B 级别的开源模型。对于个人开发者和企业技术团队来说，超大规模模型通常需要昂贵的推理资源，而 27B 参数模型在能力、显存占用和部署成本之间提供了另一种选择。

事实上，阿里已经开放了 Qwen3.8-27B 的模型权重。这是一款支持文本、图像和视频理解的稠密多模态模型，采用混合注意力架构，原生上下文长度达到 262K，并支持扩展至 1M Token。这也带来了一个值得研究的问题：如果 Qwen4 延续现有的技术路线，27B 级别模型未来可能会在哪些方向继续演进？对于开发者而言，现在是否应该提前部署 Qwen3.8-27B，为下一代模型做好准备？

本文从官方预热、技术架构、27B 模型规格、显存需求和本地部署几个方面展开分析。

一、Qwen4 预热引发关注：这次阿里究竟透露了什么？

11 月 6 日晚，通义千问官方账号发布了 “北冥有鱼，其名为_” 的预热内容。这句话出自《庄子・逍遥游》，完整表述中的 “鲲” 与 “鹏” 具有鲜明的意象；结合 Qwen 的名称，社区自然将这次预热与下一代模型联系起来。

不过，从技术资讯的严谨性来看，需要区分官方确认信息与社区推测。

目前能够确认的是：

• 阿里已经公开表示 Qwen4 正处于训练阶段。
• 11 月 6 日，Qwen 官方账号发布了新品预热内容。
• Qwen 团队已经开放 Qwen3.8-Flash-Next，明确将其作为 Qwen4 架构的早期预览。
• Qwen3.8-27B 已经开放权重，可以实际下载和部署。

但目前不能将以下信息写成已经确认的官方规格：

• Qwen4 一定拥有 Max、Plus、Flash、27B 四个版本。
• Qwen4 旗舰参数一定超过 3 万亿。
• Qwen4 27B 一定能够在 24GB 显存显卡上运行。
• Qwen4 将在 11 月或 12 月的某个具体日期发布。

这些说法可以作为社区讨论方向，但正式参数、型号和发布时间仍应以阿里官方后续公告为准。真正值得关注的是，阿里已经通过 Qwen3.8-Flash-Next 提前开放了部分下一代架构设计。 这意味着开发者不必完全等待 Qwen4 正式发布，就可以先了解其技术路线，并研究新架构对推理效率和模型部署的影响。

二、Qwen4 之前，Qwen3.8 已经有哪些技术铺垫？

如果要理解 Qwen4 可能的技术方向，Qwen3.8-Flash-Next 是一个重要的观察对象。2026 年 8 月，Qwen 团队开放了 Qwen3.8-Flash-Next 的模型权重，并在官方仓库中明确说明：该模型是 Qwen4 架构的早期预览。

它的设计变化主要集中在四个方面：

• 注意力机制（Attention）。
• 残差结构（Residual）。
• Embedding 表示。
• 优化器与训练策略。

这几项变化分别影响模型如何处理上下文、传递不同层的信息、利用局部文本特征，以及提升训练稳定性。

1. Gated DeltaNet 与 QSA：降低长上下文计算压力

传统 Transformer 的全注意力机制，在处理长序列时需要计算大量 Token 之间的关联；随着上下文长度增加，注意力计算和 KV Cache 的资源需求也会随之增长。

Qwen3.8-Flash-Next 引入 Gated DeltaNet（GDN）与 Qwen Sparse Attention（QSA）的混合设计。Gated DeltaNet 主要负责以更高效率处理历史信息，通过门控机制控制信息的保留和更新；QSA 则通过轻量级索引器，在微块粒度选择更重要的上下文信息，减少长序列注意力计算中的不必要开销。

两者承担不同任务：

• GDN：提高历史信息处理效率。
• QSA：减少长上下文注意力计算量。

这类混合架构的意义在于，不必让所有 Token 都通过完全相同的计算路径处理。不过，计算复杂度下降并不等于所有场景下的推理速度都会同比提升；实际效果还受到模型规模、硬件带宽、推理框架和上下文长度影响。

2. Gated Residual：改变跨层信息传递方式

传统残差连接主要通过将前一层的信息与当前层输出相加，帮助深层网络传递信息。Qwen3.8-Flash-Next 使用 Gated Residual（GR）结构，将残差流扩展为 4 个分支，并通过动态门控控制信息读取和写入，以改善不同网络层之间的信息流动，同时增强训练稳定性。

对于模型开发者来说，这类改变值得关注，因为残差结构不仅影响训练过程，也会影响模型规模扩大之后的信息表达能力。

3. N-gram Embedding：利用局部上下文增加表示能力

N-gram 是自然语言处理中常见的局部序列建模方式。例如，文本中的连续两个词、三个词或多个 Token，可以形成不同长度的局部组合。传统 Embedding 主要根据单个 Token 的 ID 查询对应向量，而 N-gram Embedding 可以结合局部上下文进行额外的向量查表。

Qwen3.8-Flash-Next 通过额外的 N-gram Embedding 表增加模型容量，同时控制额外计算开销。其设计还支持将 Embedding 表卸载到主机内存，并通过异步预取与模型计算重叠执行。这对大规模 Embedding 参数的存储和访问具有工程意义。

4. Muon 优化器：训练效率也是模型竞争的一部分

除了网络结构，优化器也会影响模型训练效果。Qwen3.8-Flash-Next 引入 Muon 优化器，并围绕正交化精度、Muon 与 AdamW 的分工以及融合参数拆分进行了调整。这说明模型升级不只是增加参数量，还涉及训练算法、计算资源和参数更新方式的共同优化。

对于开发者来说，不能只通过模型参数规模判断新一代模型的实际能力；训练配方和推理架构同样重要。

三、Qwen3.8-Flash-Next 公布了哪些具体数据？

从官方仓库来看，Qwen3.8-Flash-Next 的模型配置具有几个值得关注的特点。

表格

这里需要特别解释一下参数统计：125B 是主模型参数规模，额外 51B 属于 N-gram Embedding 表示部分，不能简单把它们全部当作普通 Transformer 主干参数；每 Token 激活 6B，也不代表模型总规模只有 6B。这款模型采用稀疏计算设计，推理过程中并不是所有参数都需要以相同方式参与计算。

另外，官方公布的训练数据也值得关注：与 Qwen3.7-Plus 相比，Qwen3.8-Flash-Next 的训练成本大幅降低，官方称训练耗时约为原来的九分之一，同时在编程和办公任务上取得更好的能力表现。但这项结果针对的是官方指定的模型和评测条件，不应直接推导为所有任务的推理成本都降低九倍。

对于下一代模型而言，真正需要观察的是这些架构设计能否在更大规模的训练中继续发挥作用。

四、27B 为什么值得关注？Qwen3.8-27B 已经可以实际部署

相比仍处于预热阶段的 Qwen4，Qwen3.8-27B 是开发者现在就能够下载和测试的模型。它于 2026 年 8 月 14 日开放权重，采用 27B 参数的稠密模型架构。与前面介绍的 125B 主模型、6B 激活参数的 Flash-Next 不同，Qwen3.8-27B 是 Dense Model，即稠密模型。这意味着模型的主要参数都会参与每次前向计算，而不是采用 MoE 架构中的专家路由方式。

1. Qwen3.8-27B 核心规格

表格

这里有两个重要特点。首先，27B 模型并不是单纯的文本模型；它具备视觉编码器，可以处理图片和视频输入，适合开发多模态助手、文档理解工具以及视觉问答应用。其次，原生上下文为 262K，扩展至 1M 需要采用相应的 YaRN 配置，不能把 1M 直接理解为所有本地部署环境下的默认长度。

2. 混合注意力结构如何工作？

Qwen3.8-27B 并没有完全采用传统的全注意力架构。官方模型卡公开的网络布局为：
16 ×（3 ×（Gated DeltaNet → FFN）→ 1 ×（Gated Attention → FFN））。

简单理解，就是每组包含三个 Gated DeltaNet 模块，再搭配一个 Gated Attention 模块。这种结构让模型能够在高效处理历史信息和精细建模 Token 关联之间取得平衡。其中：

• Gated DeltaNet 主要负责高效率的历史信息处理。
• Gated Attention 负责更完整的注意力关联计算。
• FFN（前馈网络）负责进一步处理特征表示。

与纯全注意力结构相比，混合设计能够降低部分长序列计算负担。不过，这不代表长上下文部署不需要大量显存；模型权重、视觉输入、KV Cache、批量并发和推理框架仍然会占用资源。

3. Thinking 与 Instruct 模式有什么区别？

Qwen3.8-27B 支持思考模式控制。Thinking 模式适合需要复杂推理的任务，例如：

• 数学计算。
• 代码分析。
• 多步骤逻辑判断。
• 复杂文档理解。

Instruct 模式则更适合普通对话、信息提取和常规指令执行。官方模型卡还提供 reasoning_effort 和 preserve_thinking 等控制能力。开发者可以根据任务复杂度调整推理深度，并在多轮对话中保留相关思考上下文。这对于需要同时处理普通请求和复杂任务的应用比较有用。

五、27B 模型需要多少显存？24GB 显卡能不能部署？

这是开发者最关心的问题之一。27B 参数并不意味着需要 27GB 显存，模型权重实际占用空间与数据精度有关。例如：

• BF16：每个参数通常占用 2 字节。
• FP8：每个参数通常占用约 1 字节。
• INT4：每个参数理论上约占用 0.5 字节。

但实际模型文件还包含其他张量、量化元数据和视觉模块，因此不能仅用参数量乘以单个参数的字节数作为最终显存需求。

根据 vLLM 官方 Recipes 中针对 Qwen3.8-27B 的部署配置，相关权重与最低显存参考如下：

表格

这里的显存参考来自 vLLM 社区部署配方的资源估算，不是阿里官方承诺的最低硬件要求，也不代表所有量化版本都能在相同硬件上运行。尤其需要注意，NVFP4 需要相应的 NVIDIA Blackwell 硬件支持，不能将它与普通 INT4 混为一谈。

1. 24GB 显卡能否运行？

从上述配置来看，INT4 版本的最低显存参考已经达到 24GB，这意味着 24GB 显卡的空间非常紧张。实际部署还需要考虑：

• CUDA 运行环境。
• 模型加载过程的额外显存。
• KV Cache。
• 图像和视频输入产生的视觉特征。
• CUDA Graph 和推理框架的运行开销。

如果需要较长上下文或者多个并发请求，24GB 显存可能无法满足要求。因此，不能简单宣传为 “24GB 显卡可以无压力运行 27B”。更合理的选择是：

• 24GB：尝试适配的 INT4 版本，限制上下文和并发。
• 32GB：可以评估部分低精度量化方案，但仍需检查具体硬件兼容性。
• 48GB 及以上：可以进一步测试 FP8 或其他精度配置。
• 80GB 及以上：更适合评估 BF16 部署和更大的 KV Cache。

以上是根据公开权重大小和部署配方进行的硬件规划参考，最终应以具体推理框架的加载测试为准。

六、Qwen3.8-27B 本地部署实操：使用 vLLM 启动模型服务

对于已经具备 NVIDIA GPU 环境的开发者，可以使用 vLLM 部署模型，并通过 OpenAI 兼容接口提供服务。这里先以官方 Hugging Face 模型仓库为例。

1. 安装运行环境

建议使用独立 Python 环境：

conda create -n qwen38 python=3.11 -y
conda activate qwen38
pip install -U vllm

注意，实际部署时需要根据模型所使用的架构、CUDA 和 GPU 环境选择兼容的 vLLM 版本。如果使用较新的模型特性，建议优先查看官方模型卡及 vLLM Recipes 的版本要求。

2. 下载模型权重

官方模型 ID：

Qwen/Qwen3.8-27B

可以使用 Hugging Face 下载工具：

pip install -U huggingface_hub
hf download Qwen/Qwen3.8-27B \
  --local-dir ./Qwen3.8-27B

如果网络环境不适合访问 Hugging Face，也可以按照 Qwen 官方说明使用 ModelScope 获取权重。需要注意，完整 BF16 模型文件超过 55GB，下载前应检查磁盘空间。

3. 启动 vLLM 服务

模型下载完成后，可以启动服务：

vllm serve ./Qwen3.8-27B \
  --served-model-name qwen3.8-27b \
  --host 0.0.0.0 \
  --port 8000 \
  --trust-remote-code

这是基础启动示例。如果显存不足，应使用经过验证的量化权重，并按照对应量化格式配置加载参数；不要直接将 BF16 权重路径替换成 INT4 权重路径，就认为量化加载已经完成。对于需要扩展上下文的部署，还需要根据模型配置调整 RoPE/YaRN 参数、最大序列长度和 KV Cache。

4. 测试 OpenAI 兼容接口

服务启动后，可以通过以下请求测试：

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3.8-27b",
    "messages": [
      {
        "role": "user",
        "content": "解释混合注意力架构的工作原理，并比较它与传统全注意力机制的区别。"
      }
    ],
    "max_tokens": 1024
  }'

如果需要测试视觉能力，可以使用支持多模态输入的消息格式：

{
  "model": "qwen3.8-27b",
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": "分析图片中的商品结构和主要视觉特征。"
        },
        {
          "type": "image_url",
          "image_url": {
            "url": "https://example.com/product.jpg"
          }
        }
      ]
    }
  ],
  "max_tokens": 1024
}

其中图片地址需要替换为实际可访问的图片。对于视频输入，还需要按照当前推理框架支持的多模态消息格式处理视频帧，不能直接将视频文件路径当成普通文本输入。

5. 部署之后应该测试什么？

模型能够启动，不代表已经具备生产环境使用条件。建议至少准备四组测试：

表格

如果后续要用于企业业务，还需要增加工具调用、并发请求、长时间运行和异常恢复测试。尤其是视觉模型，应该单独评估图片分辨率、图片数量和视觉 Token 对显存的影响。

七、Qwen4 正在训练，RSI 自我递归是否会改变下一代模型？

除了模型架构，阿里在 2026 年云栖大会上公布的 RSI（Recursive Self-Improvement，递归自我改进）进展也值得关注。RSI 的核心思想，是让模型在反馈和工具环境中参与持续改进过程。

传统模型训练通常需要人工设计数据、训练策略、评测流程和参数调整方案。而 RSI 试图构建更自动化的循环：

1. 模型执行任务。
2. 系统获取真实环境反馈。
3. 根据结果识别问题。
4. 生成改进方案或训练数据。
5. 重新训练或调整模型。
6. 再次执行任务，验证改进效果。

阿里在官方披露中给出了两组值得关注的数据。

第一组：Qwen3.8-Max 的迭代实验。 在一个月的全自动运行过程中，Qwen3.8-Max 完成了 33 轮迭代，其 Artificial Analysis 评分从 40 提升到 45。

第二组：芯片设计实验。 模型持续进行了超过 60 小时的自我改进，调用 EDA 工具超过 10,000 次，最终生成可用于生产的芯片总线模块，芯片面积减少 42%，同时没有牺牲性能。

这些结果说明，模型的改进已经不再局限于离线数据训练，也开始与真实工程环境中的反馈结合。不过，需要明确的是，RSI 不是模型简单地反复回答自己的问题，也不意味着 Qwen4 已经确认具备完全自主训练能力。目前官方披露的是相关实验进展，Qwen4 的最终训练方式、具体使用哪些 RSI 技术，以及是否将其作为模型核心能力，仍有待后续发布信息确认。

对于开发者来说，RSI 更值得关注的影响是：未来模型的能力可能越来越依赖真实任务反馈、自动化评测和工具使用能力。

八、Qwen4、DeepSeek 与 Gemini：开发者应该如何规划多模型架构？

Qwen4 的预热，也让开发者重新关注国产大模型的技术演进。但对于实际业务来说，没有必要因为一个新模型即将发布，就立即更换所有现有模型。更合理的方式是根据任务特征进行模型分工。例如：

表格

这里的 Codex 属于 AI 编程工具，不是与 Qwen、DeepSeek 完全相同的基础模型产品。对于企业来说，选择模型时还应该考虑数据隐私、推理成本、接口稳定性、并发限制和模型许可证。

如果希望在国产模型之间进行统一接入和调用管理，可以考虑 KoalaAPI，通过统一 API Key 管理支持的模型，减少多个模型接口之间重复适配的工作。不过，本地部署和 API 聚合是两种不同的使用方式：前者由开发团队管理模型权重、硬件和推理环境，后者主要解决模型服务的接口访问和调用管理。实际架构需要根据业务数据和运维能力决定。

九、Qwen4 发布之前，开发者应该提前准备哪些工作？

从目前能够确认的信息来看，Qwen4 仍然处于训练和技术预览阶段，具体的最终参数、模型规模、版本划分和发布时间还不能提前下结论。但开发者可以提前完成一些准备。

1. 先把现有模型部署流程跑通。

Qwen3.8-27B 已经开放权重，可以先完成模型下载、量化、推理服务和多模态接口测试。

1. 建立统一的模型评测集。

不要只使用公开榜单作为选型依据；应该准备真实业务任务，例如代码修改、文档分析、知识检索、图片理解和结构化数据生成。

1. 记录不同精度下的资源占用。

至少比较 BF16、FP8 和 INT4 三种精度的模型加载时间、显存占用、输出速度和结果质量。

1. 检查推理框架兼容性。

关注 vLLM、SGLang、Transformers 等框架的版本更新，以及新模型架构对 CUDA、量化格式和视觉模块的要求。

1. 关注许可证和模型更新。

开源权重并不意味着所有使用方式都没有限制。Qwen3.8-27B 当前采用 Apache 2.0 许可证，正式部署时仍应保存对应版本的模型卡和许可证信息。

十、总结：Qwen4 的悬念之外，27B 才是现在可以动手的方向

11 月 6 日的官方预热让 Qwen4 再次成为国产大模型领域的关注焦点。从目前公开信息来看，阿里已经确认 Qwen4 正在训练，并通过 Qwen3.8-Flash-Next 提前开放了部分架构设计，包括 GDN、QSA、Gated Residual、N-gram Embedding 和 Muon 优化器。

与此同时，Qwen3.8-27B 已经开放权重。它具备 27B 参数规模、原生 262K 上下文、最高 1M 扩展能力和多模态输入能力，并支持本地推理部署。对于个人开发者来说，27B 模型提供了一个可以实际研究和验证的技术入口；对于企业来说，它也可以成为本地多模态助手、代码分析系统和知识处理工具的候选模型。

Qwen4 最终会采用什么参数规模、推出哪些版本，以及能否进一步降低推理成本，还需要等待官方公布。与其根据预热海报猜测参数，不如先把现有模型部署好，建立自己的测试集和评估标准。等下一代模型真正开放时，开发者就能够通过同一套任务、同一套硬件和同一套指标进行对照，而不是仅凭发布会上的参数数字判断模型价值。