Qwen 4 要来了?Arena 四款匿名模型指纹全指向 Qwen
Arena 上新 Kalmia、Kerria、Kentia、Mura 匿名模型,分词器指纹指向 Qwen 体系,拆解 Qwen3.8-Flash-Next 架构、推理引擎适配与上线验证要点。

10 月底,AI 模型竞技场 Arena 接连上线四款匿名代号模型:Kalmia、Kerria、Kentia、Mura。它们不只是上线时间集中,多款版本的分词器(Tokenizer)指纹都呈现出和 Qwen 系列高度相似的特征。
其中 Kentia 与 Kerria 在稀有令牌测试上存在一致的异常表现,Mura 的 xhigh 版本特征也和 Kerria 相近。四款匿名模型密集曝光,让社区开始聚焦阿里下一代大模型 Qwen 4 的内测进展。
目前暂无官方公告确认这些模型的真实身份,仅依靠分词器指纹,也无法直接断定它们就是 Qwen 4。不过把 Arena 盲测线索、阿里此前披露的模型路线、近期开源的推理工程代码结合起来看,能够梳理出一系列具备参考价值的信号。
一、四款匿名模型连续出现,Arena 盲测带来新线索
Arena 的匿名对战,是外界追踪大模型迭代节奏的重要观测窗口。
这类平台采用盲测机制:输入相同任务,由两个隐藏身份的模型分别输出回答,再由用户根据输出效果投票,模型厂商、名称、版本信息对用户完全不可见。
这套机制的一大特点是,模型不需要等到正式官宣,就可以进入真实用户的评测环境。很多还未对外公布的内测模型,会优先在竞技场匿名上线。
10 月底新增的这四个代号,就是本轮社区讨论的核心对象。
表格
| 匿名代号 | 观测特征 | 当前研判 |
|---|---|---|
| Kalmia | 出现和 Qwen 分词器一致的稀有令牌异常 | 指向 Qwen 模型家族 |
| Kerria | 和 Qwen 特有令牌表现高度吻合 | 指向 Qwen 模型家族 |
| Kentia | 和 Kerria 部分异常令牌完全相同 | 存在较强关联线索 |
| Mura | xhigh 版本稀有令牌特征对齐 Kerria | 存在版本 / 分词器关联线索 |
这里有两个问题需要分开看待:模型是否归属 Qwen 技术体系、模型是不是尚未发布的 Qwen 4。
前者可以借助分词器指纹做初步筛查,后者还需要更多交叉证据佐证。
四款模型使用独立代号、集中上线,叠加相近的技术指纹,说明这次匿名上新已经不是一次普通的模型更新。
二、Tokenizer 指纹为什么可以用来识别匿名模型?
识别匿名模型身份,研究者优先分析分词器,而不是单纯对比回答质量,背后有明确原因。
Tokenizer 是大模型输入链路的核心组件,负责把自然文本转换成模型可识别的 Token 序列。
不同模型的词表、子词合并规则、特殊 Token 定义都存在差异。哪怕输入完全一样的文本,不同分词器切分出来的 Token ID 序列也会不一样。
所以研究者会挑选区分度强的测试文本,例如包含代码、特殊符号、生僻中文、特殊字符串的样例,对比 Token 切分结果,形成模型指纹。
指纹匹配只能作为线索,不能当成实锤。就算指纹高度近似,也不等于它就是正式版 Qwen 4,更不能直接用来确定 Qwen 4 的完整规格。它的价值,是提前透出下一代模型架构的部分技术方向。
从已公开资料来看,Qwen3.8-Flash-Next 采用 MoE 混合专家架构,总参数量 125B,单 Token 激活参数约 6B,配套 51B 参数的 N-gram Embedding。原生上下文窗口 262,144 Token,支持 YaRN 扩展至 1,000,000 Token。
这些参数能够看出,阿里正在持续寻找模型规模、推理算力开销、长上下文效率三者之间的平衡点。四款匿名模型的出现时间,和这一系列技术进展相互呼应,但依然不能证明这四个代号就对应 Qwen4 的四个不同规格。
三、从 Qwen3.8-Flash-Next 理解下一代模型的技术路线
如果只盯着参数量,很容易忽略这套架构里最关键的创新设计。
Qwen3.8-Flash-Next 的核心思路,是依靠混合注意力、门控残差、N-gram 记忆机制,重新分配计算资源与显存开销。
1. GDN + QSA 混合注意力
传统 Transformer 的全注意力,在上下文变长之后,注意力计算、KV Cache 显存占用都会成为推理瓶颈。
Qwen3.8-Flash-Next 搭配了 Gated DeltaNet(GDN)与 Qwen Sparse Attention(QSA)混合注意力结构。
GDN 属于线性注意力路线,依靠固定大小的循环状态留存历史信息,不需要持续存储全部历史 KV。
QSA 是稀疏检索思路,借助轻量索引筛选历史上下文,把算力集中到高相关内容上。
按照公开架构文档,模型一共 48 层,其中 12 层使用 QSA,剩余 36 层使用 GDN 线性注意力。
该方案不是简单丢弃历史信息,而是让不同网络层承担差异化的信息处理任务,在代码仓库解析、长文档理解、多轮 Agent 任务上具备不错的落地潜力。
2. Gated Residual:动态可调的残差通路
残差连接是 Transformer 的基础组件,作用是保障深层网络的信息流通、训练稳定。
Qwen3.8-Flash-Next 对残差结构做了扩展,将单一流路拆分为四条并行分支,依靠门控单元控制信息读写。
简单理解:模型不再走固定不变的残差通道传递特征,能够根据当前计算状态动态调整各个分支的信息交互。
这个设计提升了特征传递的灵活性,同时需要配套定制算子,控制新增的计算、显存开销。
3. N-gram Embedding:主干网络之外补充记忆能力
N-gram 代表连续词元组合表征方式。
Qwen3.8-Flash-Next 引入大容量 N-gram Embedding 查表表,结合当前 Token 和前文词元组合,给模型补充局部上下文信息。
公开信息里 N-gram Embedding 参数规模约 51B,这部分参数不代表每个 Token 都要执行同等规模密集计算。
更关键的是,它支持把一部分权重放在主机内存,通过预取按需加载。
这给大模型部署提供了新思路:不是所有参数都必须常驻 GPU 显存。合理规划存储位置、加载时机,可以在模型容量和显卡资源之间做权衡。
4. MoE:总参数 ≠ 推理激活参数
Qwen3.8-Flash-Next 总参数量 125B,但每个 Token 仅激活约 6B 参数。
MoE(混合专家)架构会根据输入内容,挑选部分专家参与计算,而不是全部专家一起处理每一个词元。
评估部署成本时,总参数量决定权重存储需求,激活参数量决定单次前向计算负载。当然真实部署还要考虑专家负载均衡、通信开销、批大小、KV Cache、显存带宽,不能只用 6B 激活参数直接推算所需 GPU 配置。
以上几项技术组合,代表 Qwen 团队的探索方向:在保住模型能力上限的前提下,降低长上下文推理、大规模参数访问带来的额外成本。
再次说明:以上全部是 Qwen3.8-Flash-Next 的公开架构,不能直接等同于 Qwen 4 正式版的完整规格。
四、推理引擎同步适配,这件事比模型命名更值得关注
架构改动,意味着推理框架也必须同步改造适配。
哪怕模型权重完整,如果推理引擎无法识别它的网络配置、注意力机制、状态管理逻辑,就无法投入线上部署。
这也是为什么 vLLM、SGLang 仓库里针对 Qwen4-Exp 的适配 PR 值得关注。
在 vLLM 仓库中,相关 PR 实现了 qwen4 fuse op,覆盖 HyperConnection、QSA、PLE 状态操作等专用 Triton 融合内核。
这里解释融合算子:GPU 跑推理时,零散算子会反复触发内核调度、读写中间缓存,带来大量开销。融合算子把一连串关联计算合并进同一个内核执行,减少中间数据搬运与调度次数。
QSA、门控残差、PLE 这类定制结构,通用算子很难跑满硬件性能,针对性开发融合内核,是推理优化的核心工作。
这份 PR 主要覆盖三块逻辑:
HyperConnection:处理门控残差相关计算;
QSA:稀疏注意力计算优化;
PLE:N-gram 记忆模块的状态收集与数据运算。
需要分清:代码仓库里提交评审的 PR、已经合并上线的代码、模型正式发布,是三件独立的事情。处于评审阶段的 PR,仅代表工程方案正在推进,不代表模型已经完成生产就绪。
SGLang 仓库同样出现 Qwen4-Exp 适配工作,包含模型注册、推理链路、多 Token 预测等模块。
这些工程动态传递一个信号:新模型的生态筹备不止在训练侧,推理框架、显存调度、硬件适配都在同步跟进。
开发者后续重点跟踪的,不只是匿名模型的身份,还有这些优化能否进入推理框架稳定版本。
五、Qwen4 正式上线后,优先验证哪些指标?
社区现在的焦点大多放在模型身份、分词指纹上,但对于落地开发者,身份识别仅仅是评估的起点。
一个模型能不能上生产,最终要看真实任务表现。
- 代码与复杂任务执行能力
如果 Qwen4 延续 Qwen3.8-Flash-Next 的技术路线,代码生成、代码理解、长链路 Agent 任务会是核心考察方向。
单次代码生成结果参考意义有限,更有价值的测试项:
读懂多文件项目结构;
定位跨模块隐藏 Bug;
遵循项目编码规范迭代修改;
正确调用外部工具;
多轮迭代后维持原始任务目标。
面向 Coding Agent,还要测试长时间会话下状态留存、工具调用失败后的容错恢复能力。
- 长上下文的实际利用效率
支持超长上下文,不等于模型可以有效读懂全部输入。
比如喂入完整代码仓库、几十份企业文档、超长对话记录,需要测试模型精准检索信息的能力,而不是只验证它能不能接收这么多 Token。
重点测试长文档检索、跨文档信息关联、信息定位、多轮上下文一致性。
同时记录输入输出 Token 数量、首 token 延迟、整体响应耗时,不要只看标称最大上下文长度。
- 推理速度与业务成本
企业侧的真实成本,不只是每百万 Token 标价。
还要纳入这些变量:
输入、输出 Token 差异化计费;
缓存命中 / 未命中价差;
并发场景下响应延迟;
长上下文任务显存占用;
报错重试带来的额外开销。
同一个模型,在不同服务商、不同硬件集群上表现差距明显。
正式开放 API 之后,尽量使用统一测试集、固定生成长度、相近并发做对照,不要仅凭社区单次截图下定论。
- 多模态与工具调用稳定性
如果新一代模型继续强化多模态能力,图文音视频跨模态协同也需要验证。
尤其 Agent 场景,模型要自主判断是否调用工具、选择工具、根据返回结果继续推进任务。
这类能力无法依靠普通问答测出,需要搭建完整工作流,测试调用格式、参数准确性、异常处理、多轮交互稳定性。
六、四款匿名模型出现,是否代表 Qwen4 马上发布?
综合现有线索,可以分成四层可信度判断:
表格
| 观察维度 | 当前证据 | 可信度判断 |
|---|---|---|
| Qwen4 已经进入训练阶段 | 阿里官方公告 | 已确认 |
| Qwen3.8-Flash-Next 展示下一代架构方向 | 官方技术文档与报告 | 已公开 |
| Arena 四款匿名模型具备 Qwen 分词特征 | 社区 Token 指纹分析 | 有待独立复现 |
| 四款匿名模型全部属于 Qwen4 | 代号、指纹、版本关联推测 | 未确认 |
| Qwen4 即将正式对外发布 | 社区根据盲测节奏猜测 | 未确认 |
表格清晰划出信息边界。
阿里已经官宣 Qwen4 在训,并且借助 Qwen3.8-Flash-Next 放出下一代架构原型。Arena 四款匿名模型,是另一条可供跟踪的观测线索。
但目前没有官方材料把 Kalmia、Kerria、Kentia、Mura 和 Qwen4 绑定,也没有证据证明四个代号分别对应旗舰、均衡、高吞吐、开源权重版本。
10 月底到 11 月初是社区观测窗口,不能作为官方发布时间。
真正具备确认效力的信号是:官方模型卡、正式上线的 API 模型 ID、开源权重仓库、版本白皮书、可复现评测报告。
七、开发者现阶段可以提前做哪些准备?
打算接入新模型的开发团队,不必急于替换线上生产模型。
更稳妥的方案,是把模型调用和业务逻辑解耦。
例如在应用层搭建统一模型配置层,模型名称、接口地址、密钥、调用参数统一放到配置文件。等新模型正式开放,只需要在测试环境新增路由,不用大规模改动业务代码。
其次,沉淀一套固定评测数据集。
代码场景留存真实 Bug 案例、代码评审任务、单元测试用例;知识库场景准备固定问答集,核验检索准确度、回答溯源、幻觉问题。
所有模型在相同条件下对比,才能区分差异来自模型本身,还是服务商路由、硬件、推理参数带来的波动。
多模型评估场景下,统一接入网关可以降低适配成本。例如通过 KoalaAPI,开发者只用一套 API Key 调用平台接入的数百款模型,平台聚合 400+ 模型、40+ 服务商,兼容 OpenAI SDK,适合批量对比、版本评估。
统一接入不等于所有模型参数、工具能力、多模态表现完全一致。切换模型时,依旧要核对接口协议、上下文上限、工具规范、计费规则。
针对还未正式上线的 Qwen4,任何中转平台都无法在没有可用端点的前提下提供真实调用。开发者以平台实时模型列表和阿里官方公告为准。
八、结语:区分技术信号和官宣事实,理性追踪 Qwen4 进展
Arena 集中出现四款匿名模型,确实为 Qwen4 的研发进度增加了观测线索。
分词指纹相似性、版本之间的关联特征、Qwen3.8-Flash-Next 架构披露、推理框架适配 PR,多条线索共同指向 Qwen 技术体系持续迭代。
但是这些线索,都不能替代官方发布。
现阶段开发者更有价值的动作,是吃透 Qwen3.8-Flash-Next 的架构,理解混合注意力、N-gram Embedding、MoE 在工程落地中的利弊,提前搭建评测集、解耦接入层。
等到 Qwen4 正式发布,再依靠官方模型卡、接口文档、独立复测评估各个版本能力,再做选型。
匿名竞技场是观测窗口,架构原型是技术参考,官方发布的模型卡、可调用接口,才是判定模型身份与能力的最终依据。

