Pangu Pro MoE 与 Qwen 相似性争议

概念与方法中国配方全景

匿名论文指 Pangu Pro MoE 与 Qwen2.5-14B 相关性异常高,华为否认,无第三方定论

事件

2025-07,匿名作者 HonestAGI 发表分析,称华为 Pangu Pro MoE(72B/16B 激活)与阿里 Qwen / 阿里通义 的 Qwen2.5-14B 在参数层面相关性异常高,疑为 upcycling。华为诺亚方舟实验室声明模型为独立训练、遵守开源许可,未逐条回应技术论证(媒体口径)[1]。

口径与现状

第三方未给出权威定论,本卡不对真伪下判断。后续华为开源 openPangu-2.0-Pro(HF 模型卡称约 505B/18B 激活,训练数据总量约 34T token,基于昇腾 NPU 训练),媒体称 openPangu-2.0 的预训练、SFT 与后训练 RL 代码已开源;预训练数据处理流水线是否开放未见一手说明,语料本身未开源;语料来源、合成占比、人工标注、供应商均未披露 [2][3]。

为什么放在数据链里

该争议属权重或架构层面的"来源"问题,而非数据蒸馏;但它说明在语料不公开的情况下,外界只能通过权重相似性这类间接证据质疑训练来源。对比输出侧的蒸馏争议,见 蒸馏地缘政策与条款禁令。

来源

  1. https://www.cxodigitalpulse.com/huawei-denies-copying-alibabas-qwen-model-in-pangu-pro-moe-development/ (2026-10-15)
  2. https://huggingface.co/openpangu/openPangu-2.0-Pro (2026-10-15)
  3. https://tech.ifeng.com/c/8wn8IdgtmW0 (2026-10-15)

卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。