AI

华为开源5050亿参数openPangu-2.0-Pro模型,权重与推理代码同步开放

PConline 2026-07-31 10:56:00
产品动态
由华为云驱动

7月31日,华为正式开源盘古AI模型品牌openPangu旗下openPangu-2.0-Pro大模型,同步开放模型权重、基础推理代码及技术报告。openPangu-2.0-Pro是一款基于昇腾NPU训练的大规模混合专家(MoE)语言模型,总参数规模约505B(5050亿),每Token激活参数约1...

7月31日,华为正式开源盘古AI模型品牌openPangu旗下openPangu-2.0-Pro大模型,同步开放模型权重、基础推理代码及技术报告。openPangu-2.0-Pro是一款基于昇腾NPU训练的大规模混合专家(MoE)语言模型,总参数规模约505B(5050亿),每Token激活参数约18B,支持512K上下文长度,训练数据规模约34T Tokens。在后训练阶段,模型完成了快慢合一监督微调(SFT)、多专项强化学习(RL),并通过在线蒸馏(OPD)实现能力融合。此次开源是华为openPangu2.0开源计划的重要组成部分。今年6月举行的HDC2026开发者大会上,华为常务董事、产品投资评审委员会主任、终端BG董事长余承东宣布,openPangu2.0将自6月30日起陆续开源7大组件,包括预训练代码、后训练代码和训练算子等核心能力。此前,92B参数的openPangu-2.0-Flash模型已于6月30日率先开源。针对openPangu-2.0-Pro总参数规模为505B,余承东表示,华为将大量AI算力资源支持国内产业生态,自身可用算力相对有限,同时AI训练成本持续高企,因此华为更注重模型在时延、吞吐率等推理效率上的优化。
点击展开全文
打开APP,阅读体验更佳

网友评论

太评甄选

更多优惠

相关推荐

相关产品
取消