通义千问3.8发布2.4万亿参数开源模型
MoE架构再创规模新高
阿里云通义千问团队日前在Hugging Face上发布了Qwen3.8-2.4T-A95B模型,引发开源AI社区高度关注。该模型采用混合专家架构,总参数量达到惊人的2.4万亿,但每次推理仅激活95B参数,在保持强大能力的同时严格控制了计算成本,为开源大模型树立了新的里程碑,也展示了MoE路线的巨大潜力和技术优势。
Qwen3.8延续了通义千问系列在MoE架构上的深厚技术积累。通过稀疏激活机制,模型在2.4万亿总参数中仅调用约4%的参数参与每次推理,大幅降低了部署门槛。这意味着该模型理论上可以部署在相对有限的硬件资源上,同时保持接近稠密模型的效果,这对于资源受限的研究团队和中小企业来说意义重大,将推动AI技术的民主化进程和普及应用。
值得注意的是,Qwen3.8的发布恰逢全球开源大模型竞争白热化阶段。此前Meta的Llama系列、Mistral的Mixtral系列都在MoE路线上进行了深入探索,而通义千问此次以2.4万亿参数规模刷新了开源模型的天花板,展现了中国AI团队在大规模模型训练方面的技术实力和创新能力,证明了中国在AI领域的快速进步。
技术社区对此反应热烈,多位AI研究员指出MoE架构正在成为大模型规模扩展的主流方向。相比稠密模型,MoE模型可以在不线性增加计算成本的前提下大幅扩展参数容量,是实现下一代AI能力的关键技术路径。Qwen3.8的成功验证了这一方向的有效性,为后续更大规模的模型探索铺平了道路,也为MoE架构的优化提供了宝贵经验。
通义千问团队表示,该模型在多项基准测试中表现优异,特别是在代码生成、数学推理和多语言理解等任务上均取得了领先成绩。模型已全部开源发布,开发者可以在Hugging Face平台下载完整权重和推理代码,这为全球AI研究者和开发者提供了新的研究基座和实验平台,将加速AI领域的创新步伐和开源生态建设。
分析人士认为,Qwen3.8的发布进一步巩固了阿里云在全球AI开源社区的领先地位,也预示着开源大模型正在从追赶闭源模型转向在某些领域实现超越。未来MoE模型的规模竞争可能进一步加速,万亿参数级别将成为开源模型的新常态,而如何降低推理成本并提升实际应用效果,将是各团队需要持续攻克的课题,也是大模型从研发走向大规模落地的关键所在。
Qwen3.8的发布是中国AI开源生态快速发展的重要标志,也为全球开发者提供了一个强大的开源基座模型,有望推动更多创新应用的出现。