DeepSeek发布V4预览版:最大开源MoE模型,编程与推理性能逼近前沿模型
中国AI实验室DeepSeek发布了最新大语言模型DeepSeek V4的两个预览版本:V4 Flash和V4 Pro。两款模型均采用混合专家(MoE)架构,上下文窗口达100万tokens。其中,V4 Pro拥有1.6万亿参数(490亿活跃参数),成为目前最大的开源权重模型;较小的V4 Flash则拥有2840亿参数(130亿活跃参数)。 DeepSeek表示,得益于架构改进,两款模型在效率和性能上均优于前代V3.2,并在推理基准测试上几乎“缩小了与当前领先模型的差距”。官...