3月24日晚，DeepSeek发布模型更新DeepSeek-V3-0324，开源版本已上线。此前DeepSeek-V3模型以高性价比著称，多项评测成绩超越其他开源模型。V3是6710亿参数的专家混合模型，为解决负载不均衡问题，采用辅助损失免费的负载均衡策略和节点受限的路由机制，有效提升了性能。最新测试显示，其代码能力比肩思维链版本。

　　同日，DeepSeek在其官方交流群宣布称，DeepSeek V3模型已完成小版本升级，欢迎前往官方网页、App、小程序试用体验（关闭深度思考），API接口和使用方式保持不变。

　　此前于2024年12月发布的DeepSeek-V3模型曾以“557.6万美金比肩Claude 3.5效果”的高性价比著称，其多项评测成绩超越了Qwen2.5-72B和Llama-3.1-405B等其他开源模型，并在性能上和世界顶尖的闭源模型GPT-4o以及Claude-3.5-Sonnet不分伯仲。但截至目前，还没有任何关于新版DeepSeek-V3的能力基准测试榜单出现怎么登录shadowrocket。

　　其后，DeepSeek于2025年1月发布了性能比肩OpenAI o1正式版的DeepSeek-R1模型，该模型在后训练阶段大规模使用了强化学习技术，在仅有极少标注数据的情况下，极大提升了模型推理能力。

　　在传统的大模型中，通常会采用密集的神经网络结构，模型需要对每一个输入token都会被激活并参与计算，会耗费大量算力。

　　此外，传统的混合专家模型中，不平衡的专家负载是一个很大难题。当负载不均衡时，会引发路由崩溃现象，这就好比交通拥堵时道路瘫痪一样，数据在模型中的传递受到阻碍，导致计算效率大幅下降。

　　为了解决这个问题，常规的做法是依赖辅助损失来平衡负载。然而，这种方法存在一个弊端，那就是辅助损失一旦设置过大，就会对模型性能产生负面影响，就像为了疏通交通而设置过多限制，却影响了整体的通行效率。

　　DeepSeek对V3进行了大胆创新，提出了辅助损失免费的负载均衡策略，引入“偏差项”。在模型训练过程中，每个专家都被赋予了一个偏差项，它会被添加到相应的亲和力分数上，以此来决定top-K路由。

　　此外，V3还采用了节点受限的路由机制，以限制通信成本。在大规模分布式训练中，跨节点的通信开销是一个重要的性能瓶颈。通过确保每个输入最多只能被发送到预设数量的节点上，V3能够显著减少跨节点通信的流量，从而提高训练效率。

　　如需转载请与《每日经济新闻》报社联系。未经《每日经济新闻》报社授权，严禁转载或镜像，违者必究。

　　特别提醒：如果我们使用了您的图片，请作者与本站联系索取稿酬。如您不希望作品出现在本站，可联系我们要求撤下您的作品。

　　巴基斯坦总理最新表态！印巴高强度对抗持续：巴方称与约80架印度战机交战！印度一地传出爆炸声

　　338票赞成，美乌矿产协议被批准了！乌克兰：30年内不打算给西方伙伴还债！特朗普被曝曾要求乌接收被美驱逐的第三国移民

　　印度一地传出爆炸声，股市下跌！巴方：与约80架印战机交战；印方：启用S-400防空系统！印度重新开闸放水！万斯表态：不关美国的事

　　热搜第一！比尔·盖茨突然宣布：未来20年，捐完几乎全部财富，预计超1.45万亿元！此前曾表示：把不到1%的财富留给子女

　　撑不住了？特朗普考虑豁免部分商品最高145%关税！美联储不降息还要卖美债，特朗普怒骂鲍威尔！国际油价大涨，黄金跳水，美股美元齐涨

　　最新！巴基斯坦称摧毁印军一处重要指挥所！印巴互相发动无人机袭击！印度发表声明：无意升级事态......

　　美英达成贸易协议，但细节尚待敲定；油价涨超3%，现货黄金跌近2%；比尔·盖茨：将捐出几乎全部财富；A股又曝“天价离婚”丨每经早参