论文链接：DeepSeek-V3 Technical Report

---

---

一、引言

在大语言模型（LLMs）的激烈竞争赛道上，开源与闭源模型均在飞速发展，不断突破性能极限。DeepSeek-V3的诞生，犹如一颗璀璨新星，照亮了开源模型的前行之路。它拥有高达 671B 的总参数，在每次处理令牌时激活 37B 参数，以强大的姿态跻身前沿模型行列。其训练成本效益显著，仅需 2.788M H800 GPU 小时的总训练时长，折合 557.6 万美元，却在多个关键领域展现出惊人的实力，成为当前开源模型中的佼佼者，有力地推动了自然语言处理技术的发展进程，缩小了开源与闭源模型之间的差距，为全球研究人员和开发者带来了新的希望与机遇。

二、模型架构：创新驱动性能提升

（一）基本架构（Basic Architecture）

DeepSeek-V3 立足于 Transformer 框架，深度融合 MLA 与 DeepSeekMoE 架构。MLA 机制在注意力处理环节大显身手，通过对注意力键值的低秩联合压缩，在不影响性能的前提下，大幅削减推理时的 KV 缓存。其核心在于巧妙地将输入 $h_t$ 经 $W^{DKV}$ 投影为压缩潜在向量 $c_t^{KV}$，再通过特定的上投影矩阵生成键值，仅需缓存少量关键向量，有效缓解了内存压力。在查询处理方面，同样的低秩压缩思路得以应用，降低训练激活内存，为大规模模型训练提供了可行性。

DeepSeekMoE 架构在 Feed-Forward Networks 中发挥关键作用，其精细的专家设置和共享专家机制提升了计算效率。在计算 FFN 输出时，综合考虑共享专家和路由专家的贡献，通过独特的门控机制 $g_{i,t}$ 筛选激活的路由专家，确保计算资源的合理分配。尤为突出的是其无辅助损失的负载平衡策略，通过动态调整专家的偏差项 $b_i$，依据训练过程中的专家负载情况实时优化路由决策，避免了传统辅助损失方法可能带来的性能损耗，同时辅以序列级辅助损失防止单序列内的失衡，保障了模型训练的稳定性与高效性。

（二）多令牌预测（Multi-Token Prediction）

多令牌预测（MTP）是 DeepSeek-V3 的一大创新亮点。它打破了传统的单令牌预测模式，通过顺序预测多个未来令牌，为模型训练注入新活力。MTP 模块紧密协作，共享嵌入层和输出头与主模型互联互通，在每个预测深度，Transformer 块基于前一深度表示和嵌入令牌进行精细处理，经投影和标准化后输入，由共享输出头计算预测概率。这种结构设计不仅强化了训练信号，提升数据利用效率，更使模型在推理时具备推测解码能力，加速文本生成过程，在实际应用中展现出巨大潜力，如在长文本生成和复杂问题回答场景下，能够更连贯、准确地生成响应。

三、基础设施：全方位优化训练生态

（一）强大计算集群支撑

依托配备 2048 个 NVIDIA H800 GPU 的高性能集群，DeepSeek-V3 的训练拥有坚实的硬件基础。节点内 NVLink 和 NVSwitch 确保 GPU 间高速互联，实现数据快速传输，而节点间的 InfiniBand 则为大规模分布式训练提供了稳定、高效的通信链路，保障了模型训练的大规模并行计算需求，使得海量数据和复杂模型参数能够在集群中高效流转，为模型训练的加速和扩展奠定了基础。

（二）高效训练框架赋能

HAI-LLM 训练框架是 DeepSeek-V3 高效训练的核心引擎。其独特的 16 路流水线并行（PP）、64 路专家并行（EP）和 ZeRO-1 数据并行（DP）组合，充分发挥了硬件资源的潜力。DualPipe 算法作为关键创新点，重新定义了流水线并行的规则。通过精细划分块组件并巧妙重组，实现了计算与通信的深度重叠，有效消除了流水线气泡，大幅提升了训练效率。在跨节点全对全通信方面，定制的高效内核与集群拓扑和 MoE 门控算法协同工作，依据 IB 和 NVLink 带宽差异优化令牌调度，借助 warp 专业化和动态调整技术，充分利用硬件资源，确保通信流畅，同时避免了对计算资源的过度占用。在内存优化上，通过重新计算 RMSNorm 和 MLA 上投影、在 CPU 存储指数移动平均、共享 MTP 模块参数等策略，在不牺牲性能的前提下，显著降低内存开销，使得模型训练能够在有限的硬件资源下高效运行。

（三）FP8 训练革新精度管理

FP8 训练框架为 DeepSeek-V3 带来了精度与效率的双重突破。在混合精度设置中，核心 GEMM 运算采用 FP8 精度，充分发挥其计算速度优势，同时对嵌入、输出头、门控和归一化等敏感或低成本操作保留高 precision，确保训练稳定性。为克服 FP8 格式动态范围有限的问题，创新性的细粒度量化策略应运而生。针对激活和权重分别采用 1x128 瓷砖和 128x128 块的分组缩放方式，结合精确的 FP32 累加和高效的 dequantization 机制，有效降低量化误差。在存储和通信环节，对优化器状态、激活等采用 BF16 或定制格式压缩，进一步减少内存和带宽占用，在大规模模型训练中实现了精度与资源利用的良好平衡，为模型训练的加速和扩展提供了有力支持。

（四）推理部署优化用户体验

在推理与部署阶段，DeepSeek-V3 针对 H800 集群架构精心设计策略。预填充阶段，4 节点 32 GPU 的部署单元整合多种并行技术，通过冗余专家部署和微批次处理优化负载平衡与吞吐量，确保高效处理输入文本。解码阶段，40 节点 320 GPU 的配置适应不同的计算需求，借助 IB 直连和 IBGDA 技术实现低延迟通信，同时探索动态冗余和微批次处理策略，提升解码效率，在在线服务场景中能够快速响应用户请求，提供流畅的交互体验，满足实际应用的高性能需求。

（五）硬件设计建议引领未来

基于模型训练和推理的实践经验，DeepSeek-V3 为硬件设计提供了前瞻性建议。在通信硬件方面，鉴于当前 SM 用于通信的效率瓶颈，倡导开发专用的 GPU 协处理器或网络协处理器，统一 IB 和 NVLink 网络接口，简化编程模型，提升通信效率，释放 SM 计算资源，为大规模模型训练和推理提供更强大的通信支持。在计算硬件领域，建议提高 Tensor Core 中 FP8 GEMM 累加精度，以满足高精度计算需求；支持细粒度量化、在线量化和转置 GEMM 操作，减少数据移动开销，提升计算效率，推动硬件技术与模型算法的协同发展，为下一代大语言模型的创新奠定基础。

四、预训练（Post-Training）：夯实模型能力根基

（一）数据构建智慧

DeepSeek-V3 的预训练数据构建独具匠心。在语料库优化上，大幅提升数学和编程样本比例，拓宽多语言覆盖范围，增强数据的多样性和专业性。文档打包与 PSM 框架、FIM 策略紧密结合，在保持数据完整性的同时，提升模型对文本结构的理解和生成能力。Byte-level BPE 分词器的应用及对特殊令牌的处理，有效优化了多语言压缩效率，减轻了令牌边界偏差，为模型训练提供了高质量的输入数据，使得模型能够更好地学习语言的语义和语法知识，提升语言理解和生成能力。

（二）超参数精细调校

模型超参数的精心设置构建了 DeepSeek-V3 的基本架构。61 层 Transformer、7168 隐藏维度及特定的注意力头和压缩维度配置，确定了模型的表达能力和计算复杂度。训练超参数的设定则保障了训练过程的稳定性和有效性。AdamW 优化器参数、学习率的动态调度、梯度裁剪规范以及批次大小的灵活调整，使模型在大规模训练中能够快速收敛，避免过拟合，逐步提升性能，适应不同阶段的训练需求，确保模型在复杂的训练过程中稳健成长。

（三）长上下文扩展突破

长上下文扩展技术是 DeepSeek-V3 的又一核心竞争力。借助 YaRN 算法，分阶段将上下文窗口从 4K 稳健拓展至 128K，使模型在处理长文本时游刃有余。在扩展过程中，对不同阶段的序列长度、批次大小和学习率的精细调整，确保模型在适应长上下文的同时保持性能稳定。在诸如文档摘要、长篇故事生成和复杂文本分析等任务中，模型能够有效利用长上下文信息，生成更准确、连贯的输出，显著提升了模型在实际应用中的实用性和灵活性。

（四）评估体系全面

全面的评估体系涵盖了多学科多选、语言理解与推理、问答、阅读、代码、数学等多个领域的丰富基准测试。在与 DeepSeek-V2-Base、Qwen2.5 72B Base、LLaMA-3.1 405B Base 等先进模型的对比中，DeepSeek-V3 脱颖而出。尤其在数学和代码任务上，其优势显著，成为开源模型领域的新标杆。例如在 HumanEval 和 MATH 等基准测试中，其高得分彰显了强大的编程和数学推理能力，为模型在实际工程和学术研究中的应用提供了有力的性能背书。

（五）消融研究洞察

消融研究深入剖析了 MTP 和无辅助损失负载平衡策略的关键作用。MTP 策略在多个基准测试中持续提升性能，证明了其对训练信号强化和模型预测能力优化的有效性。无辅助损失负载平衡策略相较于传统方法，在多数测试中表现更优，凸显其在平衡专家负载和提升模型整体性能方面的优势，为模型架构设计提供了宝贵的实践经验和理论依据，指引着未来模型优化的方向。

五、后训练（Post-Training）：提升模型应用适配性

（一）监督微调定制数据

监督微调阶段的数据集精心策划，涵盖多个领域，满足不同应用场景需求。推理数据源自 DeepSeek-R1 模型，并经多轮处理优化，融合了 R1 的准确性和简洁性优势。非推理数据由 DeepSeek-V2.5 生成并人工审核，确保数据质量。在微调过程中，合理的学习率调度和样本掩码策略保障了模型在不遗忘预训练知识的基础上，有效适应特定任务，提升了模型在实际应用中的性能表现，使其能够更好地满足用户在不同领域的需求。

（二）强化学习多元激励

强化学习环节采用双轨奖励模型。规则奖励模型在数学和编程等确定性问题中发挥关键作用，依据明确规则提供可靠反馈，确保模型输出的准确性。基于模型的奖励模型则应对自由形式答案问题，通过训练学习复杂的语义匹配和偏好判断，增强模型的泛化能力。GRPO 算法的应用，结合多领域提示，有效优化了模型策略，使其在不同任务中表现更优，在对话生成、创意写作和问题回答等场景下，能够生成更符合人类偏好的高质量文本。核心公式如下：

J G R P O ( θ ) = E [ q ∼ P ( Q ) , { o i } i = 1 G ∼ π θ o l d ( O ∣ q ) ] 1 G ∑ i = 1 G ( m i n ( π θ ( o i ∣ q ) π θ o l d ( o i ∣ q ) A i , c l i p ( π θ ( o i ∣ q ) π θ o l d ( o i ∣ q ) , 1 − ε , 1 + ε ) A i ) − β D K L ( π θ ∥ π r e f ) ) \begin{aligned} \mathcal{J}_{GRPO }(\theta) & =\mathbb{E}\left[q \sim P(Q),\left\{o_{i}\right\}_{i=1}^{G} \sim \pi_{\theta_{old }}(O | q)\right] \\ & \frac{1}{G} \sum_{i=1}^{G}\left(min \left(\frac{\pi_{\theta}\left(o_{i} | q\right)}{\pi_{\theta_{old }}\left(o_{i} | q\right)} A_{i}, clip\left(\frac{\pi_{\theta}\left(o_{i} | q\right)}{\pi_{\theta_{old }}\left(o_{i} | q\right)}, 1-\varepsilon, 1+\varepsilon\right) A_{i}\right)-\beta \mathbb{D}_{K L}\left(\pi_{\theta} \| \pi_{r e f}\right)\right) \end{aligned} JGRPO​(θ)​=E[q∼P(Q),{oi​}i=1G​∼πθold​​(O∣q)]G1​i=1∑G​(min(πθold​​(oi​∣q)πθ​(oi​∣q)​Ai​,clip(πθold​​(oi​∣q)πθ​(oi​∣q)​,1−ε,1+ε)Ai​)−βDKL​(πθ​∥πref​))​

$${\mathbb{D}}_{KL}\left({\pi }_{\theta }\Vert {\pi }_{ref}\right)=\frac{{\pi }_{ref}\left(o_i|q\right)}{{\pi }_{\theta }\left(o_i|q\right)}-log\frac{{\pi }_{ref}\left(o_i|q\right)}{{\pi }_{\theta }\left(o_i|q\right)}-1$$

A i = r i − m e a n ( { r 1 , r 2 , ⋯ , r G } ) s t d ( { r 1 , r 2 , ⋯ , r G } ) A_{i}=\frac{r_{i}-mean\left(\left\{r_{1}, r_{2}, \cdots, r_{G}\right\}\right)}{std\left(\left\{r_{1}, r_{2}, \cdots, r_{G}\right\}\right)} Ai​=std({r1​,r2​,⋯,rG​})ri​−mean({r1​,r2​,⋯,rG​})​

（三）评估多维验证

后训练评估涵盖了广泛的基准测试，包括 IFEval、FRAMES、LongBench v2 等新兴测试，全面检验了模型在不同任务和场景下的能力。与 DeepSeek-V2、Qwen2.5、LLaMA-3.1、Claude-Sonnet-3.5、GPT-4o 等强基线模型的对比，充分展示了 DeepSeek-V3 的优势。在代码编程、数学竞赛、知识问答等领域的出色表现，证明了其后训练阶段的有效性，使其能够在复杂的实际应用中提供高质量的服务，满足用户的多样化需求。

（四）讨论

后训练讨论环节深入探讨了蒸馏、自奖励和 MTP 评估等前沿话题。从 DeepSeek-R1 系列模型中成功蒸馏推理能力，为模型性能提升提供了新途径。自奖励机制的研究为模型自主学习和优化提供了新思路，有望在未来减少对外部奖励的依赖。MTP 评估的持续探索进一步揭示了其在模型训练和推理中的潜在价值，为模型优化提供了更多维度的参考，推动了大语言模型技术的持续创新和发展。

六、研究总结与展望

DeepSeek-V3 在大语言模型领域取得了令人瞩目的成就，其创新的架构设计、高效的训练方法和卓越的性能表现，为开源模型发展树立了新的典范。然而，技术的进步永无止境，在复杂任务处理、语义理解深度和模型可解释性等方面，仍存在提升空间。未来研究可聚焦于架构创新的深化、训练算法的优化和数据质量的提升，进一步挖掘模型潜力，推动大语言模型技术在智能客服、智能写作、教育辅助等众多领域的广泛应用，为人工智能的发展注入新的活力，创造更大的价值。