随着人工智能技术的快速发展，智能助手（如DeepSeek-V3）在多模态理解、个性化交互、知识推理等领域的应用日益广泛。DeepSeek-V3作为深度求索公司推出的第三代智能助手，凭借其先进的核心技术（如大规模预训练、多模态理解、上下文感知等），在智能客服、内容创作、教育、医疗等领域展现了强大的潜力。

然而，要将DeepSeek-V3的能力充分发挥并应用于实际业务场景，不仅需要深入理解其核心技术原理，还需要掌握本地部署和微调的方法，以满足特定领域或企业的定制化需求。为此，本课程旨在帮助学员系统学习DeepSeek-V3的核心技术原理，并通过实操掌握本地部署和微调的技能，从而提升在实际项目中的应用能力。

1. 深刻理解DeepSeek-V3的核心技术原理

· 掌握DeepSeek-V3的架构设计、多模态理解、上下文感知、知识图谱等核心技术。

· 掌握大规模预训练模型（如Transformer）的工作原理及其在DeepSeek-V3中的应用。

2. 掌握DeepSeek-V3的本地部署方法

· 学习如何搭建适合DeepSeek-V3运行的本地环境（包括硬件配置、依赖库安装等）。

· 掌握DeepSeek-V3的本地部署流程，包括模型加载、服务启动和接口调用。

· 掌握如何优化部署性能，以支持高并发和低延迟的应用场景。

3. 学会DeepSeek-V3的微调与定制化

· 掌握如何利用领域数据对DeepSeek-V3进行微调，以提升其在特定任务中的表现。

· 学习微调过程中的关键技术，包括数据预处理、模型训练、参数调优等。

4. 提升实际项目中的应用能力

· 通过实战案例，学习如何将DeepSeek-V3应用于智能客服、内容生成、知识问答等场景。

第一天课程：DeepSeek-V3/R1核心技术架构和训练过程

上午课程

第一部分 DeepSeek-V3的架构创新：训练GPU和成本均低，但效果卓越

1.1 V3风靡海内外的关键因素：训练成本极低、引领前沿创新

1.1.1 V3训练成本：所用的GPU训练资源仅为Llama 3.1 405B的差不多1/14

1.1.2 在国内也能引领世界级前沿

1.2 模型架构：MLA、负载均衡的MoE、Multi-Token预测

1.2.1 多头潜在注意力

1.2.2. 无辅助损失的负载平衡 DeepSeekMoE

1.2.3 多token预测：Multi-Token Prediction显著加快模型的解码速度

第二部分 DeepSeek-V3基础设施层面的创新：FP8 训练等

2.1 训练框架(含GPU的内部结构示意图)

2.1.1 双管道DualPipe与计算-通信重叠

2.1.2 跨节点全对全通信的高效实现：通过PXT连接CUDA和底层GPU硬件

2.1.3. 极致内存节省与最小开销

2.2 FP8训练：虽算的快 但精度不够，故需提高精度

2.2.1 混合精度框架

2.2.2. 通过量化和乘法提高精度

2.2.2 低精度存储和通信：降低内存和通信开销

2.3 推理与部署

2.3.1 预填充

2.3.2 解码

2.4 硬件设计建议

下午课程

第三部分 DeepSeek-V3的预训练与后训练

3.1 预训练

3.1.1 数据构建：提高数学、编程、多语言样本，最终14.8T语料

3.1.2 超参数

3.1.3 长上下文扩展

3.1.4 评估与讨论

3.2 训练后处理：透露了大半后来引爆全球的R1正式版训练流程

3.2.1 监督微调

3.2.2 强化学习：涉及奖励模型和GRPO

3.2.3 评估与讨论：关于DeepSeek-R1提炼与多token预测

第四部分 DeepSeek R1：如何通过纯RL训练大模型的推理能力

4.1 提出背景与相关工作

4.1.1 R1-Zero的提出背景：无需人类数据，从零实现自我迭代

4.1.2 R1的提出背景：解决Zero可读性差等问题

4.2 DeepSeek-R1-Zero：规则驱动的大规模RL训练，无冷启动、无SFT

4.2.1 RL算法GRPO：不需要critic

4.2.2 规则奖励建模(准确率奖励 + 格式奖励)：不用训练专门的奖励模型RM

4.2.3 训练模板：通过prompt让Zero启动深度思考的推理模式

4.2.4 Zero的性能、自我进化过程和顿悟时刻

4.3 DeepSeek-R1：先冷启动数据SFT 再RL，之后再SFT 再RL

4.3.1 阶段一 冷启动(主要关注推理)：通过R1-Zero生成数千条长CoT数据

4.3.2 阶段二 面向推理的GRPO RL：类似Zero的规则奖励，但增加语言一致性奖励

4.3.3 阶段三 V3上的的两轮SFT(结合rejection sampling)：涉及80w通用层面的推理和非推理数据

4.3.4 阶段四 所有场景的RL：提高有用性和无害性，且混合规则奖励和偏好奖励

4.4 蒸馏：赋予小模型推理能力

4.5 一些经验总结：成功和失败的经验分析总结

第二天课程：DeepSeek本地部署和微调案例实操

上午课程

第五部分 本地部署准备工作：各个版本、推理框架、硬件资源

5.1 DeepSeek-R1的多个版本：加上2个原装671B的，总计8个参数版本

5.2 主流的大模型推理框架：分为PC端和Android端

5.3 不同参数的模型所要求的硬件

5.4 蒸馏版和满血版的两类部署

第六部分 通过Ollama、vLLM本地部署DeepSeek-R1蒸馏版：支持联网搜索及知识库问答

6.1 基于Ollama和各类插件构建智能对话：终端、open-webui(支持联网)、Chatbox

6.1.1 Ollama下的终端命令行交互

6.1.2 Ollama下的open-webui交互：基于docker安装，且支持联网搜索

6.1.3 基于Ollama + ChatBox部署deepseek-r1:7b

6.2 基于Ollama和Page Assist/AnythingLLM构建本地知识库问答系统

6.2.1 基于Ollama + Page Assist搭建本地知识库问答系统：且支持联网搜索

6.2.2 基于Ollama + AnythingLLM搭建本地知识库问答

6.3 通过vLLM推理deepseek-r1

6.3.1 基于vLLM的命令行交互——R1-Distill-Llama-8B

6.3.2 基于vllm + open WebUi 部署r1 7b

6.4 本地手机端部署DeepSeek-R1蒸馏Llama/Qwen后的版本

下午课程

第七部分 无蒸馏前提下本地部署R1 or R1-Zero 671B满血版

7.1 折中路径：无蒸馏但量化部署Deepseek-R1 671B满血版

7.1.1 本地CPU上运行 Deepseek-R1 的完整的硬件 + 软件设置

7.1.2 GPU上跑无蒸馏但量化的Deepseek-R1 671B满血版

7.2 企业级部署：无蒸馏不量化部署Deepseek-R1 671B满血版

专利和文献：

深度学习国际发明专利

1) 基于深度学习的图像检索方法及装置，专利公开公告号：CN107368614A。专利类型：发明公布。发明人：周红伟;李凯;任伟;李庆;郭奇杰;周杨;刘川郁

2) Simulation model and droplet ejection performance of a thermal-bubble microejector，Hongwei Zhou，A.M.Gué，Sensors and Actuators B: Chemical Volume 145，Issue 1，4 March 2010，Pages 311-319

3)Simulation Bubble Nucleation and Bubble Growth of a Thermal Bubble Microejector,Hongwei Zhou，A.M.Gué，Excerpt from the Proceedings of the COMSOL Conference 2009 Mila