2.3　多模态大模型DeepSeek初探与使用

DeepSeek大型语言模型家族中的最新成员，代表了该系列的重要进步和革新。DeepSeek官方精心构建并发布了一系列基础语言模型以及指令微调语言模型，这些模型的参数规模广泛，从轻量级的15亿参数到庞大的6710亿参数，这些不同参数版本的模型进一步提升了性能和灵活性，以满足不同应用场景和性能需求。

在模型能力方面，DeepSeek展现了卓越的表现。通过在一系列严格的基准测试中进行评估，包括语言理解、语言生成、多语言能力、编程、数学以及推理等多个维度，DeepSeek不仅普遍超越了当前市场上的大多数开源语言模型，甚至在某些方面与领先的专有模型相比也毫不逊色。这种全面的性能提升，使得DeepSeek成为处理复杂语言任务、跨语言应用以及高级逻辑推理等问题的理想选择。

2.3.1　DeepSeek模型简介

DeepSeek系列模型从最初的DeepSeek LLM（基础版）开始，经历了多个版本的演化，每一代模型都在架构设计、训练算法、推理效率和模型表现上实现了显著的创新与优化。DeepSeek大型语言模型家族中的主要模型包括：

●　DeepSeek LLM：采用了与Llama类似的架构设计，并在此基础上进行了优化，包括多阶段学习率调度策略和分组查询注意力机制（GQA）等。

●　DeepSeek-V2：在DeepSeek 67B的基础上，DeepSeek-V2对模型进行了进一步优化，在注意力机制模块方面，设计了MLA来替代原来的GQA，该方法利用低秩键值联合压缩来消除推理时键值缓存的瓶颈，从而支持有效的推理。在FFN方面，采用了DeepSeekMoE体系结构，目的是实现最终的专家专业化。

●　DeepSeek-VL2：这是一系列先进的大型混合专家（Mixture of Experts，MoE）视觉语言模型，显著改进了其前身DeepSeek-VL。DeepSeek-VL2在各种任务中都表现出卓越的能力，包括视觉问答、光学字符识别、文档/表格/图表理解和视觉基础。DeepSeek-VL2模型系列由3个变体组成：DeepSeek-VL2-Tiny、DeepSeek-VL2-Small和DeepSeek-VL2，分别具有1.0B、2.8B和4.5B激活参数。

●　DeepSeek-V3：引入了FP8混合精度训练框架和DualPipe算法，有效减少了训练成本并提升了训练效率。DeepSeek-V3凭借其多项创新，不仅提升了推理效率，还通过优化训练策略、改进专家模块的资源分配和增强生成任务能力，设立了大规模语言模型的新标准。

●　DeepSeek-R1：基于R1-Zero迭代而来，采用RL（Reinforcement Learning，强化学习）框架，未经过监督微调仍展现了卓越的推理能力，并通过蒸馏技术提升了模型表现。

DeepSeek以其出色的性能、创新的技术特性和广泛的应用前景，在各个应用领域展示了强大的能力。

1．性能表现

DeepSeek在性能上的卓越表现已达到了国际领先水平，尤其是在推理和训练效率方面，足以与OpenAI的顶尖模型相提并论。其强大的推理能力使得它能够轻松解决复杂的数学难题、深入分析法律条文，并在众多任务中都有出色的展现。在训练效率方面，DeepSeek采用了FP8混合精度训练技术，显著提升了训练速度并降低了GPU的使用成本。这种技术首次在超大规模模型上成功验证了其有效性。DeepSeek的高性能赋予了它在科研、教育、工业等多个领域的广泛应用潜力。

2．开源特性与多模态处理能力

DeepSeek坚持开源策略，为全球开发者社区提供了一个检查、改进并利用这些模型进行深入研究和开发的平台。这一策略极大地推动了知识的共享和技术的发展，有效地降低了AI技术的入门门槛。

值得一提的是，DeepSeek的多模态版本（例如DeepSeek-VL系列）在保持强大语言能力的同时，还融入了多模态处理能力。这意味着它能够处理包括逻辑图、网页、公式识别、科学文献、自然图像等多种数据格式。这种能力使DeepSeek在处理和生成复杂内容时更为灵活和全面。

3．应用领域

DeepSeek的应用领域广泛，覆盖了自然语言处理、智能对话、文本生成、语义理解等多个方面。在银行业，DeepSeek已经显示出其重塑传统业务流程和服务模式的潜力，例如自动化处理大量重复任务、为用户提供个性化的金融产品和服务推荐等。此外，DeepSeek在医疗和教育等领域也展现出了巨大的应用前景，有望推动这些行业的智能化升级。

4．面临的挑战与未来展望

DeepSeek作为一个深度学习大模型，在性能、技术创新和应用领域等多个方面都表现出了显著的优势。随着技术的不断进步和完善，我们有理由相信，DeepSeek将在全球范围内推动AI技术的普及和发展，为更多的领域带来智能化变革的无限机遇。

2.3.2　DeepSeek带来的技术创新

在研发过程中，DeepSeek团队展现出了卓越的前瞻性和技术实力，积极采纳了更新的模式设计。其中，特别值得一提的是，引入了MLA（Multi-head Latent Attention，多头潜在注意力）机制和最新的MoE（Mixture of Experts，混合专家）架构。DeepSeek的MoE架构与MLA机制如图2-20所示。

MLA机制是对传统注意力机制的一种重要改进。在传统注意力机制中，模型通过计算输入序列中各部分的权重来聚焦关键信息。而MLA机制则进一步细化了这一过程，通过引入多个并行的注意力头，使得模型能够同时关注输入序列中的多个不同部分，从而更全面地捕捉和理解上下文信息。这种设计显著提升了模型在处理复杂任务时的推理与理解能力，使其能够更精准地聚焦于关键信息，做出更准确的预测和决策。

常见的多头注意力（MHA）、分组查询注意力（GQA）、多查询注意力（Multi-Query Attention，MQA）与多头潜在注意力（Multi-Head Latent Attention，MLA）的简化示意图如图2-21所示。

而MoE架构则是一种具有高度灵活性和扩展性的模型设计。在这种架构下，模型被划分为多个专家网络，每个专家网络都专门负责处理某一类特定任务。在训练过程中，模型能够动态地分配计算资源，针对不同任务调用最合适的专家网络进行处理。这种设计不仅大大提高了模型的计算效率，还使得模型在处理多样化任务时更加得心应手。通过结合多个专家网络的智慧和力量，DeepSeek得以在各项任务中都展现出卓越的性能。

MLA机制和MoE架构的引入是DeepSeek技术创新的重要体现。这些创新设计不仅优化了模型的性能，还使得DeepSeek在处理多样化任务时更加高效与准确。通过这些关键的创新设计，DeepSeek无疑在深度学习领域树立了新的标杆，并为AI技术的进一步发展奠定了坚实基础。

2.3.3　DeepSeek的第三方服务与使用示例

DeepSeek作为开源大模型，为用户提供了广阔的自主性和灵活性。我们固然可以独立自主地部署不同版本的DeepSeek以满足个人使用需求。然而，对于初学者或资源有限的用户来说，直接部署可能存在一定的难度。幸运的是，现在有了更为便捷的选择——使用第三方已经部署好的DeepSeek服务。

这些第三方服务通常提供免费的API接口，使得用户能够一键部署并实现特定的功能，无须关心底层的复杂性和资源配置问题。其中，ModelScope便是一个值得推荐的选项。

在使用API接口之前，我们首先需要注册并登录ModelScope，登录页面如图2-22所示。

登录ModelScope社区后，单击左侧的“访问令牌”，创建一个可供使用的、免费调用ModelScope的API-Inference的令牌序列，如图2-23所示。

在创建访问令牌后，我们即可通过代码部署并使用不同的DeepSeek版本来完成我们的应用开发。下面给出一个示例，帮助读者熟悉DeepSeek模型的调用。

打开前面安装的PyCharm IDE，先新建一个项目，再新建一个hello_deepseek.py文件，输入如下代码：

运行以上代码，结果如图2-19所示。

你好！有什么我可以帮助你的吗？

这里需要说明一下，ModelScope是一个专业提供大模型部署和整合的平台。它汇聚了众多先进的大模型，并通过优化和封装，为用户提供了简洁易用的接口。通过ModelScope提供的已部署好的模型代码，我们可以轻松地调用和使用DeepSeek的多个版本。这不仅降低了技术使用的门槛，还大大提升了使用效率。