2.3.1 边缘计算架构的组成

1.服务器

服务器是构建边缘计算架构的核心。相对于传统的数据中心服务器，边缘服务器应能够提供高密度计算及存储能力。这主要是由于在实际的边缘部署环境中，边缘服务器能够得到的工作空间十分局促，通常不足传统单个数据中心机架（约40U）的10%。为了尽可能多地容纳业务部署，边缘服务器需要采用高密度组件，例如多核CPU（多于20核）、预留至少两个半高半长规格的PCIe插槽，支持M.2 E-key的Wi-Fi、卸载模块或M-key的存储模块，大容量ECC内存，以及大容量固态存储器等。

在供电和功耗方面，考虑到深度学习模型推理的场景需要使用卸载卡，总功耗至少在300W以上，使用直流电或者交流电供电。对于5G基站内部署的服务器，需要支持48V直流供电，并支持无风扇散热能力，降低对部署环境的散热要求。

带外管理可以帮助用户在远端管理边缘服务器平台，例如升级系统或诊断故障，是可选的特性。

2.异构计算

随着物联网应用数据的爆炸性增长以及AI应用的普及，异构计算在边缘计算架构中也越来越重要。它能够将不同指令集的计算单元集成在一起，从而发挥它们各自最大的优势，实现性能、成本和功耗等的平衡。例如，GPU具有很强的浮点和向量计算能力，可以很好地完成矩阵和向量的并行计算，适用于视频流的硬件编解码、深度学习模型的训练等；FPGA具有硬件可编程能力及低时延等特性；而ASIC具有高性能、低功耗等特点，可用于边缘侧的深度学习模型推理、压缩或加解密等卸载操作。异构计算在带来优势的同时，也增加了边缘计算架构的复杂度。因此，需要虚拟化和软件抽象层来提供给开发者统一的SDK和API接口，从而屏蔽硬件的差异，使得开发者和用户能够在异构平台上方便地开发和安装。

3.虚拟机和容器

借助虚拟机和容器，系统能够更方便地对计算平台上的业务负载进行整合、编排和管理。虚拟机和容器的主要区别如表2-2所示。

虚拟机和容器的选择主要依赖于业务需要。若业务之间需要达到更强的安全隔离，虚拟机是较好的选择；如果更看重节省资源、轻量化和高性能，容器则更好。容器可以单独运行在主机OS之上，也可以运行在虚拟机中。Docker等容器技术在多数应用中更适合边缘计算的场景。但是，依然有些边缘场景需要使用传统虚拟机（VM），包括同时需要支持多个不同OS的场景，例如Linux、Windows或者VxWorks；以及业务间相差较大并对相互隔离需求更高的时候，例如在一个边缘计算节点中同时运行工业上的PLC实时控制、机器视觉和人机界面等。

由于容器具有轻量化、启动时间短等特点，所以能够在需要的时候及时安装和部署，并在不需要的时候立即消失，释放系统资源。同时，一个应用的所有功能再也不需要放在一个单独的容器内，而是可以通过微服务的方式将应用分割成多个模块并分布在不同的容器内，这样更容易进行细粒度的管理。在需要对应用进行修改的时候，不需要重新编译整个应用，而只要改变单个模块即可。

容器管理器用于管理边缘端多个主机上的容器化的应用，例如Kubernetes支持自动化部署、大规模可伸缩、应用容器化管理，如图2-9所示。在生产环境中部署一个应用程序时，通常要部署该应用的多个实例，以便对应用请求进行负载均衡。在Kubernetes中，我们可以创建多个容器，每个容器里面运行一个应用实例，然后通过内置的负载均衡策略，实现对这一组应用实例的管理、发现、访问，而这些细节都不需要运维人员去进行复杂的手工配置和处理。

在边缘计算中，终端节点不再是完全不负责计算，而是做一定量的计算和数据处理，之后把处理过的数据再传递到云端。这样一来可以解决时延和带宽的问题，因为计算在本地，而且处理过的一定是从原始数据中进行过精炼的数据，所以数据量会小很多。当然，具体要在边缘做多少计算也取决于计算功耗和无线传输功耗的折中——终端计算越多，计算功耗越大，无线传输功耗通常就可以更小，对于不同的系统存在不同的最优值。

如图2-10所示为百度AI边缘计算参考架构，作为一个典型、完整的边缘计算技术体系，包括基础设施、性能加速、平台资源管理、PaaS、AI算法框架和开放应用。基础设施主要包括智能终端、接入网技术、移动边缘站点、云边缘站点和PoP站点，根据不同资源程度来分配计算任务；性能加速完成边缘计算节点的计算、存储、I/O优化和节点连接的加速优化；平台资源管理实现对CPU、GPU、存储和网络的虚拟化和容器化功能，满足资源的弹性调度和集群管理要求；PaaS提供应用设计及开发阶段的微服务化、运行态环境、通信框架和管理面运行状态监控等支持；AI算法框架从时延、内存占用量和能效等方面，实现边缘计算节点上AI推理加速和多节点间AI训练算法的联动；开放应用凭借AI算法框架完成强交互的人机交互、编解码、加解密等信息预处理和算法建模，同时需要在数据源带宽低收敛比、低时延响应的物理资源环境中满足数据传输和交互需求。