下载掌阅APP，畅读海量书库
立即打开
随着物联网系统的发展，物联网设备产生的数据量爆炸性增长，传统物联网集中式数据处理方式，即物联网采集的数据的计算和存储均在云计算中心，导致：①线性增长的集中式云计算能力无法匹配爆炸式增长的海量边缘数据；②从网络边缘设备传输到云数据中心的海量数据增加了传输带宽的负载量，造成网络延迟时间较长；③边缘设备数据涉及个人隐私和安全的问题变得尤为突出。万物互联应用需求的发展催生了边缘计算模型 [6] ，其能在网络边缘设备上增加执行任务计算和数据分析的处理能力，将原有云计算模型的部分或全部计算任务迁移到网络边缘设备上，降低云计算中心的计算负载，减缓网络带宽的压力，提高万物互联时代数据的处理效率。引入边缘计算后，物联网系统演变为端-边-云模型，如图2-8所示。
● 物联网物件（Things）层： 由各种物联网传感器和作动器、智能硬件、智能设备组成。
● 物联网边缘层： 由网络组件和边缘节点组成。网络组件（如物联网网关、交换机和路由器等）负责及时可靠地传输数据；边缘节点执行数据转换、分析以及信息处理功能，对于智能制造、物联网医疗等实时应用非常有用，能够提供低延迟，提供更快的紧急响应。
● 物联网云和应用层： 管理物联网设备，处理其他两层递交的数据，其通过应用软件提取并分析数据，并与其他平台集成以提高业务价值。
图2-8 物联网端-边-云模型
物联网数据处理方式的转变，产生了AIoT的概念。AIoT是人工智能与物联网相结合的技术，实现更高效的物联网操作、改善人机交互、并改进数据管理和分析。AIoT通过IoT系统的传感器实现实时信息采集，而在终端、边缘或云进行数据智能分析，最终形成一个智能化系统 [7] 。IoT是智能物联网的基础设施，其无所不在的传感器和智能终端实时获取大量应用数据，是数据来源和运行基石；AI是智能物联网的智慧化手段和工具，AI帮助IoT实现智能感知与智慧互联，提升感知与连接的广度、深度和有效性，实现大数据智能分析，增强IoT系统的感知、通信和计算能力，提升融合应用解决复杂问题的能力和智慧化水平。
智能物联网是AI与物联网的结合，传统的IETF等物联网标准解决了物联网设备/智能物体连接问题，因此可将物联网采集的数据上传到云端，基于收集的数据使用专用AI服务器训练AI模型，并将其部署到云端，从而实现智能物联网应用。由于将大量物联网终端连接到云端存在可扩展性问题，且请求云端的AI服务也存在时延较大问题，边缘计算的出现使得AI服务可部署在边缘设备，近距离为物联网设备提供AI服务。
即使边缘设备可提供AI服务，但对于需要花费大量时间或需要大量数据的任务而言，连接到云端AI服务更为适宜，因此，在云服务器和边缘设备之间适当分配工作负载是智能物联网设计需要考虑的问题。随着人工智能技术的发展，AI技术从运行在具有GPU的高性能服务器，开始向小型硬件（如低性能CPU及AI芯片）上迁移，称为嵌入式AI或TinyML [8] 。嵌入式AI的出现，使得智能物联网实现端-边-云协同智能计算。
一般而言，提供AI服务的系统通过如图2-9所示的过程构建。
● 数据收集与存储
● 数据分析与预处理
● 训练AI模型
● AI模型部署及推理
● 检测并维护精度
图2-9 实现AI的过程
在数据收集过程，通过从传感器/物联网设备收集数据或使用数据库存储的数据来准备AI模型训练所需数据，该过程涉及传感器、物联网设备和数据库服务器，并通过互联网进行通信。在数据分析及预处理过程，分析所准备数据的特征，并针对训练进行预处理，该阶段涉及具有GPU的高性能服务器和数据库服务器，主要在本地网络中执行。在模型训练阶段，通过应用适合数据特征和待解决问题的算法来生成训练模型，并使用配备GPU的高性能服务器，运行在本地网络。在模型部署和推理服务提供过程中，使用AI技术解决各类应用问题（如分类、回归、预测等），涉及包括提供人工智能服务的目标机器、客户端和云等。由于该阶段涉及多种设备，主要通过互联网进行。在精度监控阶段，如果出现新数据导致性能恶化的情况，则通过重新训练创建新模型，并使用新创建的模型维持AI服务的质量。
经过上述过程训练好AI模型后，需要对AI模型进行部署以提供AI推理服务，通常有以下部署方式。
1.云端AI
在智能物联网应用早期，AI模型是在云中训练和托管的（如图2-10所示）。运行人工智能所需的巨大计算能力使云计算成为理想。开发人员利用高端CPU和GPU来训练模型，然后利用它们进行推理。应用客户端在客户端机器上运行，请求云端AI推理服务，并通过物联网设备中的微控制器对传感器和执行器进行智能管理和控制。
图2-10 物联网云端AI模型
2.边缘AI
由于云端AI通信延迟过大，不能满足工业自动化、智能医疗、智能交通等对实时性要求较高应用的需求。实时应用要求AI模型在靠近应用端运行，因此边缘设备成为本地部署AI模型的理想选择（如图2-11所示）。由于边缘资源有限，模型的训练和再训练过程仍然需要云执行，经过训练的模型部署在边缘进行推理，实现了资源充沛的云端和低延迟边缘端的结合。同样，智能物联网应用客户端在客户端机器上运行，请求边缘设备部署的AI推理服务，实现对物联网设备的实时控制。
图2-11 物联网边缘AI模型
通常情况下，云端和边缘设备可同时部署AI服务，但由于算力的差异，云端AI服务模块与边缘设备上AI服务模块之间存在性能差异，可根据应用需求自适应将客户端请求分发到云端和边缘设备，以获得用户期望的AI服务。如应用需要推理精度低但推理时间短的AI服务时，向边缘设备请求AI推理服务；而应用需要推理精度高的AI服务时，则向云端请求AI推理服务。
3.端侧AI
随着微控制器（MCU）和微机电系统（MEMS）的发展，高性能低功耗的芯片使得万物智能具有了可能性。近年来移动化浪潮和交互方式的改变，使得机器学习技术开发也在朝着轻量化的端侧发展（如图2-12所示），如谷歌于2017年底推出的轻量、快速、专门针对移动应用场景的深度学习工具TensorFlow Lite [9] ，降低了端侧深度学习技术的门槛。而在超低功耗（＜1mW）MCU上执行机器学习的TinyML近年来得到了广泛关注，TinyML能够在资源受限的物联网端侧设备上进行数据处理和机器学习，增强了设备智能性。
图2-12 端侧AI
端侧AI技术的出现，未来智能物联网将以端-边-云协同方式执行计算，智能物联网将计算任务以模型结构或输入维度进行划分，并分配到多个智能体设备上协同计算，以此聚合多个设备的计算资源解决模型部署问题。
物联网云-边-端AI功能的实现，使得可以在终端设备、边缘域或云中心通过AI对数据进行智能化分析，实现智能感知、智能通信与智能计算，提升物联网感知、通信与计算的广度与深度，从而有效支撑上层各种智能物联网应用。智能物联网体系架构如图2-13所示。
图2-13 智能物联网体系架构
1.智能感知
感知类似于“眼耳口鼻”等感觉器官，是确保物联网正常运行的关键。健康监护、自动驾驶、智能电网、智能交通等应用，对信息感知的广度、深度提出了更高的要求，要求感知更全面更精准。智能感知除了实现终端持续智能化、终端软硬件解耦外，还需加强不同终端间的协作能力，挖掘多源感知数据的价值，实现多模态融合感知，利用不同传感器获取的信息，避免了单个传感器的感知局限性和不确定性，形成了对环境或目标更全面的感知和识别。
2.智能通信
传统物联网应用大多是状态监测、远程控制等具有单一功能的形式，应用范围受限，智能程度低；而未来智能物联网的应用形式应是多功能集成，智能程度高。传统物联网通信协议基于固定假设所建立的数学模型，因此无法在多应用开放环境中持续适应，也无法满足用户个性化的需求。在物联网通信协议设计引入AI方法，如强化学习、神经网络、元学习等方法，使得通信协议在物联网应用复杂多变的环境中具有自适应能力，在环境变化、节点移动、通信故障等情况下提供了较好的性能。
3.智能计算
智能计算是指协同利用物联网、边缘和云端计算能力完成复杂的智能计算任务（如深度计算模型），提升对海量物联网感知数据的处理效率。在AIoT应用场景下，传统集中式智能（如云计算）发挥了重要的作用，集中式智能架构简单、云计算资源充足，边界清晰易于控制，然而存在网络链接丢失和数据隐私泄露等缺点。分布式协同计算则充分利用物联网中的各级可用资源，实现分布式智能，在靠近物联网终端及其边缘提供多种智能计算选择。