购买
下载掌阅APP,畅读海量书库
立即打开
畅读海量书库
扫码下载掌阅APP

4.2 服务部署

随着智能设备的广泛普及,越来越多的应用,如人脸识别、数据量处理、云游戏、增强/虚拟现实,也被越来越多的用户所喜爱。这些应用往往是计算密集型且高耗能的,而资源受限的单一移动设备无法提供实时高效的性能。边缘计算将计算下沉到距离用户更近的边缘节点,为应用提供运行所需的服务。我们通过一个例子来深入理解服务部署问题,图4-5所示为增强现实应用的执行过程,其中视频捕捉和画面呈现等简单操作在本机处理器上即可实现,然而人脸识别、目标检测、姿态检测和场景渲染等操作需要强大算力的支持,因而需要将其卸载至就近的边缘服务器进行处理。图4-6所示为增强现实应用的服务部署示例,此时边缘服务器 BS 1 缓存了人脸识别和目标检测服务, BS 2 缓存了目标检测和姿态检测服务, BS 3 缓存了场景渲染服务。当用户在位置A时,这三个基站对于用户来说都是可接入的,因而用户可以将这四类任务(人脸识别、目标检测、姿态检测、场景渲染)卸载至缓存有相应服务的基站。然而当用户从位置A移动到位置B时, BS 1 不在接入范围,因而其中部署的服务该用户无法使用,虽然新接入的 BS 4 也能提供新服务,但却没有缓存人脸识别服务,因而只能在本地执行人脸识别操作,这往往会带来很高的计算时延,进而影响用户体验。因此,服务部署方案对于应用的执行至关重要。

图4-5 增强现实应用的执行过程

图4-6 增强现实应用的服务部署示例

4.2.1 服务部署分类

根据服务提供商和用户的特征,我们将服务部署分为四类,如图4-7所示。

1.控制平面设计 集中式控制平面需要应用程序和基础设施资源的全局信息,以制定和传递全局部署决策。集中式布局算法的优点是能找到潜在的全局最优解,然而由于对信息需求较高,其在可扩展性和计算复杂性方面表现很差。与集中式解决方案不同,分布式方法考虑只利用多个调度节点来完成服务和边缘节点的映射,每个调度节点根据本地或邻近资源和状态进行布局。显然,分布式部署能灵活快速应对网络设备的动态变化,有助于提升决策的可扩展性和解决位置感知问题,部署最适合本地的服务。然而,分布式部署无法保证全局最优。Wang等人 [6] 在边缘计算或雾计算环境中设置多个边缘节点和边缘调度节点,在每个边缘节点中部署服务并负责具体的任务执行,而调度节点负责动态部署相关服务,当任务的服务请求数量过多导致边缘节点无法满足时,调度节点便将该任务卸载至云端处理。

图4-7 服务部署分类

2.放置决策特征

根据服务放置决策的紧迫程度,可分为离线部署和在线部署。离线状态下,在请求到来时,只有当所需的所有信息都获取时才会做出部署决定;而在线状态下,需要在做出实时的部署,即任务到来或者到来之前就要给出决策。在大多数真实应用,如增强现实、云游戏,都需要调度器在线调度,给出当前最优决策。在线部署能最大程度适应系统的动态变化,因为缺乏全局和未来信息,它依旧没法提供最优部署。Skarlat等人 [7] 假设所有信息已知,从而进行离线决策,而Lee [8] 针对边缘节点数量的动态变化,通过动态监控变化,提出一种在线部署策略来最小化计算时延。

3.系统状态

系统状态的变化来自于两个方面:边缘设施端和应用端。边缘网络是高度动态变化的,由于网络波动或者网络连接失败,边缘实体会选择离开或者加入网络;边缘计算的资源也会随时间变化,如新增摄像头或者GPU。从应用程序角度出发,为了响应环境的变化,它的结构框图可能会随时间而变化,如优化执行顺序、控制数据发送频率等。在静态部署策略下,在服务部署之后,无视边缘设备或者应用的动态变化,显然灵活度比较低,用户体验较差;而动态部署策略根据变化,指定了与之适应的反应策略,及时部署新服务、替换或者释放已部署服务,在满足给定约束的情况下,为用户提供最优的体验。Yousefpour等人 [9] 提出动态服务配置算法来满足用户的QoS需求和服务级别协议(SLA);提出动态决策边缘服务节点数量来应对突变的服务请求数量。

4.用户移动性

在边缘用户或设备移动时,确保用户始终能够在不中断的情况下获得相关服务和期望性能,是边缘计算的主要研究方向之一。终端节点(如智能手机、汽车、摄像头)位置的频繁变化可能会导致数据包丢失或者服务请求超时,降低用户体验。在这种情况下,调度器需要将之前的服务器从原边缘设施上透明地迁移到距离用户更近的新设施上,以保持服务的可用性。Mahmud等人 [10] 以优化用户感知时延和服务迁移代价为目标,提出使用基于汤普森采样的在线学习算法来探索边缘环境的动态性,并设计基于上下文的多臂赌博机方法来实现自适应的服务部署决策。Ouyang等人 [11] 根据用户的移动,通过优化接入网络的选择以及服务的部署,权衡基站接入、服务迁移、基站通信的代价,以此来提高用户的QoE。

4.2.2 服务部署面临的挑战

虽然基于边缘计算的服务缓存技术为应用的高效执行提供了保障,然而服务缓存的最优部署却面临诸多问题。

1.服务部署的先决性

通常在服务请求到来之前,调度者就需要将服务部署到相应的边缘节点,然而缺少对未来环境(包括用户和边缘设备)的先验信息,随机部署极大可能导致服务部署决策无法契合未来信息和满足应用的实际需求。

2.边缘的动态性本质上是不确定的

准确预测边缘动态性十分棘手,目前学术界没有一个统一的模型去建模该动态性。虽然在线学习通过对历史信息进行分析,进而预测了这种动态性,但基于学习的预测需要大量训练样本做支撑,真实边缘环境下通过试错收集样本的代价十分昂贵。

3.用户移动具有随机性

用户移动引发服务再部署,边缘计算平台的网络状态和资源使用状态也随之改变。为了减少服务迁移带来的影响,需要对用户的移动轨迹进行预测。然而,用户的运动特征(如速度、方向)很难获取。尽管基于学习的时序预测(如LSTM)取得了一定程度上的成功,但这些预测方法大多数针对特定的用户,不具有可扩展性。 2ztL/DGv1SCc9rDbYXKMnm/3BaGJ+COSHHuefJYrxw96nRSEagV4KUlagBCks0fO

点击中间区域
呼出菜单
上一章
目录
下一章
×