能耗是衡量设备实际运行情况的一个重要指标,一般以pJ为单位。能耗过大,会影响硬件的使用寿命,也会影响用户体验。如今手机是生活必需品,其中许多App背后都有人工智能算法的加持,因此模型的能耗会直接影响手机的续航时间,以及能同时运行的App数量。相比于参数量、计算量及计算速度,能耗的计算更加困难。
当将深度学习模型部署到实际产品中时,不仅要关注模型的精度,即是否能实现功能,还要关注效率。只有当模型的参数量、计算量、计算速度与能耗都在可接受的范围,才能够推出面向消费者的产品,从而发挥模型的价值。 LU5mOPvFNmL8e99Abt76+9rlqCSVXstvxG35c2IoBzLZCUDt/q9KpFjPsBBq4uRs