一次偶然的机会,我在城铁上发现也可以远程管理我家的加湿器和智能音箱,我突然意识到,这些AI家居设备时刻与云连通,同时也与家里其他网络终端共享一个局域网,如果存在安全问题,黑客是否也可以远程控制它们,也可以时刻像音箱一样监听我们的谈话,嗅探我家网络上发生的一切呢?
在2017年的BlackHat安全会议上,阿里巴巴安全部门的研究人员演示了用声音和超声攻击依赖于陀螺仪、加速度计等微机电系统传感器输入信号的智能设备(见图1-2)。这种声音武器在理论上可以让无人机坠落,让机器人发生故障,让虚拟现实和增强现实软件失去方向感,让用户从平衡板上摔下来,它甚至潜在地可用于攻击自主驾驶汽车或干扰汽车的安全气囊传感器。
图1-2 阿里巴巴安全研究人员演示了用声音和超声攻击智能设备
因此,AI设备的安全显然是AI安全的一个重要领域。