下载掌阅APP，畅读海量书库
立即打开
随着5G、大数据、云计算、人工智能、区块链、工业互联网等新技术新应用的快速发展，在催生智能交通、远程医疗、智慧城市等领域大量新平台、新应用的同时，也为网络安全发展带来了新问题、新风险。
一是新技术新应用的安全监管体系亟待完善。当前，我国在新技术新应用安全发展方面还存在监管制度缺失、监管手段落后等突出问题。在监管制度缺失方面，我国在人工智能安全领域的治理滞后性广泛存在，与美西方国家相比，人工智能相关的法律法规及治理体系尚不完善。在监管手段落后方面，在人工智能安全领域，由于算法“黑箱”难题未解决，以及测试技术、测试手段不健全等原因，现有技术手段难以清晰解释算法内部运行机制、算法运行结果等，导致算法备案、第三方审查等无法发挥真正的监管作用。在区块链安全领域，区块链的匿名、不可篡改等特性，使得不健康信息一旦上链则无法修改且扩散极快，传统的安全手段及监管方式难以发挥作用，链上信息监管难度极大。
二是新技术新应用的安全标准体系亟待健全。在人工智能安全领域，尚未建立涉及人工智能社会伦理方面的原则、框架等，人工智能安全属性定义和度量指标、人工智能安全评估、生成式人工智能安全等系列安全标准尚待研究制定。在工业互联网安全领域，现有的安全评估手段与管理规范难以符合各行业企业情况的安全接入策略，并难以获得有效的安全保障。
三是新技术新应用自身安全风险不容小觑。在人工智能安全方面，对抗样本和数据投毒作为攻击人工智能的“病毒”已从理论研究走向实际应用，成为巨大安全威胁；人工智能模型存在模型窃取攻击风险，攻击者访问目标模型的预测API，使用专门设计的样本迭代器查询目标模型，根据返回的预测结果最大限度地提取有关模型内部的信息，进而逐步训练一个替代模型，用于产生可转移的对抗样本来攻击原始模型或窃取整个模型供自己使用。在5G安全方面，网络功能虚拟化模糊了5G网络的安全防护边界，传统的安全防护体系难以有效保护网络通信；海量5G终端设备安全防护能力不足，极易被恶意控制成为新的攻击源。