我的位置 首页  >  新闻动态  >  国内新闻

专题·原创 | 安天移动安全CEO潘宣辰:人工智能和网络安全 人的重要性无法取代

来源:科技成果转化中心时间:2018-06-07
      
点击上方“中国信息安全”可订阅

从网络安全行业的角度出发,对人工智能的理解更多的是在技术和实际的应用上。在技术上,以机器学习为主;在机器学习之上,围绕深度学习,通过神经网络算法,深度卷积算法等,在语义、图像识别相关的特定场景上取得实际应用的突破;其中一些复杂的处理方法如迁移学习、强化学习、深层对抗等一些分支,都是人工智能在算法和模式上的创新工作。在这三个层次之上,是初级人工智能的应用。当前实验室场景,都是在较为收敛的情况下研究特定问题。

要谈人工智能和网络安全的关系,有一点必须明确,就是人的重要性是不能被取代的。习总书记在4·19讲话中指出,要“增强网络安全防御能力和威慑能力。网络安全的本质在对抗,对抗的本质在攻防两端能力较量。”在网络安全的博弈和对抗中,不论是防御能力还是威慑能力,人的因素都是最重要的,不可替代的,人工智能技术可以提升网络安全的自动化水平,但是目前还在探索和尝试阶段,还有很多的不成熟,它不可能取代人,从当前来看,自身还有很长的路要走。


一、人工智能给网络安全带来的影响

这个影响是分为很多维度和方面的,网络安全在社会中已经有了很强的融合性和多面性,人工智能技术的介入使得网络安全在技术层面、产品层面、商业模式层面、社会角色层面都会受到影响。

1. 对抗形式的改变

人工智能是目前全球公认的能给人类带来革命性技术的方向之一,它给网络安全领域带来的影响必然是巨大的。但是这种影响也是多方面的,人工智能技术可以弥补人类工程师的能力和技术不足,但攻击者也会积极引用这些技术,增强他们技术对抗的能力,从而产生网络安全对抗的新形势。

习近平总书记把网络安全核心技术定义为基础、非对称和颠覆性技术。人工智能技术覆盖了这三个层面,而不仅仅是颠覆性的概念。人工智能对于网络安全行业来说,在技术上是持拥抱态度的,因为面向新技术是网络安全对抗的核心所在,当新的技术在各个层面上应用起来,必然会带来对抗形式的改变。

2. 改变网络安全产品形态、客户关系及商业模式结构

人工智能不仅是一项技术,也是一种新的应用场景和交互方式。从应用过程中来看,它调整并改变了像屏幕、键盘这种传统的交互方式,对机器的要求也从计算能力、处理能力,升级到了初级的智慧能力,这样来理解,人工智能确实会影响产品、设备的形态以及商业模式的结构。

3. 延展网络安全的边界及内涵

全世界各个国家高度重视网络安全的对抗,人工智能技术上升为国家之间战略和顶级技术的对抗,给网络安全领域带来了新的问题,例如人工智能本身是不是安全的,能否在军队、政府部门中安全使用;人工智能本身的最新研究成果及先进资产会不会延展国家对网络安全需求层面的内涵等。


二、人工智能存在四方面安全风险

人工智能存在的安全风险是多方面的。针对实际的应用和客户方的需求,有以下几点:

1. 人工智能在应用的过程中带来了很多新的风险和攻击面,这个挑战在当前尤为突出,例如数据流动、新型的数据采集、与传统产品对接和适配等都未达到一个成熟的阶段。另外现有的安全问题没有妥善解决,包括数据的保护、隐私的保护、云架构的安全问题,在这些问题没有妥善解决的前提下,人工智能的积极引用必然会带来新的安全风险。

2. 人工智能技术的应用会给攻击者带来新的便利性,增加网络安全对抗的成本。目前,我国正处于逐步完善敏感数据防护的阶段,这些新的技术会提高攻击者的效率,甚至是降低他们的成本。

3. 人工智能相关的产品技术并没有明确的安全分级,随着其技术的快速发展,市场上各类产品的性能参差不齐,会产生产品本身和现有的安全要求不完全匹配的风险。

4. 人工智能算法目前是一个黑箱子,算法本身的可解释性、可读性不强,很难驾驭,无法确保人工智能技术的算法、理论、设计等方面没有缺陷,但目前这个问题还没有引起广泛关注。


三、人工智能技术在网络安全中的应用场景

人工智能技术在网络安全中的应用场景和它的定义是一一映射的。

结合机器学习的应用场景,业内称为网络安全加机器学习,是把机器学习的算法和技术,引用到网络安全中现有的机制和方法中去,使其取得更好的效果和优化,例如我们的反病毒引擎,就是利用机器学习新的算法和架构来重构和调整我们对微代码识别方面的能力。

结合深度学习的应用场景,通常称为深度学习加网络安全,深度学习的人工智能已经在图像识别等特定领域的应用上取得了显著效果,但它的算法特点是在图像、语音等内容层面的处理上,和网络安全对抗中的技术能力有一定差异性,需要解决跨领域的迁移问题。深度学习算法在识别恶意代码的欺诈手段上,可以有效识别仿冒某些应用的图标、图像和交互界面的伪装。

结合人工智能算法和结构的应用场景,主要是用来优化我们的体系和架构,优化对抗效果和技术水平。

结合初级人工智能的应用场景,目前正用于加强网络安全工程师的分析水平和能力,通过人和机器的

       (科技成果转化中心供稿)