我的位置 首页  >  新闻动态  >  国外新闻

人工智能在网络安全中的应用价值展望

来源:科技成果转化中心时间:2017-12-29
      

在经历了一系列跌宕起伏后,人工智能2017年再一次回到了浪潮之巅。国际知名咨询机构Gartner20177月发布年度新兴技术成熟度曲线显示,作为人工智能两大主流分支——深度学习和机器学习,位于曲线的最顶端(见图1)。国务院20177月印发了《新一代人工智能发展规划》,提出推动人工智能与各行业融合创新,推动人工智能规模化应用,全面提升产业发展智能化水平。网络安全作为IT领域的传统行业,如何与人工智能进行有机结合成为业界关注的焦点。本文展望了在网络安全行业人工智能技术的应用价值和面临的挑战,希望能够对读者有所启发。

 

 

 

1. 人工智能在网络安全行业应用的动力

众所周知,近年来APT(高级持续性威胁)攻击已经成为企业所面临的最主要的安全威胁。一方面,安全厂商无法先于用户获取到攻击样本,另一方面安全厂商也无法在每个用户的网络环境中安排安全人员进行应急防范,一种可行的解决方案是利用技术手段将安全厂商的分析能力内置到用户的网络环境中。对于高级威胁检测而言,目前主流检测技术是通过在虚拟环境沙箱、虚拟机等中运行可疑文件,判断是否包含恶意代码。这种技术虽然具备一定的未知威胁检测能力,但在高速网络环境中会造成较大的处理延迟存在计算资源耗费大、检测时间长等缺点。人工智能作为一种有效地替代方案,通过运用人工智能算法模拟人的分析能力,在一定程度上相当于把安全厂商的分析能力内置到了用户环境中,成为解决未知威胁检测的有效途径。

 

随着网络环境的复杂性和攻击手段的隐蔽性越来越高,安全运维的难度也越来越大。在大数据时代,安全分析人员的处理能力与数据规模严重不匹配,导致无法及时响应攻击报警,因此,即便用户部署了安全设备,但仍然无法避免被入侵的可能性。据统计,当前国内安全从业人员的缺口达数十万,通过提高分析人员数量来应对大数据的方式显然不可行,比较可行的方法就是运用人工智能,通过智能算法对原始数据进行预处理,降低安全人员数据处理压力,辅助安全人员做出正确判断。

 

2. 人工智能在网络安全行业应用的主战场

 

了解了网络安全行业所面临的主要问题, 不难发现,人工智能在网络安全领域应用的主要场景包括恶意代码检测和智能安全运维。

 

在恶意代码检测方面,利用人工智能技术可以提高恶意代码的检测能力,提升对可疑样本的研判速度。一种比较可行的方法是利用有监督的学习算法,通过积累一定规模的标签数据作为训练和测试样本,然后利用深度学习算法训练分类模型,最后在用户环境下利用实际数据对模型进行更新,从而形成检测-处置-响应的闭环。具体方案如图2所示:

 

 

图2 基于深度学习的恶意代码检测框架

 

目前已经有一些安全厂商开始尝试基于深度学习算法对恶意代码进行检测,启明星辰也利用自身的数据的积累并结合深度学习算法进行了验证,检测效果还是比较乐观的。

 

在安全运维方面,利用人工智能技术可以提升对安全大数据的处理分析能力,提升对安全事件的应急响应速度。通过人工智能手段,固化行之有效的安全事件分析和处置流程,形成可自动运行的分析模型,从而大大提升运维人员的工作效率。

 

在安全运维平台中增加智能化的分析算法,已成为了国内外SIME类厂商的关注焦点。启明星辰在其SOC平台中提供了一系列的智能分析模型和算法,此外,启明星辰还进行了基于本体建模和知识图谱的事件自动化处置方案验证,取得了不错的效果。

 

3. 人工智能网络安全行业面临的挑战

 

首先是价值数据缺失带来的挑战。人工智能、机器学习算法需要大量的标注好的样本数据来训练模型,模型最终能够达到的高度取决于数据的质量和规模,算法只是趋近这个高度的技术手段而已。在实际环境中,由于用户对自身数据比较敏感,因此安全厂商在将设备部署到用户环境后很难通过用户的反馈获取有价值的数据,比如在实际环境中的攻击报警及原始数据、对漏报或误报的分析结果等,这就导致模型无法利用真实数据进行增量更新,检测准确率无法得到提升。

 

其次是结果的可解释性带来的挑战。对于传统的基于特征匹配的攻击检测手段而言,检测设备有充分的证据用于解释其报警的有效性;但对于人工智能、尤其是深度学习算法而言,检测设备无法对其告警给出充分的解释,检测结果的判断依据对用户而言是一个黑盒子,用户无法知晓某个报警产生的具体原因。而且,目前已经出现了针对特定机器学习算法的攻击手段,从而使其产生错误的报警。如何提高人工智能算法的健壮性和结果可解释性,也是学术界研究的热点问题

 

虽然在网络安全领域的应用人工智能还面临着各种各样的挑战,但其应用前景依旧很乐观数据时代和智能时代的到来,利用数据改变传统的业务模式、利用人工智能提升数据的利用价值,已经成为大势所趋。我们期待着人工智能在未来的网络安全产业发挥更加巨大的价值!

 

文章来源:启明星辰

 

 


       (科技成果转化中心供稿)