您现在的位置:首页>>新闻中心>>行业新闻
新闻中心

戴上“白帽子” 人工智能投身网络安全攻防战



面对计算机系统和网络的缺陷和漏洞,黑客发现了实施攻击的机会,而白帽黑客则利用黑客技术来测试网络和系统的性能,以确定它们能抵抗多强或多弱的入侵。在短短几年里,人工智能已经进入了一些行业,登陆了无数的场景。其中一些行业和情景已经是众所周知的,而其他的正在进入我们的视野。在网络安全领域,人工智能“白帽”正成为网络安全工程师的得力助手。


据报道,美国市场研究公司CB Insight最近发布了一份报告,预测2019年人工智能行业的发展趋势,其中之一是使用人工智能检测网络威胁。


  正在赋能网络安全


“人工智能技术的飞速发展,给网络安全带来了攻击和防御,不仅有机会,还有挑战。”北京理工大学网络攻防技术研究所所长闫怀志告诉“科技日报”记者。


让我们从好的一面开始。360安全研究所邹全辰博士告诉《科技日报》,人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。


"例如,在恶意代码检测中,人工智能通过恶意程序api调用序列、系统cpu利用以及数据包的发送和发送,自动识别恶意代码的特征,然后确定分类。Zouquanchen认为,与传统的基于动态和静态分析的特征检测和启发式检测相比,人工智能可以大大提高检测的准确性。


研究员张德月(Zhang Deyue)表示,在软件漏洞挖掘中,人工智能技术被用来从漏洞相关数据中提取经验和知识,而经过训练的模型被用来提高漏洞挖掘的准确性和效率。它可以缓解目前该领域研究中遇到的一些瓶颈问题,包括漏洞程序的筛选、源代码易损点的预测等。


人工智能越来越多地应用于网络安全领域,利用人工智能实现网络空间安全主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等多个方面。严怀志说,这包括利用人工神经网络技术检测入侵行为、蠕虫等安全风险源,利用专家系统技术进行安全规划、安全操作中心管理等。此外,人工智能方法还有助于治理网络空间的安全环境,例如打击网络欺诈。


有明显的“卓越”


与传统的网络安全处理方式相比,人工智能确实显示了其优越性。


在延怀志看来,人工智能在解决人力所不具备的安全大数据统计和提取规律方面具有天然的优势。全面提高威胁攻击的识别、响应和响应速度,提高风险防范的可预测性和准确性。对于异常行为检测等应用场景的不精确识别和匹配尤其如此。


人工智能在检测未知威胁和攻击方面也较好。由于传统的特征匹配方法对未知威胁几乎无能为力,而且人工智能方法有时不需要先验知识,因此对未知威胁的检测能力较强。严怀志说。


必须说,人工智能系统也有成本效益优势。严怀志认为,人工智能一开始就能发现和识别威胁,并立即开始应急反应。高效的智能检测过程有助于减少人工参与,简化过程,降低成本,减少损失。


“传统的应对网络安全的方法依赖于手动硬编码定义和特征提取来完成相关任务,而人工智能可以直接训练原始数据,从大量数据中提取特征,并自动完成分类和判断。”张德跃表示,后者不仅可以提高网络安全中预测,预防,检测,销售控制等各种风险环节的自动化和智能化,还可以提高响应速度和判断的准确性。


  不能靠它包打天下


“虽然人工智能已经在网络安全领域掀起了一股春水,但在处理网络安全问题上,我们应该理性地看待人工智能的利弊,不能指望仅仅依靠人工智能来主宰世界。”严怀志说,人工智能具有强大的生命力。处理网络安全问题的限制。


Zouquanchen分析说,这一方面受到人工智能算法本身能力的限制。由于传统的机器学习技术依赖于特征提取,因此算法的有效性和性能取决于特征识别和特征提取的准确性。深度学习具有在高维数据中自动提取特征的能力,同时又面临连续学习、数据饥饿、可解释性等问题。


另一方面,机器学习,特别是深度学习,过于依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,数据采集仍存在困难,缺乏良好的训练数据集,影响了相关领域的研究。此外,人工智能在很大程度上依赖于消耗计算资源,邹补充说,复杂的深度学习网络需要同时进行数千万次计算,并需要强大的人工智能芯片计算能力的支持。


严怀志从不同方面总结了人工智能的不足之处。例如,在网络安全领域容易忽视或抛弃人类专家积累的知识和经验,对复杂的网络安全应用场景考虑不够,对已知威胁的检测效率远远低于传统的精确特征识别方法。


“使用神经网络和深度学习等算法可以更好地识别未知攻击威胁的风险并实现”了解它“的目标,但这些算法通常无法揭示产生此类安全风险的基本机制,即”我不知道“不知道因此,从源头上抵御这种攻击风险是一个很大的障碍。“阎怀志说。


脆弱性带来安全风险



人工智能有时甚至在应对网络安全问题时显示出其脆弱性。


真实环境中的人工智能系统将面临许多安全威胁,如数据安全、模型/算法安全、实施安全等。张德月告诉“科技日报”。


张德月说,例如,在数据安全方面,数据收集和标记的错误或恶意数据的注入会导致数据污染攻击;在模型/算法安全方面,人工智能算法中存在针对样本攻击的黑盒和白盒,这会导致识别系统的混乱。在安全性方面,除了人工智能系统本身的代码实现外,它所基于的人工智能框架和第三方软件库中的软件实现漏洞也可能导致严重的安全问题。


“人工智能对现有网络安全格局的影响与算法,数据和计算能力三个方面密不可分。易受攻击的弱点也来自于此。”阎怀志总结道。


为了防范人工智能脆弱性带来的安全风险,严怀志指出,首先,应从体系结构、系统算法的容错、入侵容忍设计、漏洞检测与修复、安全配置等方面加强人工智能系统自身的安全性;其次,其先进性最后,构建网络空间的安全综合。联合防御系统从安全技术和安全管理层面协调防范安全攻击,间接降低了攻击者直接对人工智能系统发起攻击并成功攻击的可能性。


安全研究所的专家也提出了多项建议,包括:在数据采集过程中,必须加强对数据源的控制和过滤,并在一定程度上确保数据的安全性和可靠性;在数据传输过程中,应采用更安全的传输协议和加密算法;在人工智能系统的实现中,必须保证代码的质量,并进行完善的测试。此外,有必要更新或修复框架或依靠图书馆的漏洞。


中安威士:保护核心数据,捍卫网络安全


来源:中国经济网


Copyright © 2016 中安威士(北京)科技有限公司 版权所有 京ICP备14001844号-1