成功案例

     倾情推荐

     合作伙伴

     客户专区

     帮助中心

您当前的位置:首页 >> 详细内容
AI时代下网络安全面临新挑战,派拓网络带来应对策略
作者:管理员 发布:2024年1月8日 浏览次数: 1357

 

  “‘道高一尺,魔高一丈’,工具的善恶取决于使用者的意图。对于派拓网络和Unit42而言,会密切跟踪AI演进过程以及其在网络安全领域的应用,以便研究团队能够及时捕捉到最新的威胁信息,并计划通过开放和免费的形式,在网站和论坛上共享这些信息和研究成果,致力于保护整个生态系统的安全。”刘俊佃说道。

  当今世界正处于从工业经济向数字经济加速转型的变革时期,数字化转型已成为企业实现业务的快速发展,保持竞争力的关键。

  伴随着企业数字化转型的不断深入,企业在享受技术便利的同时,也面临着日益复杂和多样化的网络安全风险。特别是近年来人工智能快速发展,以ChatGPT为代表的生成式AI技术不断迭代,也给网络安全带来了全新的挑战。

  威胁格局呈现新变化?

  日前,Palo Alto Networks(派拓网络)举办了Ignite中国2023(北京站)媒体沟通会,派拓网络 Unit 42咨询总监刘俊佃围绕“人工智能赋能网络安全,护航数字化转型与业务增长”这一主题,展开了分享。

AI时代下网络安全面临新挑战,派拓网络带来应对策略

派拓网络 Unit 42咨询总监 刘俊佃

  随着科技的发展,网络攻击手段和方式不断更新,对企业安全构成严重威胁。目前,威胁格局中主要有三个问题:

  第一,网络犯罪分子与高级持续威胁 (APT) 团伙之间的界限正在变得模糊。之前所设想的APT仅针对特定类型的攻击,所以需要重新开始深入探索这一类型的攻击模式。

  第二,事故对目标企业产生的影响更广泛。过去,如果企业受到攻击,那是其内部事务,然而,在当前的数字化背景下,人们与众多互联网渠道紧密相连,面临着众多的攻击者或潜在风险,任何攻击都有可能对企业运营造成重大影响。

  第三,检测和缓解攻击需要多种防御途径。由于AI的介入,企业必须开始规划如何应对由AI发起的新型攻击。

  刘俊佃指出,攻击者对AI的利用主要分为三大类:一是变种恶意软件克服了基于特征码的检测,攻击者利用AI编写木马程序,并通过该程序侵入被攻击者的环境;二是精心制作电子邮件企图绕过,攻击者借助AI编写钓鱼软件,由于AI具备较高的语言能力,用词可能更有可信度,从而诱导用户点击;三是执行机器速度/创造性攻击,攻击者利用AI实施更快速、更简化地攻击,通过AI的能力提高攻击效率。

  举例来看,过去,钓鱼邮件中可能存在词汇不流畅、用词不当或拼写错误等情况。但WormGTP的出现,使寻找文字漏洞的方法不再有效。WormGTP是ChatGPT的一个衍生工具,生成的文本非常完美,可以使攻击者轻松地编写恶意木马程序、代码以及钓鱼邮件内容。

  FraudGPT的设计初衷是为攻击者提供协助,攻击者仅需通过简单问答,就可以创建钓鱼网站页面、找到最容易受害的目标、编写欺诈性的短信和软件。

  DeepFake能够生成具有高度逼真度的人脸图像,如果攻击者能够获取到用户的手机等关键设备,就有可能利用这种技术进行欺诈行为。如Master Face能够通过AI生成一张“万能脸”,这张脸能够被普通的人脸识别工具误认为是任何人。

  Deep Locker使用深度神经网络 (DNN) 人工智能模型,具有极高的隐蔽性,可以隐藏在各种地方,如手机、电脑应用程序或已知的恶意软件中。与现有的规避性和针对性恶意软件相比,这种方法将使逆向工程良性载体软件和恢复任务关键机密,包括攻击有效载荷和目标的具体情况,变得极具挑战性。

  黑曼巴公司也注意到了OpenAI的ChatGPT变得非常流行,该公司的研究人员演示了称之为“黑曼巴 (Black Mamba)”的概念验证攻击,这种攻击利用大型语言模型 (LLM) ,即时合成多形态键盘记录功能。BlackMamba 攻击展示了人工智能如何让恶意软件在 运行时动态修改良性代码,而不需要任何命令与控制 (C2) 基础设施,从而使其能够躲过当前的自动安全系 统,而这些系统都能识别此类行为以检测攻击。

  “未来,将是AI对抗AI的时代。在这种情境下,单纯依赖人力进行事件响应是不切实际的,必须借助AI的协助。”刘俊佃说。

  派拓网络给出解决方案

  为帮助企业提高安全防御能力,派拓网络提出6点建议:第一,改变对成功的看法,包括响应,而不仅仅是预防;第二,优先考虑能限制攻击者并为防御者提供回旋空间和时间的防御;第三,精简防御,实现可重复性和自动化;第四,7X24小时全天候监控,增加攻击者的时间压力;第五,测量并减少外部攻击面;第六,过渡到零信任企业,增强安全措施。

  据悉,无论是派拓网络,还是旗下的Unit42,都在不断地进行威胁信息方面的研究。并且,Unit42还拥有精准AI相关的产品,通过运用各种数据、机器学习和模式识别技术来研究当前威胁信息的整体态势。

  目前,Unit42内部集结了多个研究团队,专注于探究AI的发展程度、其用于发动攻击的媒介,以及这与过去对网络攻击的传统假设有何不同。通过深入研究各种可能出现的场景,分析攻击对企业业务的网络影响,以及最终如何影响企业的商业决策。主要目标是通过研究和措施,并为企业提供所需的防御和保护策略。

  另外,从工具层面进行分析,相较于大量叠加的单点安全产品,平台化的解决方案可以实现全面、自动化的安全防御,真正做到主动有效地保护企业的网络安全。据刘俊佃介绍,派拓网络提出了一个安全公式:零信任+平台=前瞻性。其中,零信任指的是杜绝任何隐含信任并以持续验证为基础的策略;平台指的是根据需求连接不同类型的最佳功能,实现最大的可见性、控制性和效率;前瞻性指的是轻松安全转型,让企业在安全的环境下高效地运营和创新。

  值得一提的是,派拓网络的下一代网络安全平台可以从网络、云、端点三个维度来应对数字经济时代的安全挑战,并在所有安全方案之上提供一套自动化安全运营分析系统。而这一切都是依托于派拓网络在全球的安全威胁情报网络Unit 42,对全球发生的安全事件和情报进行及时的分析和响应。

  写在最后:

  科技是把双刃剑,AI亦是如此,它既可以成为推动企业发展的有力工具,也可能被攻击者利用来增强其攻击能力。AI如果被攻击者掌控,无疑会引发前所未有的网络安全威胁。

  派拓网络Unit 42作为一个情报驱动、随时响应的组织,助力企业在不断演变的网络安全环境中,持续完善安全策略、迅速实时洞察潜在威胁,确保企业在与攻击者的较量中抢占先机。

关闭本页