企业在业务安全与数据合规过程中有哪些实践与挑战?戳此了解 了解详情
写点什么

网络安全的第一道防线:人工智能

  • 2019 年 10 月 08 日
  • 本文字数:3846 字

    阅读完需:约 13 分钟

网络安全的第一道防线:人工智能

本文是关于网络安全两部分中的第一部分:网络安全的第一道防线——人工智能。第二部分:网络安全第二道防线——区块链。



2017 年对网络安全来说不是很顺利的一年;我们看到大量备受关注的网络攻击事件:包括优步(Uber)、德勤(Deloitte)、Equifax 以及如今臭名昭著的 WannaCry(一种“蠕虫式”的勒索病毒软件)勒索案,2018 年也发生了黑客入侵冬奥会事件。


令人恐惧的事实是,对于越来越多的网络攻击,大多数企业以及网络安全行业本身都没有做好准备。尽管不断有安全更新和补丁,但攻击的数量仍在上升。


除了在业务层面缺乏准备,网络安全相关技术工作者本身也难以满足需求。到 2021 年,全球预计将有 350 万个网络安全职位空缺,这一数字令人震惊。目前的员工平均每周工作 52 小时,超负荷工作,这对于应对不断出现的威胁来说不是一个理想的状况。


考虑到当今的网络安全状况,将人工智能系统融入其中可以成为一个真正的转折点。新的人工智能算法通过使用机器学习(ML),随着时间的推移进行网络安全性的适应,这使其更容易应对网络安全风险。然而,新一代的恶意软件和网络攻击可能很难用传统的网络安全协议检测出来。它们会随着时间的推移而进化,因此需要更加动态的方法。


人工智能系统在网络安全方面的另一个巨大好处是,它们将为技术员工节省大量时间。


人工智能系统的另一个可以帮助我们的方式是,根据威胁级别对攻击进行分类。虽然还有很多工作要做,但是当机器学习原理被整合到你的系统中时,它们实际上可以随着时间的推移而进行适应,让你在对付网络罪犯时拥有强大的动态优势。


不幸的是,人工智能总会有局限性,而人机团队将是解决日益复杂的网络安全挑战的关键。但是,随着我们的模型在检测威胁方面有效性的增强,不良参与者将寻找方法来混淆这些模型。这是叫做对抗性机器学习或对抗性人工智能的领域。不良参与者将研究基础模型的工作原理,并试图混淆模型——专家们称之为“毒害模型”或“机器学习毒害”(MLP:machine learning poisoning)——或专注于大量广泛的规避技术,本质上是寻找能够绕过模型的方法。



四项基本的安全实践方法

即便我们围绕人工智能进行了大肆宣传,但我们往往忽略了一个非常重要的事实。防范潜在的人工智能网络攻击的最佳方法,是保持基本的安全态势,包括持续监控、用户教育、及时的补丁管理和基本配置控制,以解决系统脆弱性。详细情况如下:


1.识别模式

人工智能都是关于模式的。例如,黑客在服务器和防火墙配置中寻找模式,以及在过时的操作系统、用户操作和响应策略中寻找模式等等。这些模式为他们提供了可以利用的网络漏洞信息。


网络管理员也会寻找模式。除了扫描黑客试图入侵的模式之外,他们还试图识别潜在的异常,比如网络流量峰值、反常的网络流量类型、未经授权的用户登录和其他危险信号。


通过收集数据并监视正常运行条件下的网络状态,管理员可以设置自己的系统,以便在发生异常情况时进行自动检测——例如可疑的网络登录,或通过已知的坏 IP 访问。这种基本的安全方法,在防范更传统的攻击(如恶意软件或网络钓鱼)方面非常有效。它还可以非常有效地用于阻止人工智能带来的威胁。


2.教育用户

一个组织可能拥有世界上最好的监控系统,但是他们所做的一切安防工作,可能都会因某个员工错误地点击一封电子邮件而遭到破坏。


对于企业来说,社会工程仍然是一个巨大的安全挑战,因为员工很容易被骗点击可疑的附件、电子邮件和链接。许多人认为员工是安全链上最薄弱的环节,正如最近的一项调查显示,粗心大意、未经培训的内部人员是安全威胁的头号来源。


教育用户不要做什么,这个与设置安全保障措施同样重要。专家们一致认为,例行的用户测试可以强化培训作用。公司还必须制定计划,要求所有员工了解他们在安全斗争中各自的角色。还要进行应对/恢复计划,这样每个人就都会知道当一个漏洞发生时该做什么和期待什么。要及时测试这些计划的有效性,不要等到漏洞被发现了再去修复。


3.修补的漏洞

黑客知道补丁何时发布,除了试图找到绕过补丁的方法外,他们还会不间断的测试潜在攻击目标是否已经打上了补丁。


不及时更新补丁会为潜在的攻击提供机会——并且如果黑客使用人工智能,这些攻击可能来得更快,甚至更险恶。


4.检查控件

Internet 安全中心(CIS:The Center for Internet Security)发布了一组控件,旨在为各机构提供更好的安全实现清单。虽然有 20 个操作步骤,但只要实现前五项——设备清单、软件跟踪、安全配置、漏洞评估和管理特权控制——可以消除组织中大约 85%的漏洞。所有这些实践——监控、用户教育、补丁管理和对 CIS 控制的执行——都可以帮助机构自身增强抵御最复杂的人工智能攻击的能力。



AI 驱动的攻击

人工智能/机器学习(ML)软件有能力从过去事件的结果中“学习”,以帮助预测和识别网络安全威胁。


根据 Webroot 的一份报告,大约 87%的美国网络安全专业人士使用人工智能。然而,人工智能可能被证明是一把双刃剑,91%的安全专家担心,黑客会同样利用人工智能发动更为复杂的网络攻击。


例如,人工智能可以用来自动收集某些信息——可能与某个特定机构相关——这些信息可能来自论坛、代码库、社交媒体平台等等。


此外,人工智能或许能帮助黑客破解密码,方法是根据地理、人口统计资料等因素缩小可能的候选密码数量。


更多的沙箱规避恶意软件

近年来,沙箱技术已经成为检测和预防恶意软件感染的一种日益流行的方法。然而,网络犯罪分子正在寻找更多的方法来规避这项技术。例如,新类型的恶意软件能够识别它们何时处于沙箱中,并等到它们在沙箱之外时,再执行恶意代码。


勒索软件和物联网

我们应该非常小心,不要低估物联网勒索软件可能造成的潜在损害。例如,黑客可能会选择攻击电网等关键系统。如果受害者未能在短时间内支付赎金,攻击者可能选择关闭电力网络。或者,他们可能会选择攻击工厂生产线、智能汽车和智能冰箱、智能烤箱等家用电器。


2016 年 10 月 21 日,美国发生了大规模分布式拒绝服务攻击,导致 Twitter、NetFlix、《纽约时报》和 PayPal 等服务的服务器瘫痪。


据那次攻击的主要受害者 Dyn 称,这是一次涉及数百万互联网地址和恶意软件的大规模攻击。“攻击流量的一个来源是被 Mirai 僵尸网络感染的设备”。


此次攻击发生之后,人们对网络安全的担忧开始加剧,互联网安全漏洞的数量也在不断增加。初步迹象表明,无数为闭路摄像头和智能家居设备等日常技术提供动力的物联网设备(IoT),正被恶意软件劫持,并被用于攻击服务器。


政府支持的袭击事件增多

政府网络攻击的兴起或许是网络安全领域最令人担忧的问题之一。这种攻击通常是出于政治动机,不仅仅是为了经济利益。它们的设计通常是为了获取情报,而这些情报可以用来阻碍特定政治实体的目标。它们还可能攻击电子投票系统,目的是以某种方式操纵公众舆论。


正如你所预料的那样,国家支持的攻击是有针对性的、复杂的、资金充足的,并且具有令人难以置信的破坏性。当然,考虑到这些攻击背后的专业知识和资金水平,它们可能很难防范。


各国政府必须确保其内部网络与互联网络隔离,并确保对所有工作人员进行广泛的安全检查。同样的,工作人员也需要接受足够多的培训,以发现潜在的攻击。


技术人员短缺

实际上,从各个方面来看,网络安全威胁日益增多,而且越来越复杂,这种状况对正在与安全技能方面的人力短缺作斗争的 IT 行业来说不是好兆头。


随着安全人才的减少,人们越来越担心企业在未来几年,会缺乏阻止网络攻击和防止数据泄露的专业技能。


IT 基础设施

现代企业有太多的 IT 系统,分布在不同的地理位置。手动跟踪这些系统的健康状况,即使它们以高度集成的方式运行,也会带来巨大的挑战。


对于大多数企业来说,实现网络安全的唯一切实可行的方法是优先关注其 IT 系统,也包括那些他们认为对业务连续性起至关重要作用的系统。


目前,网络安全是被动式的。也就是说,在大多数情况下,它帮助提醒 IT 人员有关数据泄露、身份盗窃、可疑应用程序和可疑活动的事件。


因此,网络安全目前更像是灾难管理和缓解的使能者。这就留下了一个关键的问题没有得到解答——能否做到完全不让网络犯罪发生?


网络安全和人工智能的未来

在安全领域,人工智能有着非常强大的潜力。业界的不平衡是出了名的,坏人要从成千上万的漏洞中挑选漏洞来发动攻击,还要部署越来越多的工具,一旦他们攻破了一个系统,就可以逃避检测。虽然黑客们只需要成功一次,但是负责系统防御的安全专家却必须每次都阻止攻击。


高级攻击中会采用优质资源、情报和动机来完成一次攻击,加上每天发生的攻击数量之多,防守方最终不可能取得胜利。


我们梦想中的安全性人工智能的分析速度和能力最终将能够扭转这些局面,为安全从业者创造一个公平的竞争环境,他们目前必须不断地大规模地防御攻击者,而攻击者只需在空闲时找到系统的弱点。相反,有了安全性人工智能系统,即使是精心策划和隐蔽的攻击也能很快被发现和击败。


当然,要达到这样一个完美的安全性人工智能水平还有一段路要走。这不仅需要 AI 通过优秀的模拟通过图灵测试;还需要在一个巨大的规模上,完全训练成为一个网络安全专业人员,能够做出最有经验的安全工程师能做出的同样决策。


在我们达到科幻小说中那种出色的人工智能之前,我们需要经历一些相当有考验性的阶段——当然这些阶段本身仍然具有巨大的价值。一些真正惊人的突破一直在发生。当它作为一项技术成熟时,它将成为历史上最令人震惊的进步之一,像以前的电力、飞行和互联网一样,甚至能更好地改变人类的状况,因为我们正在进入人工智能时代。


原文链接:


First Line of Defense for Cybersecurity: AI


2019 年 10 月 08 日 14:042244
用户头像

发布了 61 篇内容, 共 20.5 次阅读, 收获喜欢 134 次。

关注

评论

发布
暂无评论
发现更多内容

盘点用jQuery框架实现“for循环”的四种方式!

华为云开发者社区

jquery 遍历 js 框架 for循环

云图说|初识华为云数据库GaussDB(for openGauss)

华为云开发者社区

数据库 开源 GaussDB GaussDB(for openGauss) 华为云数据库

警惕商标到付快递的骗局

石云升

商标 诈骗 6月日更

使用 Python 对数据进行压缩

★忆先★

线上程序cpu占用过高、程序死锁,该如何定位问题?

码农架构

我想挑战下我的软肋,动手实现个Spring应用上下文!

小傅哥

spring 应用上下文 资源加载 自动识别 扩展机制

商用RTC vs 基于开源WebRTC自研 开发者该如何选择?

融云 RongCloud

使用poetry进行Python项目开发

★忆先★

Python

一文讲全了Python类和对象内容

华为云开发者社区

Python

项目进度管理 | 如何为项目制定里程碑?

万事ONES

项目管理 研发管理 研发管理工具 ONES

专访关涛:阿里EB级大数据体系,背后的计算平台竟是这样(采访提纲)

花花

试用期 签约计划

为什么服务实例在隔离之后还在继续处理请求?

BUG侦探

TCP 半关闭连接 接收缓存

Keepalived+Nginx 搭建高可用集群

逸少

nginx 高可用 keepalive

TcaplusDB小知识之TcaplusDB架构简介

数据人er

数据库 nosql tencentdb TcaplusDB

全面赋能泛娱乐社交场景

anyRTC开发者

音视频 WebRTC 泛娱乐社交

一文介绍备机重建各种方法的实现机制

华为云开发者社区

主机 集群 GaussDB(DWS) 备机重建 备机

HarmonyOS Connect伙伴峰会于厦门举办 硬件生态快速发展

科技汇

网络研讨会|想弄明白应用安全?我们为你准备了5个锦囊!

鉴释

DevSecOps 安全编码规范 应用安全 静态分析

[TcaplusDB|黎明觉醒] 一路相伴,不负期待

数据人er

数据库 nosql TcaplusDB

用 Go struct 不能犯的一个低级错误!

煎鱼

Go 语言

EasyRecovery---U盘数据恢复技巧

淋雨

数据恢复 EasyRecovery 文件恢复

优秀的 Scrum Master 应当是仆人式的领导

万事ONES

Scrum 敏捷开发 ScrumMaster ONES

[TcaplusDB] 祝天下所有父亲节日快乐!

数据人er

数据库 nosql tencentdb TcaplusDB

Python——字典的遍历

在即

6月日更

JAVA笔记(四)--三大结构语句

加百利

Java 后端 6月日更 结构语句

智慧水务|大坝水利可视化管理,综合态势一屏掌握

一只数据鲸鱼

数据可视化 智慧水务 三维可视化 水利 水力发电

Python3.10中的结构化模式匹配语法

★忆先★

Python

【融云技术】Native C/C++ 服务适配多指令集 CPU 漫谈

融云 RongCloud

150亿美元,CANVA可画市场价值为何堪比金蝶、用友?

ToB行业头条

SaaS 可画 品牌视觉管理

Android客户端网络预连接优化机制探究

vivo互联网技术

android TCP HTTP

初探Deno.js

★忆先★

deno

WAVE SUMMIT 2022 深度学习开发者峰会

WAVE SUMMIT 2022 深度学习开发者峰会

网络安全的第一道防线:人工智能_安全_Ahmed Banafa_InfoQ精选文章