网络安全的未来是否掌握在 AI 手中(三) | 专栏

2020 年 7 月 14 日

网络安全的未来是否掌握在 AI 手中(三) | 专栏

本系列文章最初发表在 TowardsDataScience 博客,经原作者 Ensar Seker 授权,InfoQ 中文站翻译并分享。


从自主工具到虚拟助手,从聊天机器人到人脸/物体识别,近年来,机器学习已经取得了长足的进步。这是事实。那网络安全呢?《网络安全的未来是否掌握在人工智能手中?》系列文章将深入探讨网络安全与AI的关系,本文是系列专栏的第三篇,也是最后一篇。


AI 提升网络防御系统安全级别


可能的网络防御系统应该至少提供三个级别的网络安全。


第一级别包括传统的静态网络防御机制,如身份认证、密码保护、访问控制、网络过滤等。第二级别包括主动的网络防御机制,如信息收集、安全评估、网络状态监控和攻击。第三个级别对应于网络防御管理,对网络状态进行整体评估,选择适当或最佳的防御机制,以及它们的适应性。


预警、入侵检测和防御系统,包括人工智能技术,在确保这些网络安全水平方面发挥着重要作用。


预警系统(Early Warning Systems,EWS)用于防范网络攻击,并尽快作出响应。然而,由于随着新技术的发展,网络威胁的级别也在不断升级。与传统的纯数据包检测方法不同,新的预警系统架构需要收集、分析、关联数据,同时还需要近实时地检测、分析和响应威胁模型。这都是公众已经听说过的。这一需求包括虚拟传感器的开发、复杂的数据关联、用于网络行为分析的新逻辑模型、学习算法,以及能够提供可伸缩性、可靠性和灵活性的概念和新方法的开发,特别是在 IPv6 网络中。


在预警和入侵检测中使用人工智能的目的是开发一种先进的智能帮助系统,用于在局域网和广域网中尽早检测来自互联网的攻击。在这一框架内,还应考虑广泛使用的互联网协议,如 FTP、SMTP 和 HTTP,以及较新的协议,如 SOAP 等。


人工智能在网络防御领域的应用需要解决的主要问题是,现有的技术没有达到理想的水平,应该开发和调整哪些人工智能方法,才能最大限度地减少人为因素,而人为因素被认为是网络防御中最薄弱的环节。


利用人工智能进行网络攻击


人工智能的滥用可能以多种方式威胁安全:


  • 对数字安全的威胁;

  • 对人身安全的威胁;

  • 对社会/经济/政治安全的威胁。


社会工程攻击的自动化:自然语言处理工具能够模仿受害者的写作放歌,因此,人工智能系统收集在线信息,以创建可能会被自动点击的个性化恶意网站/电子邮件/链接。


漏洞发现的自动化:过去的代码漏洞模型有助于加速发现新漏洞。


高级黑客攻击:人工智能可以用在黑客攻击的许多方面。例如,人工智能提供了自动化工具,可以改进目标选择和有限排序,避免被检测,并创造性地响应目标行为的变化。它还可以模仿类似人类的行为,将目标系统导向到一个不那么安全的状态。


勒索软件任务的自动化:人工智能技术可以自动化各种任务,如与勒索软件受害者的对话和支付过程。


人工智能在应用程序中的利用:人工智能用于创建数据中毒攻击或后门。


Flock 攻击:分布式自主机器人系统网络允许监控大区域并执行快速、协调的攻击。


针对无人机和无人车的攻击:由于网络攻击,对基于人工智能的自主无人机和无人车的控制构成了重大威胁。


假消息:当图像处理技术的最新发展与自然语言创造技术相结合时,公众试图通过制作高度逼真的国家领导人视频来误导他们,这些领导人似乎正在发表他们实际上从未做过的演讲和评论。


个性化假情报和影响活动:基于人工智能的社交网络分析可以识别关键因素,以接近(恶意)提议或目标假情报。


参考来源:


[1] 《网络安全分析的逻辑程序设计方法》(A Logic-programming Approach to Network Security Analysis),X. Ou,博士论文,普林斯顿大学,2005 年。


[2] 《国土安全网络攻击与防御的多智能代理建模与仿真》(Multi-agent Modelling and Simulation of Cyber-Attacks and Cyber-Defense for Homeland Security),I. Kotenko,IEEE 智能锁护具采集和先进计算系统国际研讨会(IEEE International Workshop on Intelligent Data Acquisition and Advanced Computing Systems):《技术与应用》( Technology and Applications),2007 年。


[3] 《对于未来预警系统的要求:未来互联网中的网络防御》(Requirements for a Future EWS — Cyber Defence in the Internet of the Future),M. Golling、B. Stelte,第三届网络冲突国际会议(International Conference on Cyber Conflict),CCD COE 出版物,2011 年。


作者介绍:


Ensar Seker,安全研究员。


原文链接:


https://towardsdatascience.com/is-the-future-of-cyber-security-in-the-hands-of-artificial-intelligence-ai-3-60a148334245


延伸阅读:


《网络安全的未来是否掌握在 AI 手中(一)| 专栏》


《网络安全的未来是否掌握在 AI 手中(二) | 专栏》


2020 年 7 月 14 日 11:49875
用户头像
刘燕 InfoQ记者

发布了 470 篇内容, 共 146.9 次阅读, 收获喜欢 829 次。

关注

评论

发布
暂无评论
发现更多内容

Week 3 作业1

黄立

第三周-代码重构-作业

刘希文

架构师训练营第 1 期第三周总结

Leo乐

极客大学架构师训练营

架构师训练营第三周总结

xs-geek

极客大学架构师训练营

面试官:开发过Maven插件吗?我:开发过啊。。。

冰河

maven 插件开发 互联网工程

Apache Pulsar 9月月报:正在快速成长的下一代分布式消息流平台

Apache Pulsar

大数据 开源 云原生 Apache Pulsar 消息中间件

2020.09.28-2020.10.04 学习总结

icydolphin

极客大学架构师训练营

SQL 是什么

Rayjun

sql

Java语言变量的命名规范

倔强的攻城狮

Java

PHP 7:真实世界的应用开发(中文翻译)

GanymedeNil

php

架构师训练营第三周作业

xs-geek

极客大学架构师训练营

组合设计模式编写程序

石头

极客大学 极客大学架构师训练营

架构师训练营第三周作业

Shunyi

极客大学架构师训练营

Week 3 总结

黄立

设计模式

第三周 代码重构作业

钟杰

极客大学架构师训练营

3.手写单例模式设计

博古通今小虾米

编程的本质和未来

小宋头

好好吃个饭吧,今天想吃什么?你说了算。

叶小鍵

布莱恩·万辛克 减肥、廋身 好好吃饭

区块链治理为什么如此重要?

CECBC区块链专委会

区块链

CSS 选择器 — 重学CSS

三钻

CSS 前端 前端进阶

架构师训练营第 1 期 - 第三周总结

Todd-Lee

极客大学架构师训练营

架构师训练营第 1 期第三周课后练习题

Leo乐

极客大学架构师训练营

刘华:公有云不仅是自建机房的替代品

刘华Kenneth

架构 DevOps 敏捷 弹性

第三周 代码重构学习总结

钟杰

极客大学架构师训练营

央行数字货币渐行渐近:未来金融竞争终极场所

CECBC区块链专委会

数字货币 银行

架构师训练营第 1 期 - 第三周作业提交

Todd-Lee

极客大学架构师训练营

组合模式及单例模式

garlic

极客大学架构师训练营

架构师训练营-week03-总结

大刘

极客大学架构师训练营

硬核测试:Pulsar 与 Kafka 在金融场景下的性能分析

Apache Pulsar

大数据 开源 云原生 Apache Pulsar 消息中间件

发展区块链技术 打造竞争新优势

CECBC区块链专委会

第三周作业

华美而火锅

网络安全的未来是否掌握在 AI 手中(三) | 专栏-InfoQ