AIGC 应用、数据分析等企业 10+ 热门专题课,就在极客时间企业版>>> 了解详情
写点什么

2020 年,人工智能、数据科学、机器学习必知的 20 个术语(上)

  • 2020-04-10
  • 本文字数:4868 字

    阅读完需:约 16 分钟

2020 年,人工智能、数据科学、机器学习必知的 20 个术语(上)

AI 大模型超全落地场景&金融应用实践,8 月 16 - 19 日 FCon x AICon 大会联诀来袭、干货翻倍!

本文最初发表于 Kdnuggets 网站,经原作者授权,InfoQ 翻译并分享。


2020 年已经过去近三个月,随着这一年的到来,Kdnuggets 为大家带来了 20 个人们都应该必知的人工智能、数据科学和机器学习的术语。


KDnuggets 已经策划过一系列关键术语的相关文章,包括机器学习深度学习大数据自然语言处理等等。进入 2020 年以来,Kdnuggets 还没有发表任何关于关键术语的文章,是时候重点介绍一些人工智能、数据科学和机器学习术语了,在不断发展的环境中,我们现在都应该熟悉这些术语。


因此,本文提到的这些术语包含了一些最近出现的概念,以及最近可能被认为更加重要的现有概念。这些定义是 KDnuggets 团队的共同努力所得,包括 Gregory PiateskyAsel MendisMatthew Dearing 和作者本人 Matthew Mayo


言归正题,本文列出了人们应该必知的前 10 个术语,后 10 个术语将在下一篇文章,这样,我们就可以掌握应该必知的 20 个术语了。

AutoML

自动机器学习(automated machine learning,AutoML)跨越了相当广泛的任务鸿沟,可以合理地认为这些任务包含在机器学习管道中。


AutoML “解决方案”可以包括数据预处理、特征工程、算法选择、算法架构搜索和超参数调优等任务,或者这些不同任务的一些子集或变体。因此,现在可以将自动机器学习视为从仅执行单个任务(如自动特征工程),一直到完全自动化的管道;从数据预处理,到特征工程,再到算法选择,等等。


换句话说,老实说,我最喜欢的方式,如果像 Sebastian Raschka 所描述的那样,计算机编程是关于自动化的;而机器学习是“所有关于自动化的自动化”,那么自动机器学习就是“自动化关于自动化的自动化”。跟我来,看这里:编程是通过管理死记硬背的任务来减轻我们的负担;机器学习使计算机能够学习如何最好地执行这些死记硬背的任务;自动机器学习允许计算机学习如何优化学习如何执行这些死记硬背的动作的结果。


这是一个非常强大的想法,虽然我们以前不得不关心调整参数和超参数、手动执行工程特征、执行算法选择等等,但自动机器学习系统可以通过许多不同的可能方法学习,来调整这些过程以获得最佳结果的最佳方式。


“常规”编程是数据和规则的输入、答案输出;而机器学习是数据和答案输入、排除;自动机器学习包括自动优化一些约束,以从数据和规则答案中获得“最佳”,用任何你喜欢的度量来定义“最佳”。

贝叶斯(Bayesian)

贝叶斯方法使我们能够应用概率分布来对现实世界进行建模,并随着新数据的出现而更新我们的信念。多年来,统计学家普遍采用频率(frequentist)论方法。贝叶斯方法适用于对只有少量数据的假设进行建模,而这些数据在频率论者眼中可能并不重要。


Brandon Rohere 的解释是一个很好的例子,说明了贝叶斯方法的工作原理:


想象一下,你正在看电影,有影友掉了他们的票。你想引起他们的注意。这是他们从后面看起来的样子。你无法分辨出他们的性别,只能说他们有长头发。你会喊“打扰一下,女士!”或者“打扰一下,先生!”鉴于你对你所在地区的男女发型的了解,你可能会认为这是女性。(在这种过于简单化的情况下,只有头发的长度和性别)。现在,考虑一种情况的变化,这个人正在排队上男厕。有了这些额外的信息,你可能会认为这是一个男性。这种常识和背景知识的运用是我们不假思索就能做到的。贝叶斯推断是一种通过数学来捕捉这一点的方法,这样,我们就可以做出更准确的预测。

BERT

BERT 代表来自 Transformer 的双向编码器表示,是一种用于自然语言处理的预训练技术。BERT 的区别于其他语言表示的是双向训练对现有 Transformer 注意力模型的应用。BERT 预先在左右两个上下文中对未标记文本数据的深层双向表示进行预训练,从而得到一个只需添加一个层即可进行微调的语言模型。BERT 在许多自然语言处理任务上实现了最先进的性能,包括问题回答和推理。BERT 和 Transformer 都是由 Google 开发的。


直觉告诉我们,在文本上双向训练一个语言模型,而不是从左到右(或从右到左),将会产生更好的语感“理解”和词义感。双向性允许基于其周围环境的整体性来学习词义,而不是基于从一个方向“阅读”到给定单词出现的点所能收集到的信息来做出决定。因此,在不同上下文中具有不同含义的单词可以分开处理,更好地表达它们的上下文含义(想一想 “bank” 的两个意思:河岸和银行)。


实际上,BERT 可以用于以词或句子嵌入的形式从文本中提取特征,或者 BERT 模型可以根据特定任务(如问题回答或文本分类)的额外数据进行微调。BERT 有几种不同大小的模型(参数数量),并且催生了另外一系列与 BERT 相关的模型,如 RoBERTa 和 DistilBERT 等。


有关使用 BERT 的完整处理和使用教程,请参阅 Chris McCormick 和 Nick Ryan 的精彩文章

CCPA(加州消费者隐私法)

CCPA,即 2020 年 1 月 1 日生效的《加州消费者隐私法》(California Consumer Privacy Act),对收集个人数据的企业以及分析和处理此类数据的企业具有重要意义。它的意图与 GDPR(General Data Protection Regulation,《通用数据保护条例》)类似,但为加州消费者提供了更强有力的保护。CCPA 允许任何加州消费者要求查看公司掌握的关于他们的信息,以及与之共享这些信息的第三方的完整名单。加州的消费者还可以访问他们的个人数据,对出售他们的个人数据予以拒绝,并要求公司删除有关他们个人信息的任何部分。


它适用于任何收集消费者个人数据、在加利福尼亚州开展业务,并且满足以下至少一项要求的企业:


  • 年总收入超过 2500 万美元;

  • 购买或出售 50000 条或更多的加州消费者或家庭的的个人信息;

  • 其年收入的 50% 以上来自所销售的加州消费者个人信息。


有关更多信息,请参阅 CCPA 的 Wikipedia 条目

数据工程师

数据工程师负责优化和管理组织数据的存储和检索。数据工程师将制定线路图,说明如何最好地获取数据并创建用于存储数据的数据库。他们通常会使用云服务来优化数据存储,并创建算法使数据变得有意义。数据工程师是技术性很强的角色,需要掌握 SQL、数据库设计和计算机科学方面的高级知识。


越来越多的数据工程师通过云认证,在云中创建数据库,并在云环境中处理大型复杂数据集,以扩展和优化数据检索。

Deepfake

Deepfake 是使用先进的深度学习和生成对抗网络 GAN 技术创建的伪造图像、视频或音频。这项技术非常先进,结果非常逼真,非常难以识别是否为伪造。下面的视频就是一个使用奥巴马形象和声音的 Deepfake 的例子:



视频地址:https://youtu.be/cQ54GDm1eL0


Deepfake 最初是在色情行业中崭露头角的,将明星的面孔叠加到成人视频上,但最近这项技术又有了进步,有了像 FakeApp 之类的应用,以及像 FaceSwap 和 DeepFaceLab 这样的最新开源替代品。


对于声音来说,以前需要几分钟的语音,但最近的技术,只需几秒钟的语音就能产生令人信服的语音模仿。2019 年 9 月,一家公司被骗了 24.3 万美元,骗子使用 Deepfake 技术来模仿该公司 CEO 的声音,这是该类网络犯罪的首例。


现在,Deepfake 的创建者和试图识别它们的网络公司之间正在展开军备竞赛。Facebook 和其他几家公司已经宣布,将投资 1000 万美元,用来发展识别 Deepfake 的技术。请保持警惕,不要盲目相信你在网上所看到的一切,务必核实来源。

部署 / 生产模型

在这个机器学习、深度学习和人工智能的时代,流程的最终目标是将其部署到最终消费者手中。可以通过 Web 部署模型的服务有很多,比如 Heroku、AWS、Azure、GCP、Github 等。不同的服务提供商有不同的成本计算方法,所提供的服务亦略有不同。部署模型并将其投入生产,在一定程度上也需要一些前端和后端开发的知识,并且能够在团队中协同工作。


许多模型现在正在使用云计算提供商进行部署,因为它们可以轻松地扩展到数百万用户,同时能够监控扩展到这种级别的成本。生产中的模型允许组织将其货币化,并为客户创造更好的价值。

图神经网络

数据科学家正在研究数据,成堆的数据。有些数据可能是原始的,也有可能是未经组织的,因为它们是通过“消防水龙带”流入的。其他数据可以是整齐有序(或经过精心策划的),在可管理的维度内进行格式化。有了这些“欧几里得(Euclidean)”数据集,如文本、图像和视频,机器学习在文本生成、图像处理和人脸识别等应用中取得了很大的成功。将运行在一两个 GPU 上的深度学习模型与堆积如山的训练数据结合起来,在数据中发现隐藏模式和有意义的特征的可能性似乎是无限的。


那些相关性更强的数据呢?数据可以通过依赖关系相互连接。用户之间的交互可能会影响电子商务平台上的购买决策。药物发现的化学相互作用是通过复杂的反应相互联系描绘出来的。社交网络是通过不断变化、不规则和无序的关系形成并发展起来的。人脑是建立在一个个相互联系的细胞上的,这些细胞通过缠绕在一起的意大利面条连接起来。


这类数据的关系可以建模为图,其中,数据点表示为节点,关系通过互联链路进行编码。包括深度学习在内的传统机器学习方法需要进一步推广,以便在非欧几里得的、基于图的空间中进行计算。虽然一些相关的工作是在更早的时候完成的,但图神经网络的概念是由 Margo Gori 和他的团队在 2005 年定义的,随后更多的研究扩展到了递归和卷积神经网络的图版本的开发。深度学习研究目前正在积极地将图神经网络方法应用于意大利面条式数据源,这是一个应该在 2020 年密切关注的研究领域。

MLOps 与 AIOps

在将软件开发人员的流程与 IT 服务交付相结合的 IT 组织中,DevOps 取得了巨大的成功,这一术语已经被提升为当今的文化流行语。在大多数流行语扎根后不久,新的环境或适用领域就会紧跟着炒作。


术语 MLOps 就是如此,它代表了通过与数据科学家和 IT 专业人员的有效合作来开发和布书机器学习模型的最新最佳实践。对于许多数据科学家来说,在一个明确定义的开发生命周期中工作应该是非常受欢迎的,因为正式的和自我教育追踪(self-guided educational tracks)往往侧重于人工智能机器学习的基础,对于生产部署的要求不那么熟悉


AIOps 将人工智能应用到组织的运营中,它引入了所有机器学习技术,从 IT 系统中提取有意义的见解。这种方法将人类的智能和人工智能算法相结合,以增强 IT 团队做出更好、更快的决策,实时响应事件,并开发优化的应用程序来促进更有效或自动化的业务流程。据 Gartner 的预测,到 2023 年,将有 30% 的大型企业 CIO 会专门使用 AIOps 来改善运营,从整个 IT 组织中 AIOps 的演变中,我们将会看到更多的东西。

迁移学习(Transfer Learning)

考虑以下在训练机器学习模型时可能出现的两个问题。第一个问题是,通常没有足够的训练数据来充分训练一个模型。第二个问题是,即使(尤其是)存在足够数量的训练数据,训练过程通常也是非常耗费资源和时间的。


如果考虑到机器学习模型通常是针对特定任务在特定数据上进行训练,并且结果模型是针对特定任务的,那么这些模型的最大潜力通常是无法发挥的。一旦数据和计算被用来训练模型,为什么不在尽可能多的情况下使用这个模型呢?为什么不把学到的东西迁移到新的应用程序中呢?高度优化的训练模型是否可以用于更广泛的任务分类呢?


迁移学习涉及到利用现有的机器学习模型,以便在模型最初未经训练的场景中使用。就像人类不会丢弃他们以前所学的一切,并在每次接受新任务重新开始一样,迁移学习允许机器学习模型将它在训练期间获得的“知识”移植到新任务中,从而扩展了原始模型所使用的计算和专业知识组合的范围。简单地说,迁移学习可以节省训练时间并扩展现有机器学习模型的实用性。对于从头开始训练模型所需的大量训练数据不可用的任务,迁移学习也是一种非常宝贵的技术。


考虑到时间和计算的消耗,迁移学习允许我们更好地将模型的实用性最大化。关于训练数据不足的问题,迁移学习允许我们采用针对潜在的大量数据进行训练的预训练模型,并根据可用的少量特定任务数据对其进行调整。迁移学习是一种有效的方法,可管理机器学习模型训练中两个明显的潜在缺点,因此,它的应用越来越广泛也就不足为奇了。


作者简介:


Matthew Mayo,机器学习研究员、Kdnuggets 编辑。


原文链接:


https://www.kdnuggets.com/2020/02/ai-data-science-machine-learning-key-terms-2020.html


公众号推荐:

AGI 概念引发热议。那么 AGI 究竟是什么?技术架构来看又包括哪些?AI Agent 如何助力人工智能走向 AGI 时代?现阶段营销、金融、教育、零售、企服等行业场景下,AGI应用程度如何?有哪些典型应用案例了吗?以上问题的回答尽在《中国AGI市场发展研究报告 2024》,欢迎大家扫码关注「AI前线」公众号,回复「AGI」领取。

2020-04-10 10:351621

评论

发布
暂无评论
发现更多内容

PDF Reader Pro for mac(专业的PDF阅读器)

影影绰绰一往直前

PON网络是什么?

小魏写代码

苹果系统下载:macOS 12 Monterey v12.7.1正式版

加油,小妞!

苹果系统下载 macOS 12 Monterey

sublime text Mac前端代码编辑工具 支持M1

加油,小妞!

Sublime Text 4下载 Sublime Text 4注册版

全方位探索:思维导图能在这些地方派上用场!

职场工具箱

思维导图 工具库

App加固中的代码混淆功能,让逆向工程师很头疼

特权账号管理之权限划分篇

尚思卓越

运维 网络安全 权限管理

WorkPlus即时通讯app支持多种信创环境组合运行

WorkPlus

准「AI 时代」下,如何衡量程序员的工作效率和生产力?

LigaAI

人工智能 研发管理 研发度量 AIGC 研发效能管理

AI创新下的生成式人工智能——Amazon Bedrock

淼.

TextSoap for Mac(文本格式清理工具) v9.4.1永久激活版

mac

苹果mac Windows软件 TextSoap 文本格式清理工具

SideNotes for Mac(即时笔记工具)

展初云

Mac 笔记软件 SideNotes

用Puppeteer优化项目本地开发流程:一键获取登录Token

陇锦

Vue 前端 Node puppeteer

Unclutter for mac(下拉菜单隐藏工具) v2.2.4中文版

影影绰绰一往直前

JProfiler 14 for Mac(Java开发分析工具) 14.0激活版

影影绰绰一往直前

软件测试/人工智能丨知识图谱与模型驱动测试的软件测试进化

测试人

人工智能 软件测试

mac录音软件:Audio Hijack for Mac v4.3.1直装版

影影绰绰一往直前

多屏幕媒体播放软件:ProVideoPlayer 3 Mac 激活版下载

iMac小白

多GPU训练大型模型:资源分配与优化技巧 | 英伟达将推出面向中国的改良芯片HGX H20、L20 PCIe、L2 PCIe

蓝海大脑GPU

SecureCRT 9 for Mac(终端SSH工具)

展初云

使用DocumentBuilderFactory解析XML浅谈

EquatorCoco

Java XML文档 document

Ulysses for Mac(Markdown) v33免激活版

展初云

Mac Ulysses 文本写作软件

Sketchpad for Mac(几何教学工具)v5.06中文激活版

影影绰绰一往直前

让家人饮水不再瞎凑合 A.O.史密斯冷热即饮净水机健康又便利

科技热闻

NFTScan 正式上线 Viction NFTScan 浏览器和 NFT API 数据服务

NFT Research

NFT\ NFTScan nft工具

Util应用框架开发环境搭建(八)- 安装 Seq

何镇汐

开源 后端 软件开发 .net core

2020 年,人工智能、数据科学、机器学习必知的 20 个术语(上)_AI&大模型_Matthew Mayo_InfoQ精选文章