写点什么

迁移学习:迈向真正的人工智能

  • 2020-08-15
  • 本文字数:1374 字

    阅读完需:约 5 分钟

迁移学习:迈向真正的人工智能

30 多年前我与杨强教授在人工智能(AI)的国际会议上相遇并相识,而后发现我们对 AI 有着共同的兴趣并从事类似的研究工作。当时正处于第一代 AI 的高潮,符号主义占主导地位。我们利用以知识为基础的符号推理模型研究 AI 中的各种问题,如 规划搜索学习 等。这是当时的主流,以机器学习为例,如从观察中学习、基于案例的推理、类比学习和归纳学习等,它们均从模仿人类的宏观学习机制出发,以知识(或经验)驱动为基础。这种学习方法的优点是, 学习的模型和结果很容易实现跨领域和跨任务的推广


不难看出,这些学习方法正是当今 迁移学习 (Transfer Learning)的探路者。可惜,不久它们就遭遇了 AI 的冬天。由于知识获取与表示的困难,以及当时计算机计算能力的限制,符号主义的主张没有得到应有的发展和大规模的应用,以知识为基础的学习方法也同样受到重创。21 世纪初,机器学习中的一个分支—— 概率统计学习 (特别是 深度学习 )异军突起,获得巨大成功。它不仅建立了较好的理论基础和有效的算法,还成功地得到商业应用,成为推动产业和社会发展的重要力量,使 AI 进入了以数据驱动为主导的第二代 AI 发展时代。凭借大数据、强大的算法和算力,第二代 AI 在模式识别等领域表现出超越人类的性能。可惜,以数据驱动为基础建立的 AI 系统十分脆弱,推广能力也很差,例如:机器学习模型在某些方面可以具有很高的性能,但当模型应用于有别于训练环境的场景中时,其性能显著下降,甚至完全不能使用,与人类“随机应变”和“举一反三”的真正智能相去甚远。


为了迈向真正的 AI,我们需要第三代 AI,而 迁移学习 正在向这一道路迈进。迁移学习将知识驱动方法和数据驱动方法结合起来,以打破基于大数据的“黑箱”学习带来的不可解释、脆弱与易受攻击等缺陷,建立可解释与鲁棒的 AI 理论和方法,开发安全、可信、可靠和可扩展的 AI 技术。由于能同时利用 知识数据算法算力 这四大要素,AI 一定可以再创辉煌。《迁移学习》展示了在通往真正 AI 的道路上作者在机器学习领域已经取得的成果。


迁移学习如何将基于数据学习得到的模型从一种场景更新或者迁移到另一场景,从而实现跨领域和跨任务的推广?具体的做法如下:首先,从学习训练的环境(包括训练数据与方法)出发,发现哪些(具有某种通用性的)知识可以跨领域或者跨任务进行迁移,哪些只是针对单个领域或单个任务的特定知识,并利用通用的知识帮助提升目标域或目标任务的性能。这些通用知识主要通过以下 4 种渠道迁移到目标域中,即 源域中可利用的样本源域和目标域中可共享的特征源域模型中可利用的部分源域中实体之间的特定规则


《迁移学习》 是杨强教授与其学生在多年研究的基础上撰写的,它包含了迁移学习的基础、方法、技术和应用。



迁移学习


杨强 张宇 戴文渊 潘嘉林 著


2020 年 8 月 出版


本书主要由两部分组成: 第一部分 从代表性方法和理论研究的角度介绍 迁移学习的基础第二部分 讨论迁移学习中的一些 新热点 ,以及展示一些成功应用迁移学习的 场景 。本书包含很多原创性的成果,是一部值得广大读者阅读的专著。本书向我们展示了作者为走向真正 AI 所做出的努力,因此不仅适合关注迁移学习的读者,而且对于所有关心人工智能的读者都是有益处的。



本文转载自公众号华章计算机(ID:hzbook_jsj)。


原文链接


https://mp.weixin.qq.com/s/s5TQTneeGeX7s3-HkTFQZg


2020-08-15 14:052514

评论

发布
暂无评论
发现更多内容

5分钟速读之Rust权威指南(十九)

wzx

rust 生命周期

学妹问,学网站开发还是打 ACM?

程序员鱼皮

Java 程序员 算法 大前端 ACM

Python——输入输出:加减乘除四则运算的程序

在即

6月日更

这些书都学完,绝对是编程界的大佬

看山

Java 程序员 6月日更

缓存穿透、缓存雪崩、缓存击穿问题与优化方案

Skysper

递归全排列问题(两种方法 Java实现)

若尘

数据结构 递归 6月日更

读深入ES6记[二]

蛋先生DX

ES6 6月日更

区块链+金融:当前区块链应用场景中最具活力的领域

CECBC

你愿意被管理么?

escray

学习 极客时间 朱赟的技术管理课 6月日更

【布道API】浅谈API设计风格

devpoint

Rest API 6月日更

【Vue2.x 源码学习】第八篇 - 数组的深层劫持

Brave

源码 vue2 6月日更

spring-beans 注册 Beans(四)BeanDefinition

梦倚栏杆

高性能 JavaScriptの七 -- 编程实践小技巧

空城机

JavaScript 大前端 6月日更

SpringBootApplication注解

梦倚栏杆

【21-1】21 连更第一篇

耳东@Erdong

6月日更

【Flutter 专题】109 图解自定义 ACERadio 单选框

阿策小和尚

Flutter 小菜 0 基础学习 Flutter Android 小菜鸟 6月日更

MySQL基础之六:连接查询

打工人!

myslq 6月日更

操作系统内核是什么?Linux内核又是什么?读完这篇文章,我终于知道了

奔着腾讯去

c++ 操作系统 内存管理 Linux内核 进程管理

云原生推动全云开发与实践

阿里巴巴云原生

云原生

浅谈Java中的TCP超时

Hoswey_洪树伟

Java、

Kubernetes手记(5)- 配置清单使用

雪雷

k8s 6月日更

Mybatis 二级缓存简单示例

Java mybatis

Packer 自动化镜像 Windows 安装过程

HoneyMoose

Python——字符串转换与处理

在即

6月日更

Java--JVM运行流程

是老郭啊

Java JVM JVM原理

数字化转型背景下的测试转型

BY林子

敏捷测试 测试转型

公司:离职就是一场危机管理

石云升

创业 职场经验 6月日更

做通才还是专才,你会怎么选?

架构精进之路

认知提升 6月日更

异构内存及其在机器学习系统的应用与优化

白玉兰开源

人工智能 机器学习 解决方案 第四范式 傲腾

阿里云边缘容器服务、申通 IoT 云边端架构入选 2021 云边协同发展阶段性领先成果

阿里巴巴云原生

云原生

当人工智能遇上视频直播——基于Agora Web SDK实现目标识别

dajyaretakuya

深度学习 音视频 WebRTC 声网 TensorFlow.js

迁移学习:迈向真正的人工智能_安全_张钹院士_InfoQ精选文章