阿里云飞天发布时刻,领先大模型限免,超7000万 tokens免费体验 了解详情
写点什么

迁移学习:迈向真正的人工智能

  • 2020-08-15
  • 本文字数:1374 字

    阅读完需:约 5 分钟

迁移学习:迈向真正的人工智能

30 多年前我与杨强教授在人工智能(AI)的国际会议上相遇并相识,而后发现我们对 AI 有着共同的兴趣并从事类似的研究工作。当时正处于第一代 AI 的高潮,符号主义占主导地位。我们利用以知识为基础的符号推理模型研究 AI 中的各种问题,如 规划搜索学习 等。这是当时的主流,以机器学习为例,如从观察中学习、基于案例的推理、类比学习和归纳学习等,它们均从模仿人类的宏观学习机制出发,以知识(或经验)驱动为基础。这种学习方法的优点是, 学习的模型和结果很容易实现跨领域和跨任务的推广


不难看出,这些学习方法正是当今 迁移学习 (Transfer Learning)的探路者。可惜,不久它们就遭遇了 AI 的冬天。由于知识获取与表示的困难,以及当时计算机计算能力的限制,符号主义的主张没有得到应有的发展和大规模的应用,以知识为基础的学习方法也同样受到重创。21 世纪初,机器学习中的一个分支—— 概率统计学习 (特别是 深度学习 )异军突起,获得巨大成功。它不仅建立了较好的理论基础和有效的算法,还成功地得到商业应用,成为推动产业和社会发展的重要力量,使 AI 进入了以数据驱动为主导的第二代 AI 发展时代。凭借大数据、强大的算法和算力,第二代 AI 在模式识别等领域表现出超越人类的性能。可惜,以数据驱动为基础建立的 AI 系统十分脆弱,推广能力也很差,例如:机器学习模型在某些方面可以具有很高的性能,但当模型应用于有别于训练环境的场景中时,其性能显著下降,甚至完全不能使用,与人类“随机应变”和“举一反三”的真正智能相去甚远。


为了迈向真正的 AI,我们需要第三代 AI,而 迁移学习 正在向这一道路迈进。迁移学习将知识驱动方法和数据驱动方法结合起来,以打破基于大数据的“黑箱”学习带来的不可解释、脆弱与易受攻击等缺陷,建立可解释与鲁棒的 AI 理论和方法,开发安全、可信、可靠和可扩展的 AI 技术。由于能同时利用 知识数据算法算力 这四大要素,AI 一定可以再创辉煌。《迁移学习》展示了在通往真正 AI 的道路上作者在机器学习领域已经取得的成果。


迁移学习如何将基于数据学习得到的模型从一种场景更新或者迁移到另一场景,从而实现跨领域和跨任务的推广?具体的做法如下:首先,从学习训练的环境(包括训练数据与方法)出发,发现哪些(具有某种通用性的)知识可以跨领域或者跨任务进行迁移,哪些只是针对单个领域或单个任务的特定知识,并利用通用的知识帮助提升目标域或目标任务的性能。这些通用知识主要通过以下 4 种渠道迁移到目标域中,即 源域中可利用的样本源域和目标域中可共享的特征源域模型中可利用的部分源域中实体之间的特定规则


《迁移学习》 是杨强教授与其学生在多年研究的基础上撰写的,它包含了迁移学习的基础、方法、技术和应用。



迁移学习


杨强 张宇 戴文渊 潘嘉林 著


2020 年 8 月 出版


本书主要由两部分组成: 第一部分 从代表性方法和理论研究的角度介绍 迁移学习的基础第二部分 讨论迁移学习中的一些 新热点 ,以及展示一些成功应用迁移学习的 场景 。本书包含很多原创性的成果,是一部值得广大读者阅读的专著。本书向我们展示了作者为走向真正 AI 所做出的努力,因此不仅适合关注迁移学习的读者,而且对于所有关心人工智能的读者都是有益处的。



本文转载自公众号华章计算机(ID:hzbook_jsj)。


原文链接


https://mp.weixin.qq.com/s/s5TQTneeGeX7s3-HkTFQZg


2020-08-15 14:052495

评论

发布
暂无评论
发现更多内容

Tensorflow API(一)

毛显新

人工智能 深度学习 tensorflow keras

ipfs挖矿怎么选择公司?ipfs挖矿收益怎么计算?

IPFS挖矿收益怎么计算 ipfs挖矿怎么选择公司

【前端 · 面试 】HTTP 总结(七)—— HTTP 缓存概述

编程三昧

面试 HTTP 8月日更 HTTP缓存

架构训练营毕业总结

冬天的树

MongoDB 客户端怎么做负载均衡

海明菌

mongodb 负载均衡 客户端

【架构实战营】毕业总结

swordman

架构实战营

Java进程cpu100%问题排查

陈皮的JavaLib

Java Linux 面试 8月日更

白手起家之搜索利器Elastic search

卢卡多多

ES 8月日更

三维旋转笔记:欧拉角/四元数/旋转矩阵/轴角-记忆点整理

zhoulujun

矩阵旋转 欧拉角 三维旋转 四元数

从java注解漫谈到typescript装饰器——注解与装饰器

zhoulujun

Java 注解 装饰器 ts 元数据

JIT-动态编译与AOT-静态编译:java/ java/ JavaScript/Dart乱谈

zhoulujun

Java dart JIT

数字新基建助推能源互联网“一体两翼”区块链中台应用建设思考

CECBC

喜获蚂蚁金服、拼多多、字节跳动offer!纠结之后入职拼多多。

Java 编程 程序员 面试 计算机

Tensorflow随笔(一)

毛显新

人工智能 深度学习 tensorflow keras

Docker可视化管理工具Portainer

xcbeyond

Docker Portainer 8月日更

SLO(服务等级目标)与SLA(服务等级协议)

一个大红包

8月日更

流处理基本概念(二)

Databri_AI

大数据 flink 窗口函数

JavaScript 开发人员应该理解的 this

devpoint

JavaScript js变量声明 this 8月日更

网络攻防学习笔记 Day98

穿过生命散发芬芳

态势感知 网络攻防 8月日更

PNG文件解读(2):PNG格式文件结构与数据结构解读—解码PNG数据

zhoulujun

png jpg

Kafka 和 Kinesis 之间的对比和选择

HoneyMoose

年薪50W阿里P7架构师就会点这?并发丨JVM丨多线程丨Netty丨MySQL!

编程 架构 面试 IT 计算机

当农产品拥有“身份证”区块链技术如何助力农产品溯源监管?

CECBC

PNG文件解读(1):PNG/APNG格式的前世今生

zhoulujun

png

模块10作业

wade

#架构实战营

2021年最新最全:30W字!千道Java 后端面试大全(值得收藏)

Java 编程 程序员 架构 面试

模块四作业

秀聪

架构训练营

一周拿下百度Offer!211本+985硕+计算机专业~

Java 编程 面试 IT 计算机

深度解析区块链数字票据及其优势

CECBC

分享三个可改进的体验

石云升

用户体验 体验设计 8月日更

云原生之可观测性【日志篇】 Logstash组件初探

路上的小崔哥

云原生 Logstash 日志 可观测性

迁移学习:迈向真正的人工智能_安全_张钹院士_InfoQ精选文章