红帽白皮书新鲜出炉!点击获取,让你的云战略更胜一筹! 了解详情
写点什么

迁移学习:迈向真正的人工智能

  • 2020-08-15
  • 本文字数:1374 字

    阅读完需:约 5 分钟

迁移学习:迈向真正的人工智能

30 多年前我与杨强教授在人工智能(AI)的国际会议上相遇并相识,而后发现我们对 AI 有着共同的兴趣并从事类似的研究工作。当时正处于第一代 AI 的高潮,符号主义占主导地位。我们利用以知识为基础的符号推理模型研究 AI 中的各种问题,如 规划搜索学习 等。这是当时的主流,以机器学习为例,如从观察中学习、基于案例的推理、类比学习和归纳学习等,它们均从模仿人类的宏观学习机制出发,以知识(或经验)驱动为基础。这种学习方法的优点是, 学习的模型和结果很容易实现跨领域和跨任务的推广


不难看出,这些学习方法正是当今 迁移学习 (Transfer Learning)的探路者。可惜,不久它们就遭遇了 AI 的冬天。由于知识获取与表示的困难,以及当时计算机计算能力的限制,符号主义的主张没有得到应有的发展和大规模的应用,以知识为基础的学习方法也同样受到重创。21 世纪初,机器学习中的一个分支—— 概率统计学习 (特别是 深度学习 )异军突起,获得巨大成功。它不仅建立了较好的理论基础和有效的算法,还成功地得到商业应用,成为推动产业和社会发展的重要力量,使 AI 进入了以数据驱动为主导的第二代 AI 发展时代。凭借大数据、强大的算法和算力,第二代 AI 在模式识别等领域表现出超越人类的性能。可惜,以数据驱动为基础建立的 AI 系统十分脆弱,推广能力也很差,例如:机器学习模型在某些方面可以具有很高的性能,但当模型应用于有别于训练环境的场景中时,其性能显著下降,甚至完全不能使用,与人类“随机应变”和“举一反三”的真正智能相去甚远。


为了迈向真正的 AI,我们需要第三代 AI,而 迁移学习 正在向这一道路迈进。迁移学习将知识驱动方法和数据驱动方法结合起来,以打破基于大数据的“黑箱”学习带来的不可解释、脆弱与易受攻击等缺陷,建立可解释与鲁棒的 AI 理论和方法,开发安全、可信、可靠和可扩展的 AI 技术。由于能同时利用 知识数据算法算力 这四大要素,AI 一定可以再创辉煌。《迁移学习》展示了在通往真正 AI 的道路上作者在机器学习领域已经取得的成果。


迁移学习如何将基于数据学习得到的模型从一种场景更新或者迁移到另一场景,从而实现跨领域和跨任务的推广?具体的做法如下:首先,从学习训练的环境(包括训练数据与方法)出发,发现哪些(具有某种通用性的)知识可以跨领域或者跨任务进行迁移,哪些只是针对单个领域或单个任务的特定知识,并利用通用的知识帮助提升目标域或目标任务的性能。这些通用知识主要通过以下 4 种渠道迁移到目标域中,即 源域中可利用的样本源域和目标域中可共享的特征源域模型中可利用的部分源域中实体之间的特定规则


《迁移学习》 是杨强教授与其学生在多年研究的基础上撰写的,它包含了迁移学习的基础、方法、技术和应用。



迁移学习


杨强 张宇 戴文渊 潘嘉林 著


2020 年 8 月 出版


本书主要由两部分组成: 第一部分 从代表性方法和理论研究的角度介绍 迁移学习的基础第二部分 讨论迁移学习中的一些 新热点 ,以及展示一些成功应用迁移学习的 场景 。本书包含很多原创性的成果,是一部值得广大读者阅读的专著。本书向我们展示了作者为走向真正 AI 所做出的努力,因此不仅适合关注迁移学习的读者,而且对于所有关心人工智能的读者都是有益处的。



本文转载自公众号华章计算机(ID:hzbook_jsj)。


原文链接


https://mp.weixin.qq.com/s/s5TQTneeGeX7s3-HkTFQZg


公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2020-08-15 14:051884

评论

发布
暂无评论
发现更多内容

A16Z领头的Story Protocol有什么看点?

币离海

BRC20 Story Protocol

并发容器的使用:识别不同场景下最优容器

zurhan

万媒易发:以RPA自动化和AIGC为基础实现多平台分发

爱写字的阿城

自动化

华为云三重优惠!云耀L实例轻松应对挑战,助您企业更高效上云

YG科技

华为云耀云服务器L实例多重防护助力企业放心上云

YG科技

Programming Abstractions in C阅读笔记:p202-p234

codists

罗拉rola-ip海外IP能在哪找?

Geek_bf375d

爬虫 代理IP 代理IP设置 免费代理ip 跨境电商

CountDownLatch和CyclicBarrier:如何让多线程步调一致

zurhan

华为云耀云服务器L实例,助力初创及成长型企业实现高效数字化转型

平平无奇爱好科技

华为云耀云服务器L实例:在小程序竞争中的强大利器

YG科技

发生死锁了怎么办

zurhan

平凯星辰携手教育部教育管理信息中心,助力普惠教育数字化

PingCAP

MySQL 教育 数字化 TiDB

稳定高效选择,华为云耀云服务器L实例助力云端创新

平平无奇爱好科技

简单上云第一步的华为云服务器,助力中小企业提升业务

平平无奇爱好科技

INFINI Gateway 与华为鲲鹏完成产品兼容互认证

极限实验室

Gateway 极限科技 华为鲲鹏认证

华为云耀云服务器L实例,助力企业开启轻松云计算之旅

YG科技

Semaphore:实现一个限流器

zurhan

Java 内存的可见性与有序性

zurhan

全球互联网是怎么形成的

Link

云游戏迎来新时代,华为云轻应用服务器引领数字化创新

YG科技

华为云耀云服务器L实例:创新的解决方案,推动小程序与网站开发新趋势

YG科技

如何拉取多架构镜像存储到私有库

许大强

平凯星辰 TiDB 获评 “2023 中国金融科技守正创新扬帆计划” 十佳优秀实践奖

PingCAP

数据库 TiDB 金融业

TiDB 在咪咕云原生场景下的实践

PingCAP

MySQL 数据库 TiDB 用户实践

深入理解 SQL UNION 运算符及其应用场景

小万哥

MySQL 数据库 程序员 sql 后端开发

高性能云计算,华为云服务器行业遥遥领先

平平无奇爱好科技

倒计时 5 天,您有一份 2023 IoTDB 用户大会参会指南请注意查收!

Apache IoTDB

工作室用代理ROLA-IP能防止封号吗?

Geek_bf375d

一款多功能露营专用氛围灯

攻城狮Wayne

引领小程序与网站开发新潮流,华为云耀云服务器L实例轻松搭建

平平无奇爱好科技

海外住宅IP代理如何去判断?

Geek_bf375d

爬虫 IP 代理IP 免费代理ip 跨境电商

迁移学习:迈向真正的人工智能_安全_张钹院士_InfoQ精选文章