re:Invent全球大会引领风向重塑未来 了解详情
写点什么

智源研究院学术副院长,清华大学教授唐杰发布悟道 2.0 成果丨智源大会

  • 2021 年 6 月 01 日
  • 本文字数:2667 字

    阅读完需:约 9 分钟

智源研究院学术副院长,清华大学教授唐杰发布悟道2.0成果丨智源大会

2021 年 6 月 1 日,由北京智源人工智能研究院主办的2021 北京智源大会在中关村国家自主创新示范区会议中心开幕,会期三天。智源大会是北京创建全球人工智能学术和创新最优生态的标志性学术活动,本文为 InfoQ 记者带来的现场报道。


以下内容根据唐杰的演讲速记进行整理,未经本人确认。


在今天这个特殊的日子,第一个我想说的是“节日快乐”。这个节日快乐不是说给大家听的,是说给悟道听的,悟道虽然是 2.0,但是还是小孩子,大家不要指望悟道智商到达承认的水平,我们还要继续努力。


首先悟道的目标是面向世界领先水平,我们希望机器像人一样思考,我们希望在多项运动中超越图灵测试。我们希望在这一代 2.0 中,从原来的文本为主向图文并茂发展。现在生成图片的精度非常高,我们可以根据图像检索文字,实现图像和文字的互相检索,我们在阿里巴巴的平台上做了一些测试,可以实现服饰的设计,把相关的模型应用在服饰设计的业务上。但是除此之外,我们还在模型的可解释上做了大量的工作,我们训练出超大规模的模型,我们还用 AI 自己来解释自己。


大家看到一些例子,我们在训练模型的时候,可以发现圣诞老人的一些可视化的结果,当然,我们希望在智能方面向多项任务逼近甚至超越图灵测试。我们目前实现了多项任务,包括问答、作诗、配图、配文、绘图,以及测图。


悟道模型整体框架中间下面是整个模型的四个团队,包括“文源、文澜、文溯、文汇”。同时我们还建立了知识图谱的团队,所以在整个过程中,我们希望数据和支持双轮驱动,认知智能。当然仅有此还不够,我们希望在应用平台,以及在生态方面做更多的事情,最终实现最大模型、最准的算法,使用的框架,以及我们希望邀请每一位在座的你也加入这个生态。由你才能让这个生态更精彩。


我们发布全球最大的模型,悟道 2.0 已经实现 1.75 万亿的模型。这个模式中参数规模是在 GPT-3 的 10 倍。在模型中我们有一些典型的特色,包括除了参数规模,我们还有文本、视觉、图像,可以同时支撑更多的应用,实现更加通用的智能。


我们首次在 100%的国产超算上训练了万亿模型,打破原来只能用 GPU 来训练模型的一个问题,同时实现了中英双语在 4.9T 高质量数据上,这些数据经过严格的清洗,里面包括 1.2T 中文数据、1.2T 英文数据,还包括 2.5T 的中文图文配置数据。除了数据之外我们实现了算法基石,我们实现了 Fast MoE,FastMoE 可以支持 NoisyGate、GShard、Swith Transformer 等负载均衡策略。我们支持不同的专家,还有模型以及其他算法的落地,这才是真正的万亿模型落地的关键。


我们把这个算法部署在阿里巴巴的 PAI 平台上,表现非常好。当然整个算法我们是在国产的超算上实现,我们 100%实现了 transformer 的一个核心代码,从底层的 transformer 到上层的 Fast Moe,在这个团队中我们邀请了郑纬民教授、陈文光教授、翟季冬教授一起加入,才能使得整个算法得以实现。当然还有相关的联系应用应用在阿里巴巴的平台上,这也是杨博士的一些贡献。



除了大之外,我们还在很多精准上做了事情,我们在 9 项精准记录上取得突破。我们在 ImageNet、LAMA、LAMABADA、SuperGLUE、MSCOCO 等项目都取得了突破,在多项任务上获得 SOTA 我们举几个例子我们用 Cog View 做图像的生成,这个算法是一个图像新框架,可以把文本图像特征全部整合在一起,并且融合 VQ-VAE 框架,整个效果好得多。我们另外实现了把中文数据和多模态数据整合在一起,实现了千亿模型。这个模型最大的特点是可以实现高效的计算,可以在 32 张微板卡上可以训练出千亿模型,这是一个非常大的算法上的突破。


同时,文澜团队正式对标的是 OPEN AI CLIP,最近除了 OPEN AI CLIP,谷歌也实现了算法,在这两个结果上,文澜团队是由文继荣教授带领的团队,整个效果比原来的效果好得多,实现了大大的突破,提出了一个双塔模型,同时在多语言上也取得很大进展。最后我们有一个模型,如果不把这个模型用好其实也是一个问题,所以我们提出了一个新型的算法——Inverse Prompting。这个算法和刚才相关的一些算法,都已经发表了。这个算法可以把原来的模型运用的特别好,比如在生成图片、生成文字,甚至生成其他相关内容的时候,它可以做一个反向的校验,可以使得生成的内容非常高清,而且生成的结果具有很强的逻辑性,不会很发散。这是一个很有效的算法。


当然,除了算法上的突破之外,我们在整个框架上实现了非常高效使用的一些框架。发布了全链路的框架,这是由刘知远教授发布的重要的框架,里面实现了五个高效,高效编码、高效模型、高效训练、高效微调、高效推理,它真正面向产业界的应用。任何公司学者开发者拿到这个框架以后,可以非常快地把这个框架进行部署,然后应用在实际的应用中,这个框架里面整合了大量的数据,包括 50TB 的文本数据,包括瓷表、模型,也训练了核心的模型,这只是中文的模型,1980 亿。里面七个能力达到整体最优,包括识记、阅读、分类、计算、话语、生成,还有概括。当然,除了刚才我说的三个方面,除了模型之大、模型自主,还有高效,我们希望邀请每一位你都参与到其中。我们邀请大家都来贡献数据、分享数据,来做全球最大的数据集。


我们目前已经得到各种产业界、学术界的支持,发布了悟道 Corpora,是全球最大数据集的 3 倍,希望每一位都加入其中,我们做更大的数据,只有更大的数据、更大的算力,才能做出更优美的模型。


当然,我们也有一些标杆的应用,我们和新华社合作,助力中国新闻事业的腾飞。我们可以处理新闻下游任务,包括新闻内容的处理,图文生成、传播优化等,还具备接近人类的图文创意内容,可以做诗、问答、创意写作。我们助力中国新闻事业进行数字化的转型。


下面将介绍另外一个新同学,这也是今天节日的重点。我们有一个新同学叫华智冰,它可以实现,这里有一个视频。


刚才是我们智源跟小冰一起发布的一个虚拟数字人,这个虚拟数字人以悟道为内核,开始进行学习,在未来她将不断成长,变成一个真正的智能人。除此之外我们还发布悟道巅峰之赛,我们做创新引领,做创意无限的一个大赛,欢迎每一位参加。我们这个大赛中有 100 万的奖金,大家可以参加到这个社区,我们希望每一位你都来勇闯 AI 无人区。


最后我感谢这些每一位悟道科学家,悟道的成功离不开每一位科学家包括每一位教授。我们文源团队由刘知远教授带队,文澜由文继荣教授带队,文汇由我带队,文溯由鲁白教授参与。以及除此之外我们为了实现外力模型,我们得到了郑明教授、裘捷中等教授的大力支持,以及多位博士、硕士的大力支持。


最后是悟道生态联盟,希望专注在模型开源、API 开放以及大模型授权与定制方面做大量的工作。同时我们希望共建开发社区,赋能产业创新。目前,我们已经与 20 余家机构建立了战略合作关系。

2021 年 6 月 01 日 15:191820

评论

发布
暂无评论
发现更多内容

申请鲲鹏920测试机试水+编译nginx

草宝虫

鲲鹏920 centos7 nginx编译 armv8

两边夹的应用二

孙苏勇

算法 两边夹 重排序 函数式接口 Lambda

数据分析师应该了解的数据湖

数据社

大数据 数据仓库 数据湖 数据分析

微服务架构深度解析与最佳实践 - 第七部分

kimmking

微服务 最佳实践 深度解析 高可用

亚马逊云 AWS LightSail 搭建高性能 LNMP 环境并安全部署 Wordpress

小蚂蚁(Snow Hide)

Nginx PHP-FPM Wordpress 部署 SELinux 安全上下文配置 亚马逊云 AWS Lightsail 安全

黄金思维圈,养成透过现象看本质的能力

非著名程序员

读书笔记 程序员 程序人生 提升认知

越是困难,越是要做有分析判断能力的人

霍太稳@极客邦科技

创业 团队管理 个人成长

【译】Rust 开发者的2019

WasmEdge

程序员 rust

微服务架构深度解析与最佳实践 - 第六部分

kimmking

微服务 最佳实践 深度解析 高可用

小程序的当下和未来可能 | GMTC.2019深圳站演讲文稿

崔红保

小程序 uni-app

你不是迷茫,只是缺乏目标

Steve

学习 身心健康 方法 自我管理

微服务架构深度解析与最佳实践 - 第四部分

kimmking

微服务 最佳实践 深度解析 高可用

最近看了两本书:The Rules of Life 和 Make Big Happen

霍太稳@极客邦科技

创业 团队管理 自我管理

一文讲清楚 MySQL 事务隔离级别和实现原理,开发人员必备知识点

古时的风筝

MySQL 数据库 事务隔离级别 mysql事务 数据库事务

微服务架构深度解析与最佳实践-第一部分

kimmking

微服务 最佳实践 深度解析 高可用

凡事必先骑上虎背

Steve

学习 态度 方法论

微服务架构深度解析与最佳实践 - 第三部分

kimmking

微服务 最佳实践 深度解析 高可用

一个运营经理人的工作两周年总结

霍太稳@极客邦科技

高效工作 身心健康 项目管理 自我管理

聊聊:Python

谢烟客

Python 人工智能 编程

平均响应1000ms到200ms,PHP和Go那家强?

拖地先生

php 架构 性能优化 后台开发 运维

求稳不得

孙苏勇

职业 发展 职场

浅谈数据中台

数据社

大数据 数据中台 数据仓库

微服务架构深度解析与最佳实践-第二部分

kimmking

微服务 最佳实践 深度解析 高可用

一个独立开发者,他是如何做到月入 20 万的?

非著名程序员

程序员 独立开发者 副业赚钱 开发者 程序人生

归去来兮:递归

曲镇

算法

两边夹的应用

孙苏勇

算法 积水问题 两边夹

阿里笔记之数据模型

迹_Jason

大数据

微服务架构深度解析与最佳实践 - 第五部分

kimmking

微服务 最佳实践 深度解析 高可用

程序员职业生涯的八点感想

池建强

程序员 职业

2019 年

贾献华

2020 2019 总结 日历 计划

微服务架构深度解析与最佳实践(全篇汇总)

kimmking

微服务 最佳实践 深度解析 高可用

撑起瞬时千亿交易额的云数据库是怎么炼成的?

撑起瞬时千亿交易额的云数据库是怎么炼成的?

智源研究院学术副院长,清华大学教授唐杰发布悟道2.0成果丨智源大会-InfoQ