发布在即!企业 AIGC 应用程度测评,3 步定制专属评估报告。抢首批测评权益>>> 了解详情
写点什么

GTI 首席科学家杨林:AI 产业化需要标准

  • 2020-02-19
  • 本文字数:7143 字

    阅读完需:约 23 分钟

GTI首席科学家杨林:AI产业化需要标准

本文为 Robin.ly 授权转载,文章版权归原作者所有,转载请联系原作者。


Robin.ly 是一个全新的视频内容平台,旨在为广大工程师和研究人员提高对商业,创业,投资,领导力的理解。第四期是 Robin.ly 创始人 Alex Ren 采访 CNN(细胞式类神经网络)的发明者、硅谷 AI 芯片初创公司 Gyrfalcon Technology(GTI)联合创始人及首席科学家杨林教授 。以下为采访实录摘要,原始视频请访问 www.robin.ly 完整视频请在文末扫二维码关注


Alex: 大家好,我是 Alex Ren,是 BoomingStar Ventures 的管理合伙人,也是 Robin.ly 的创始人。今天是我们的 Robin.ly 第四讲,主题是关于 AI 芯片的创业和技术发展。今天我们的嘉宾是 GTI 的联合创始人杨林教授。杨教授有丰富的业内经历,他曾经就读于复旦,清华和 UC Berkeley,获得了 UC Berkeley 的博士学位。同时也是北邮,清华和复旦的教授。他曾经在 VLSI (Technology, Inc.),Redwood Design,Cadence 做高级设计经理。1999 年创立了一家半导体公司,Legend Silicon(凌讯科技),专注数字电视方面的芯片。 2017 年,杨教授和 OmniVision 的 founding member 董琪一起创立了一家公司 GTI,Gyrfalcon Technology,专门从事 AI 芯片这方面的工作。杨教授在学术上成果斐然,1988 年就已经发表了一篇名为 Cellular Neural Networks Theory and Application 的文章,获得了 IEEE 的电路与系统最佳论文奖。自此之后,CNN,也就是 Cellular Neural Networks 就成为了一个热点的研究领域。感觉 GTI 创业以来发展得很快,想问问当初创业的初衷是什么?


杨林:创立这个公司的初衷,就是感觉到现在,PC,电脑都已经放到手机上了,通讯都已经做到第五代通讯了,而且目标就是 IoT,Internet of Things,物联网。那么下一步的发展方向必然是人工智能。为什么叫 Internet of Things 呢?原来就叫 internet,相对来讲就应该叫 Internet of People,对不对?那 people 只要连起来,大家就可以交流。因为有这个语言文化,互相都懂。那你说,thing,这个东西连在一起,那很难交流。所以这个时候就需要赋予物体一定的感觉的能力,和判断的能力。这也就是所谓的人工智能要解决的问题。


Alex: 所以您实际上是为了解决 IoT 的 deployment 问题?


杨林:对。主要是为了解决 IoT 下面的连接问题。IoT 已经发展了很多年,但主要就是为了连接。连接由于 5G 开发了以后,现在正在实施。现在急需产业化,这就不再是科研项目了。那么在这个时候,人工智能就起到了非常关键的作用。这是第一。第二,人工智能,或者叫神经网络,前一段时间,虽然产业化没有发展,但是在研发方面还是有人持续在做。研发方面在做也是受益于现在的计算机能力,那么就开发了这种深度学习的概念。深度学习,它的技术方面的定义是叫多层卷积神经网络的机器学习,所以大概有这么三个意思。第一是卷积神经网络,第二是多层,第三个是用机器学习,不用人,不用编程。那么实际它本身的电路结构和算法很早以前就有了,至于为什么能够现在流行起来,一是现在有这个需求,其次就是现在的算力,就是计算机仿真的能力很强。这个我下面可能在谈到其他问题的时候会再展开讲。


Alex: 您的公司创立一年,出片的芯片现在做到了什么样的性能?



GTI 第一款 AISC 芯片 ‘The LightSpur 2801S’


杨林:我们这个芯片当时瞄准的是低成本,低功耗,高性能。首先高性能是必须的。因为要赋予智能,让它能够自己去学习的话,就需要算力,所以必须得是高性能才能保障算力。那么在高性能的情况下,怎么能够降低成本,降低功耗,这个是我们主要的一个工作。那么得益于原来我做的这个 analog 电路,它就是个 device。它从架构来讲,和计算机是不一样的。所以从这里边进行借鉴,我们就达到了预期的目标。


Alex:这是个 ASIC 是吧?


杨林:只要是 application specific 就叫 ASIC,我们也是其中一个。我会叫它卷积神经网络加速器,它不是一个 SoC (System on a Chip),我们也觉得这个是当前急需的。因为现在市场还没有起来,如果将来市场起来了,根据真正的应用,我们会做不同的电路。但是现在呢,还是属于一个平台,就是我们叫做卷积神经网络加速器。


Alex: 那主要性能是手机上吗,在什么终端上面?



杨林教授介绍 GTI 产品


杨林:手机只是一个应用。提到手机,我就顺便把我们最近做的这个东西拿出来看看。这是我们给电脑,laptop 做的。它是个 USB dango,我们这个芯片就在这里,它就是个加速器。现在的 PC 里边基本什么都有了,即使你没有 GPU,反正只要有 CPU,做训练都没问题,但是它速度慢。所以加了这个以后你就加速了。另外一个,就是用我们的芯片做的一个 WiFi 的小盒子。这个就跟手机一样,跟手机配合。像现在华为和苹果都做了 SoC,就是 single chip solution。但由于卷积神经网络的运算量是需要很大的,那么我们的就是专门做了这么一个,配合现有的手机,就直接把这个手机升级为 AI 手机了。


展开一下就是,为什么我们做这件事,因为我看到了这个机遇。我就是做电路的,这是个 device。现在 叫 CNN,Convolutional Neural Network,我们原来叫 Cellular Neural Network。Cellular Neural Network 是一个电路。它其中有 convolution 作为一个算子,就像里边有乘法。但是它那里边就是 convolution,所以我们在那个里边就有这个 convolution,不光有 convolution,我们还有 feedback,就所谓现在的 RNN。我们现在的重点主要是做 CNN,因为这个 feedback 还有一些其他的问题。所以现在 RNN 只用在一维的信号处理方面,还没有真正用到图像。但是将来我认为是会把应用放到图像层面。


人工智能本身,现在每个人都有自己的定义。有的人觉得这个东西很可怕,将来就是超人。这个和我 30 年前描述计算机时候一样,那时候普遍认为计算机要毁灭人类。但实际上,经过这么多年的发展,我们觉得计算机让人类社会受益良多。30 年前在我上学的时候,那真就是做计算机的人用计算机,用计算机的人做计算机,其他人对计算机没什么接触,就像现在人工智能高发展的时期一样。但是现在不都是人手一份手机,人工智能的普及速度应该会更快。


Alex: 我们现在讲民主化。人工智能民主化。就是您说的,普及化实际上最终是 ASIC。ASIC 本身需要考虑经济效益,考虑成本。那现在您现在在 GTI 做的工作和您以前发明的 CNN 有什么关系吗?


杨林:这个就牵扯到刚才我说的,电路,神经网络和计算机的区分是什么。大家现在有个常用词叫异构。异构的意思就是我和计算机不一样,但是怎么个不一样法,第一,神经网络因为是一个电路,尤其是当时我们做的,它是记忆元器件。记忆的和运算的是一体的。那么现在标准的计算机的架构,就是处理器,存储器,中间还有个 I/O,叫接口,有这三个;我们现在做的这个东西是都放在一起的。正是因为这样,我们才降低了功耗。这样就可以把里边的处理器,包括你的存储器,都用最新的,比如说是,7 纳米,10 纳米的来实现。但是你中间连接接口的那个 pad,就是我们叫芯片的管脚,不变,而那个东西就是大量的传输高速,功耗都在那儿。所以这是一个。


另外就是人也是因素之一,人的智能实际上是记忆和处理在一起的。不是说你想干什么,到哪儿去,充一下电,然后再去存取——它是一体的,这个也是不同。但是作为 computer simulation 来讲,原来架构就是这样,你何苦去改呢。所以我们认为将来的发展,实际上就是这种专用的结构。另外一个,因为计算机对芯片也有要求,大家现在也在比,说是看谁做得最好。我看现在好多 startup 在做的芯片都在比。那么还是计算机的概念。计算机有几个特点,第一,一定要有指令集,就是说我这个东西是专用指令集,指令集简化,没必要,因为这个东西不需要指令。因为顾名思义,深度学习,机器学习嘛,机器学习就是不用人来编程序,不用人来编程序,还要什么指令集呀,对不对?实际上我们真正用数据来训练里边的参数,训练完了以后,人工智能和人类智能相比的好处就是它可以 copy,训练完了可以移植;不像人,我们学完了以后,我们的下一辈还得重学。


Alex: 您讲的这个指令集的变化,非常好。作为一位非常有经验的半导体行业专家,在 AI 时代到来之后,您觉得对整个半导体产业带来些什么样的变革。我们能不能说芯片行业迎来了第二春?


杨林:这是很大的一个变化,但是我认为这个是时代的发展造成的。刚才你提到这个第二春,对我来讲,这就是三十年河东,三十年河西。我当年在 Berkeley 读书的时候,Berkeley EE 和 Computer Science 在一起的叫 EECS,对不对?当时 CS 的人都是 hardware 的。我去年回去,结果发现 EE 根本没有人学了。你只要做出个 AtoD (Analog to Digital),剩下的就是 digital 的事儿了。所以说 hardward design 的人一点都没有了,基本连学校都不 train 了,都没有人去学。所以针对刚才你说的,这就是为什么我说是三十年河东,三十年河西。下面三十年呢,实际上又给 hardware 的人新的机会,就是我们还要着重去做 hardware。原因我刚才也提到了,它不是一个计算机,它是一个 device。它不一定去竞争,就像苹果手机似的。苹果今年出了手机,我就换个新的,去年的虽然打电话还可以用,但是大家就都换,为什么呢?因为它是通用的东西,通用的东西大家都去比较,谁的最好,因为可比。那以后的人工智能的应用很广泛,有的东西不需要一年一换。比如说你们家的 garage door opener,那个东西你老换它干什么呢,没必要换。包括智能锁等等。


Alex: 您也是长期在中国和美国的半导体行业工作,中国的半导体行业最近也是个热点话题。我们应该怎么做,去把两国的行业差距缩小?


杨林:大的方面刚才我已经说了,本身硬件由于 EDA 这个 tool,由于每个 applicaiton 是有一定限度的,后来都被 general processor 给替代,所以这个需求就很少,这是第一。第二呢,我感觉过去的这 30 年,实际上中国还是处于一个学习和跟踪阶段。尤其做企业的人,我听了好几个比较有名的老板说不要吃第一个螃蟹。那不要吃第一个螃蟹, 你怎么创新呢?但这是适合当时中国国情的,因为你没有那个财力,也没有那个需求,你犯不上去做这些事儿。那么比较稳的就是先把现在这个基本的事情做好。但是现在不一样了,现在中国能做的也都做了,跟别人都已经差不多一样,你要想抄别人的,或者说学习别人的,还没出来呢,那就干脆自己去做这个事儿。


Alex: 您之前创立了 Legend Silicon,现在又创立了 GTI,结合您以前的经验,可以怎么把 GTI 做得更好呢?


杨林:上次创业有几点。第一,就是数字电视进入了产业化阶段,因为数字电视一开始也是科研项目,最早是在日本。那么没有标准化是不可能产业化的。现在 AI 也就是这个问题——没有标准化,大家都想标新立异,每个人想说我明天能不能再研究出来一个不同的,就是为了不同而去做事儿。那这个就不是产业化了,产业化是说尽量相同。而且也不一定说我做完这个事儿,就永远不再做了,已经全解决完了。通讯行业就告诉你了这个标准——第一代通讯,就是模拟电话;然后有 2G,第二代,就是 GSM(Global System for Mobile communications),CDMA(Code-Division Multiple Access);3G,然后 4G,5G。实际上在做第二代第三代的时候,5G 的技术也存在了,研发上也有人讨论。但是大家说没必要了。标准化,它可以给你定义一个,大家都 follow 同样的东西,而且做现在最急需的东西。现在我认为大家还是在科研的这种状态。


Alex: GTI 作为一家初创公司,现在还算是处于一个早期阶段。您认为如何和 Intel,Nvidia, Qualcomm 这些芯片行业的大公司竞争呢?


杨林:我们为什么有这个信心呢?因为首先我没有抄别人的,这就是我 30 年前自己搞的。但是因为 30 年前在 Berkeley 申请了 CNN 细胞神经网络专利,而且我们在 2012 年专利过期以后又继续申请了专利,第一,你首先要说你不是抄别人的,因为有人跟你打官司啊,你得能证明这是我的。第二呢,你还得有一定的特点,才能保护住。所以在 GTI,我们现在已经有 5 个核心基本专利,很快的。申请专利的时候击败了 Intel 的团队,获得了专利。所以呢,做芯片必须得有专利。没有专利趁早别做。


Alex: 作为一个初创公司,做芯片本身就不容易。面临这么多竞争,即使我们有基础,接下来我们在商业发展上会采取什么样的路径?


杨林:所以我们第一件事就是做一个平台,做一个非常低成本,低功耗,但是还有 AI 性能的平台。让每一个人都先能玩起来。大家都能玩,人才的问题就解决了。就像现在大家都玩计算机,那你不愁找懂计算机编程的。都玩手机,你不愁找手机 app 的 developer。我们的做法就是这个,产业化。现在的计算机和 30 年前的计算机完全不一样,现在的手机和以前的大哥大也完全不一样。它不是一个办公用品,它也不是一个 business 的用品,它就是一个家用(电子设备)。所以我们现在——你看这个东西做的就像让大家玩一样。我也不想拿你去开发什么自动驾驶,智能医疗,不用。你就能用这个识别出来一些很简单的东西,猫,狗等等。


Alex: 所以 GTI 策略是说,我们做一个普及化的平台,让开发人员更容易掌握这些工具,针对他所关心的一些问题做出些解决方案?


杨林:就是这个意思。我今年四月说过,要把 AI 玩起来。我们这个东西上面写的叫“plai”,音译好像就是玩嘛(play)。但是它的直接意思就是 People Learn AI,就是玩的意思。一旦大家都了解了,都玩起来了,你人才也不会缺了,行行业业都是专家。因为 AI 并不是要解决一个高大上的事儿,AI 是要方方面面的解决很简单的事儿。我们最近也在跟一家做 baby monitor 的公司合作。小孩儿一哭或者他刚要哭的时候,你马上把当妈的这个声音录在那儿了,起码给他 distract 一下,就不哭了。这就是很简单的一个事儿,也不需要什么云,可以你自己训练。



杨林老师接受 Robin.ly 采访 Alex 为左 杨教授为右


Alex: 您看到这里有两个以前可能相对来讲隔离比较深的领域,一个是 AI 领域,一个是芯片领域。现在有很多 AI 工程师,也有很多芯片工程师。这两个领域随着商业化会越来越 merge,您对这两个领域的工程师,对他们的职业发展有什么建议?


杨林:现在是个拐点,拐点变化很快,当前的需要就是产业化的问题。刚才我说了产业化,标准化,让大家都能够用起来。等 AI 基本上普及以后——就像手机这种,我觉得搞软件的人已经没用了。你要让一个农民说哪个苹果长虫子了,哪个没长虫子。那他只能告诉你,你拿这个东西照个相,然后告诉我,什么是有虫子的,什么是没虫子的。比如说你们家扫地机,现在都是瞎眼的。只是它很尽力去天天给你扫,现在所谓的智能就是没电了知道走回去充个电。但是真正的人工智能扫地机呢,是干净的地方就不扫了,就不擦,脏了再擦。有根头发捡起来,有了可乐渍喷点东西,这才是智能。基本上将来大家训练 AI,就需要各种级别的导师,而且越低级别的老师需求越多。就像人的学习需要时间,所以才有一个小学毕业到教授,越学历高的人学的时间越长。学的时间越长,就是成本越高,但是大部分的人,对我们真正需要的来说并不需要那么高级别。


Alex: 就好像我们以前教计算机去做事儿,现在转变成去教 AI 去做事儿。


杨林:对。教计算机做事儿呢,你得自己学本领。


Alex: 你要会它的语言,对吧?


杨林:对。机器学习是你只要整理数据就行。中国,美国,欧洲的大学都是 100-400 年的历史,是由于工业革命才诞生。实际上大学就是为了让人去操纵机器,需要一些专业知识,以后不是,以后学校就是培养老师,把机器变成机器人,不是把人变成机器了。教育是要很大的改变的,教育一改变了,人就可以学别的。


Alex: 这个非常有道理啊!那您说现在做硬件的工程师,他们应该做什么呢?


杨林:最近这几年——将来我说的那个时候就没有软件硬件这个概念了,我觉得硬件工程师做这个系统,不是做一样的,不只是 CPU,GPU,应该会有很多 startup。这些 startup 不是在竞争。就像开饭馆似的,每个人有自己的风味,每个人都有自己的特点,只要你自己能够想一个你做的东西有需求,就有 business。这是做硬件的。那做软件的人呢,因为有硬件配套么,那就是生态系统,可能是要做这个。


Alex: 您觉得未来几年比如 3 到 5 年,您自己的目标是什么。还有就是您觉得 GTI 未来 3 到 5 年的发展会是什么样子?


杨林:我们最近的这两三年,就是要做一个普及的平台。我们认为是个平台效应,是 horizontal 的,你放在 PC 上可以自己去开发自己的应用。可能三五年以后,行业应用的人越来越清楚自己要干什么了,因为他先是拿这个平台。虽然物美价廉,但是不够专用,那进一步优化就是要做 ASIC,做专用电路。然后我们再开始做 vertical 的。针对某一个,比如说安防,那以后安防标准化了,大家都做一样的了。再扩展到,方方面面,包括汽车,包括智能医疗,比如家里边有一个 personal doctor,早上起来,看你一照镜子发现今天没睡醒,提醒你一下。如果类似产品有量,我们的 hardware engineer,或者是做芯片的,就会根据这个量进行开发。


我的个人目标现在实际上在填补空白。因为现在没有 hardware design engineer 了,所以我干脆先启动一下。然后在这个时候由于我们的公司增长也很快,以后就要招很多人嘛,培养一些新的人,把这些事儿慢慢做起来以后呢,我也就退休了。


Alex: 所以您是还在提携后辈,提携很多新的工程师。今天真是受益匪浅,杨老师讲了很多他对于整个 30 年来,包括从上一次的人工智能浪潮开始,通讯,半导体,计算机,以及现在人工智能各个方面的洞见。通过以前计算机通讯方面的发展,看到现在 AI 普及化所面临的一些机遇和挑战。杨老师创立的 GTI 也是为了抓住这个基于而来。同时,杨老师也希望利用积累的经验,用新的架构,新的方法去为 AI 普及化做出努力。再次感谢杨老师的分享,我个人受益良多。今天就是我们 Robin.ly 的第四期节目,谢谢大家。


本文转载自 Robinly 微信公众平台。


原文链接:https://mp.weixin.qq.com/s/HbcO2YV7TLqY-vgNP5cEWg


公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2020-02-19 20:42737

评论

发布
暂无评论
发现更多内容

Java核心基础——动态代理、静态代理

老农小江

java基础 代理模式

架构师训练营第 1 期 - 第 9 周学习总结

Anyou Liu

极客大学架构师训练营

交易所量化机器人搭建--市值管理机器人

13530558032

架构师训练营第 1 期第九周作业

Leo乐

极客大学架构师训练营

native关键字作用到底是什么?

秦怀杂货店

Java 源码 源码刨析 native

架构师训练营第 1 期第九周总结

Leo乐

极客大学架构师训练营

架构一期第九周作业

Airs

Week5 - 技术选型 - 缓存,队列,负载均衡

evildracula

学习 架构

极客时间架构师训练营 - 第五期作业

文江

第九周作业

fmouse

极客大学架构师训练营

第8周 作业2

Yangjing

极客大学架构师训练营

性能优化三第九周作业「架构师训练营第 1 期」

天天向善

架构师第2期第5周作业一

老腊肉

极客大学架构师训练营

架构师训练营第五周作业

丁乐洪

第八周作业 1

Yangjing

极客大学架构师训练营

第九周作业

alpha

极客大学架构师训练营

Week 9 设计秒杀系统

黄立

极客时间架构师培训 1 期 - 第 9 周作业

Kaven

作业-第5周

arcyao

第九周总结

fmouse

极客大学架构师训练营

三步法解析Axios源码

执鸢者

大前端 axios

第九周总结

alpha

极客大学架构师训练营

极客时间架构师训练营 1 期 - 第 9 周总结

Kaven

架构师入门学习感悟五

笑春风

架构师训练营第 1 期 - 第 9 周课后练习

Anyou Liu

极客大学架构师训练营

训练营第九周作业 1

仲夏

极客大学架构师训练营

神经网络泛化

计算机与AI

神经网络 学习

微服务手册:分库分表从分析到实践,不再停留只会说分库分表

互联网应用架构

分库分表

首次排查 OOM 实录

AI乔治

Java 架构 OOM

斐波那契查找

ilovealt

算法和数据结构

JVM垃圾回收及秒杀系统

天天向上

极客大学架构师训练营

GTI首席科学家杨林:AI产业化需要标准_行业深度_Robin.ly_InfoQ精选文章