【ArchSummit 】架构顶层设计视角梳理从0到1打造大模型体系的路径! 了解详情
写点什么

昇腾 AI 开发者创享日:开发者进阶路上的 buff 加成

  • 2022-04-27
  • 本文字数:4351 字

    阅读完需:约 14 分钟

昇腾 AI 开发者创享日:开发者进阶路上的 buff 加成

人工智能走向规模化阶段,但人工智能技术突破和应用面临着巨大的挑战。训练时间长、算力稀缺昂贵、高开发成本、高技术门槛等,是每一位开发者面临的行业现状,也是阻碍全产业 AI 生态进一步发展的难题。


在这样的困局下,昇腾推出了 AI 基础软硬件平台,并通过系列落地活动,让更多 AI 开发者受益。4 月 23 日,首站昇腾 AI 开发者创享日活动在西安举办,活动以“创未来,享非凡”为主题,对昇腾 AI 开发者价值框架进行解读。通过参与该活动,开发者将窥见 AI 的未来发展趋势,获取前沿 AI 技术,更新自身知识体系,为职场加码。


“手工作坊” 开发模式 Out,换一种可好?


当前 AI 开发模式面临效率低下的瓶颈。过度依赖专家和数据,导致人工智能常常陷入没有“人工”就没有“智能”的境地。此外,面对海量数据和大规模预训练模型,算力稀缺昂贵,也是开发者和企业不得不面对的挑战。特别是端、边、云全场景布局的趋势,加深了 AI 技术的复杂性,开发者需要进行多次开发部署才能实现全场景适配,进一步提升了开发的门槛。如何打破算力鸿沟,让 AI 做到普惠,并成为真正的生产力,是当前行业亟待解决的问题。


随着计算产业进入智能化时代,国内外巨头纷纷加速布局 AI。相比来说,国外的企业在人工智能领域发力较早,也较为成熟,而国内的企业则相对年轻,在早期更多的专注于 AI 应用层布局,极少涉及底层技术。然而,缺乏基础软硬件的支撑,将导致产业落地很难推进,近年来,国内企业也纷纷意识到这一问题。


基于多年的研究积累,华为自主创新昇腾 AI 基础软硬件平台,提供包括 Atlas 系列硬件、异构计算架构 CANN、全场景 AI 框架昇思 MindSpore、昇腾应用使能 MindX 以及一站式 AI 开发平台 ModelArts 等,帮助伙伴和开发者高效使用 AI 能力,创新场景化 AI 应用,加速千行百业智能升级。而在本次昇腾 AI 开发者创享日上,就有来自华为的技术专家对昇腾 AI 最新的技术进行细致地解读。


在 AI 框架层面,昇思 MindSpore 此前发布了 1.6 新版本,在易用性、开发效率、控制流性能等方面带来全新的升级。华为 2012 实验室中央软件院软件领域科学家、副首席专家、昇思 MindSpore 架构师于璠将 1.6 新版本特性总结为以下八点:


华为 2012 实验室中央软件院

软件领域科学家、副首席专家、昇思 MindSpore 架构师 于璠


  • 极致异构并行,支持单机 8 卡千亿参数模型训练。Memory Swap 可以将部分数据暂存于 host 侧,帮助用户在不需要增加设备的前提下训练更大规模的模型,解决训练过程中常常遇到由于模型规模过大导致 GPU/NPU 内存不够的场景;


  • 开发套件 MindSpore Dev ToolKit 提供运行管理,智能知识搜索与智能代码补全功能,通过统一建模解决动态语言补全准确性和效率难题 ;


  • MindSpore1.6 新增了自定义 AICPU 类型算子的支持,可以快捷地部署到主流嵌入式平台上,对于一些难以向量化的算子,有较大的性能收益;


  • 提供高性能、灵活易用的强化学习框架,充分发挥设备异构算力,支持大规模异步训练;


  • MindSpore Lite 推理端的加强,支持将 OpenGL 纹理数据作为输入和输出,实现端到端推理过程中,减少 CPU 和 GPU 间的数据拷贝, 从而达到提升推理性能降低功耗的目的;


  • 通过模型迁移工具 MindConvert 快速等价迁移模型结构与权重信息,提升推理与 fine-tune 效率 ;

  • MindQuantum 0.5,利用量子神经网络解决组合优化问题 MaxCut;


  • 采用图学习框架 MindSpore Graph Learning 提供高效易用的图学习框架,支持图神经网络在应用场景的快速迭代;公式即代码,可将训练加速 3 到 4 倍。


昇思 MindSpore1.6 版本通过多维度的创新,令开发者的体验不断升级,并已在多个科学领域有所突破。据于璠透露,MindSpore1.7 版本也将很快发布,新版本将针对蛋白质结构预测及折叠问题,联合知名科研院所发布业界领先成果。


AI 应用的创新离不开算力的支持,在软件层面,CANN 5.0 通过软硬件深度协同优化,充分释放原创达芬奇架构的澎湃算力,在性能方面实现了 AI 模型训练 / 推理性能的大幅提升。在首站昇腾 AI 开发者创享日上,华为昇腾 AI 计算架构师宋昆鹏,针对 CANN 5.0 实现的关键突破进行了介绍。


华为昇腾 AI 计算架构师 宋昆鹏


CANN5.0 相比于 3.0 版本,在大规模集群训练及常用模型训练,实现性能翻番;在典型推理场景,性能可获得 30% 到 140% 的提升。其提升来自于许多关键技术的突破,如自动流水优化、算子深度融合、自适性梯度切分、AOE 智能计算调优等等。


针对超大模型训练,CANN5.0 依托自动分解和并行技术,使其同普通模型的处理一样简单,并解决了遥感影像大幅面、多通道的处理难题。


针对推理业务,CANN5.0 依托推理工具箱加速推理业务的开发与执行,帮助开发者实现高性能推理应用:

  • 对于模型压缩需求,CANN5.0 提供了模型压缩工具 AMCT,支持量化、通道稀疏、张量分解,降低模型的数据量和计算量,提升性能;


  • 对于模型性能调优,CANN 5.0 提供面向客户网络的昇腾调优引擎 AOE,支持算子计算过程的自动寻优,提升整网计算性能;


  • 在开发部署方面,CANN 5.0 还支持在线推理和离线推理,满足不同场景的部署需求,开发者可根据不同场景进行选择。


综上所述,昇腾 AI 通过新技术不断赋能开发者,降低开发门槛,加速 AI 与产业的深度融合。正如西安电子科技大学人工智能研究院院长、欧洲科学院外籍院士、俄罗斯自然科学院外籍院士焦李成所说:“人工智能的发展离不开核心技术的支撑,这些核心技术是‘卡脖子’的技术,没有这些技术突破,推动社会向前发展是困难的,而昇腾 AI 的使命所在,就是去求解别人解决不了的问题。”


打通 AI 产业应用落地的最后一公里


技术的发展终究要与产业进行深度融合。当今,AI 已不仅仅是一种技术,更是一种新的生产力。随着智能化的升级正在加速,在智慧城市、制造、交通、能源、金融、教育等行业,昇腾 AI 依托技术创新不断深入。昇腾 AI 开发者创享日首站选择三秦沃土西安,在西安本地昇腾 AI 有着丰富的创新驱动案例。


人工智能计算中心是城市公共算力的基础设施。基于昇腾 AI 基础软硬件平台打造的西安未来人工智能计算中心作为陕西省秦创原创新驱动平台人工智能产业创新基地,面向高校、科研和广大的企业提供普惠的 AI 算力。当前,西安未来人工智能计算中心已与 112 家高校院所和企业同步开展合作,涉及遥感、文旅、制造、电力等多个行业,为开发者提供本地算力服务。



在产业应用层面,昇腾 AI 有着广泛的应用。以安全生产为例,不管是航空航天、能源、还是化工领域,大量场景还采用着传统人力群建的方式解决安全生产当中监督的问题,这种手段只能在出现事故或者问题以后去追根溯源,并不能够做到事前预警或者现场的实时在线监管。针对生产创新企业以上的痛点,西安翔迅科技联合昇腾 AI 开发了智能监管系统,实现了事前预警,事中告警,和事后溯源。该方案实现了生产车间及危险环境下的信息采集、隐患智能识别、违规行为抓拍、安全预警、统计与决策,解决了工厂、车间合规度和管理状况难以评估、精准科学决策困难的问题。为企业评估安全生产管理状况并采用针对性的提升方法提供精准依据。


在科研创新方面,昇腾 AI 与高校结合,推动产教研融合,助力科研发展。西安电子科技大学依托西安未来人工智能计算中心,在雷达和遥感领域进行研究,打造了全球首个雷达的遥感预训练模型,发布了全球首个雷达遥感开发套件,同时也发布了全球首个雷达遥感序列记忆和全球首个雷达遥感框架的特征。此外,昇腾 AI 还与西北工业大学在语音预训练大模型技术方面有着深入的探讨与合作,并与携手陕西师范大学共建 MindSpore 研究室,推动创新,实现人工智能成果转化,达成产、学、研、用的目标。


人工智能在产业层面和科研层面正在发挥巨大的价值,但对于普通人来说,如何离人工智能更近呢?在哔哩哔哩上被誉为“野生钢铁侠”的稚晖君(彭志辉),已采用昇腾技术完成了多款机器人的开发和落地,例如,零件打磨机械臂、植树机器人等。他说:“对于人类而言造一台机器人已经不是最大的困难,更困难的事情是如何让机器拥有像人一样的智能。基于昇腾覆盖场景支撑以及提供的组件,既能满足了应用算力的需求,同时也保证了芯片、硬件的可靠性。”


共创生态,这是属于开发者最好的时代


技术是核心,产业化是目标,但若想实现持续不断的创新、发展,生态建设必不可少。为了发展生态,培养人工智能人才,2020 年起昇腾 AI 就已经启动了众智计划,截至目前,已累计有 2500 多个开发者参与其中,并构建了 2800 多个算子模型。


西安电子科技大学的硕士生田帅及其所在团队就参与到了昇腾生态共建的过程中。从接触到算子分析至今,他们共参与了 50 个算子分析,15 个算子开发,26 个昇腾 MindX 模型开发,3 个 TensorFlow 模型开发,涉及到 13 个场景的 18 个模型,部分模型以企业级解决方案的形式进行了输出,他希望这些模型最终能够真正的落地,用于解决生产生活中的问题。


华为昇腾计算业务总裁张迪煊表示,昇腾众智计划 2022 将计划投入 2 亿的激励基金,预计将推出众智开发 3200 多个算子模型,400 多个应用案例和 50 多个创新应用。


昇腾 AI 始终以开放的姿态,拥抱全国开发者,昇腾 AI 开发者创享日,正是由华为推出的面向昇腾 AI 产业全栈开发者的系列活动。通过活动的现场分享、互动讨论、沉浸式动手体验等方式,开发者可以近距离了解昇腾 AI 产业的最新软件、工具、技术和实践,更新自身知识体系、拓宽眼界、获得能力的提升。

昇腾 AI 开发者创享日上,首届昇腾 AI 创新大赛也同步正式启动。大赛将聚集来自全国开发者相互交流,一起挑战前沿的创新技术,解决难题,实现个人突破。本次大赛设立 15 个分赛区,包括应用赛道和昇思赛道,奖金池高达千万,感兴趣的开发者均可报名参与挑战。



在此前的互联网 + 创新创业大赛上,来自华南理工大学的博士陈天一,就曾基于 AI 框架昇思 MindSpore 获得了大赛的金奖。对于为何会选择昇思 MindSpore,他说:“一方面,MindSpore 建立了友好的 API,开发者好上手;另一方面,MindSpore 在数据计算、数据处理、分布式上能使开发效率大幅提升;第三,MindSpore 支持云、边缘以及端侧场景,实现了全场景开发,应用更加广泛和便捷;此外,昇腾为 MindSpore 提高了丰富的学习资源,初学者也可快速上手。”


在昇腾 AI 流行着一句话“最强的智是众智,最大的力是合力”。昇腾 AI 通过构建专家成长体系,为有志于从事昇腾 AI 领域研究创新的开发者群体提供成长的通道,并设置了相应的权益体系,对专家进行激励,鼓励专家发挥影响力和创造力。


对于想进一步了解和用好 AI 技术的开发者,昇腾 AI 还量身打造了「昇腾 AI 训练营」,通过技术赋能、上手实操活动,提供全方位硬核技术知识、免费实战体验、0 距离与昇腾资深技术专家交流的机会。如果你想学习 AI 技术,掌握前沿趋势,快速上手学会 AI,亦或是想获得个人技能提升提高职场竞争力,点击即可报名参加 「昇腾 AI 训练营」


公众号推荐:

跳进 AI 的奇妙世界,一起探索未来工作的新风貌!想要深入了解 AI 如何成为产业创新的新引擎?好奇哪些城市正成为 AI 人才的新磁场?《中国生成式 AI 开发者洞察 2024》由 InfoQ 研究中心精心打造,为你深度解锁生成式 AI 领域的最新开发者动态。无论你是资深研发者,还是对生成式 AI 充满好奇的新手,这份报告都是你不可错过的知识宝典。欢迎大家扫码关注「AI前线」公众号,回复「开发者洞察」领取。

2022-04-27 15:203252
用户头像

发布了 57 篇内容, 共 27.1 次阅读, 收获喜欢 44 次。

关注

评论

发布
暂无评论
发现更多内容

Java小白翻身教程-链表结构与编译大法(1)

爱好编程进阶

Java 程序员 后端开发

厉害了!把 HashMap 剖析的只剩渣了!

爱好编程进阶

Java 程序员 后端开发

如何在缺乏商业项目经验的前提下成功通过面试,兼说我如何甄别非商业项目经验

爱好编程进阶

Java 程序员 后端开发

AI简报-视频去交错(Deinterlance)

AIWeker

人工智能 深度学习 5月月更 去交错

java高并发系列 - 第28天:实战篇,微服务日志的伤痛

爱好编程进阶

Java 程序员 后端开发

MySQL数据库所有知识点最详细讲解,内置官方文档、个人理解

爱好编程进阶

程序员 后端开发

SpringDataJPA之关联关系

爱好编程进阶

Java 程序员 后端开发

Java必备技能之源码篇(Nginx源码研究之nginx限流模块)

爱好编程进阶

Java 程序员 后端开发

【直播预告】程序员修炼之道——如何实现敏捷开发与稳健运行的有机统一

FinClip

程序员 小程序运营

「每日一问」并发编程的特性是什么

爱好编程进阶

Java 程序员 后端开发

令人欣慰!阿里大牛把Spring微服务架构设计整理成了500多页文档,真香

爱好编程进阶

Java 程序员 后端开发

一文聊透 Netty IO 事件的编排利器 pipeline | 详解所有 IO 事件的触发时机以及传播路径

bin的技术小屋

网络编程 Netty java netty 5月月更

Java多线程学习

爱好编程进阶

Java 程序员 后端开发

SpringloC容器的依赖注入源码解析(3)

爱好编程进阶

Java 程序员 后端开发

Java初学者:String类

爱好编程进阶

程序员 后端开发

leetcode38

爱好编程进阶

程序员 后端开发

SpringBoot-MVC自动配置原理

爱好编程进阶

Java 程序员 后端开发

Tomcat介绍(三)

爱好编程进阶

程序员 后端开发

极光笔记 | 极光基于元数据驱动数据治理浅谈

极光JIGUANG

数据治理 元数据

面试突击48:死锁的排查工具有哪些?

王磊

Java java面试

JUC常见的锁

爱好编程进阶

程序员 后端开发

【解决】jsPDF之长图片生成PDF

爱好编程进阶

Java 程序员 后端开发

优化了MYSQL大量写入问题,老板奖励了1000块给我

爱好编程进阶

Java 程序员 后端开发

JAVA-使用注解实现Excel表头多语言导出

JayJay

5月月更

Java开发的凡尔赛你不懂,晒出12月工资条,直言太辛苦

爱好编程进阶

程序员 后端开发

SpringBoot整合MyBatis完整详细版

爱好编程进阶

Java 程序员 后端开发

「2021-老胡的年终总结」

爱好编程进阶

程序员 后端开发

Kafka的体系结构

爱好编程进阶

Java 程序员 后端开发

【Jvm】Jvm类加载机制

爱好编程进阶

Java 程序员 后端开发

史上最全图解JVM,京东小哥带你了解性能提升100%背后的秘密武器

爱好编程进阶

Java 程序员 后端开发

大佬总结的4条宝贵经验,送给初入职场的你,从此一飞冲天

爱好编程进阶

Java 程序员 后端开发

昇腾 AI 开发者创享日:开发者进阶路上的 buff 加成_AI&大模型_张雅文_InfoQ精选文章