【AICon】探索RAG 技术在实际应用中遇到的挑战及应对策略!AICon精华内容已上线73%>>> 了解详情
写点什么

Azure Machine Learning 的新特性

  • 2018-05-22
  • 本文字数:1349 字

    阅读完需:约 4 分钟

看新闻很累?看技术新闻更累?试试下载 InfoQ 手机客户端,每天上下班路上听新闻,有趣还有料!

在 Microsoft Build 2018 大会上,Matt Winkler 做演讲介绍了 Azure Machine Learing 的新特性。

Azure Machine Learning(ML)平台构建在硬件平台层之上,支持用户自由选择任何工具和框架。如果在 Python 上运行,用户可在工具和框架中以三种方式实现服务,即对话式、预训练和定制 AI。

Azure ML 这是一种完全受控的平台,支持用户大规模地构建、部署和管理模型。它提供数据准备、模型的构建和训练,以及模型的部署支持敏捷开发,降低了一个模型从理念到实际可部署间的延迟。这一点非常必要的,因为用户并不能保证他所提出的模型会获得成功,或是可以发现模式。使用 Azure ML,用户可以在任何地方部署 AI,包括在云上、在本地、在没有因特网连接的远端设备,甚至拖拉机、传感器或相机等边缘(Edge)设备上。用户也可通过 Azure ML 获得遥测数据,帮助优化模型。

Azure ML 的新特性涉及多个方面,包括简化开发、单容器部署以加速开发 - 测试循环、使用 Azure Notebook 提供的 SDK 实现控制,以及帮助人们着手解决一些特定的问题。

为解决上述问题,Microsoft 当前在预览版中加入了多项功能。包括,使用硬件加速模型的 Brainware 项目,提供视觉、文本和预测功能的 Azure ML 软件包、ONNX 模型库、对 Azure Notebook 改进的 SDK 更新、超参数调优服务、添加了 ACI/AKS 的批量 AI 计算目标,以及物联网部署上的改进等。

Azure ML 软件包实现了当前框架中尚未提供的一些常用的视觉、文本和预测任务。它以 Python 软件包提供,可部署在 Azure ML 上。用户可以使用缺省功能,或对训练过程加以相当程度上的控制。

硬件加速模型使用FPGA ,在性能上获得了显著的改进。它支持实时打分,这使得用户可在新数据到来时进行增量训练。例如,用户可对单个图像在1.8 微秒内给出打分。这样,用户可以低代价在云规模上获得业界性能领先的实时AI 能力。

ONNX 模型库提供了一系列已开发的模型,用户可以直接使用这些模型,避免了在没有必要的情况下构建模型上的时间和开销。进而,用户可以跳过模型开发中的构建和训练步骤。ONNX 支持通用交换格式,用户可在各处使用模型,例如在应用内部,或是部署到服务中。

SDK 改进对提升了 Azure Notebook。SDK 可安装在任何可运行 Python 的地方,这使得计算目标易于配置,易于在笔记本上或大规模集群上运行训练作业。SDK 中集成了基于 Microsoft 企业内部经验构建的超参数调优。用户也可以自行注册并部署模型。

超参数调优支持对适用的模型给出争取的配置。用户可以定义所需搜索的参数,以及搜索的方法(是基于格点,或是随机查找等)。它还提供了提前终止策略,以供用户在发现所用的模型正在变坏时使用。这使得用户避免在毫无结果的查找上产生浪费。Microsoft 已发现,该特性在规模上可为用户降低约 50%的计算费用。进而,用户用同样的代价可以搜索更大的空间。

在实现视觉硬件加速开发包上,Microsoft 已与 Qualcomm 建立合作伙伴关系。用户可以部署经 Azure ML 训练的模型。Microsoft 还提供了用于物联网边缘设备的 Azure AI 工具包。其设计适用场景包括零售收银机处理收据、农田中工作的拖拉机等。在这些场景中,并不具有 IT 架构。

查看英文原文: What’s New in Azure Machine Learning?

公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2018-05-22 19:001319
用户头像

发布了 391 篇内容, 共 126.0 次阅读, 收获喜欢 255 次。

关注

评论

发布
暂无评论
发现更多内容

一文读懂数据云的「对象体系」

奇点云

操作系统 奇点云 对象体系

生态共建丨YashanDB与构力科技完成兼容互认证

YashanDB

利用 XGBoost 进行时间序列预测

3D建模设计

机器学习

用友与10家数科公司签约,共建行业数智化新生态

用友BIP

数科公司

“小巨人”企业数字化解决方案:LeaRun低代码开发平台

力软低代码开发平台

火山引擎携手NVIDIA 开源亿级多媒体处理框架BMF

科技热闻

屏幕分辨率修改工具 SwitchResX for Mac激活最新版

mac大玩家j

Mac 软件 屏幕分辨率调整 屏幕分辨率工具

Java开发中非常好用的工具

这我可不懂

Java java工具

YashanDB获强制性国家标准GB 18030-2022最高级别认证

YashanDB

英特尔发布PresentMon全新工具与GPU Busy全新指标,为发烧友与玩家带来绝佳体验

最新动态

最新 Turbo Boost Switcher Pro 补丁安装资源

胖墩儿不胖y

Mac 软件 系统优化

第二期YCA认证培训圆满结束!

YashanDB

精进语言模型:探索LLM Training微调与奖励模型技术的新途径

汀丶人工智能

自然语言处理 强化学习 深度强化学习 LLM模型

低代码解放生产力,助力企业高效发展

这我可不懂

软件开发 低代码 数字化转型

单集群1万节点!腾讯云大数据平台TBDS获得分布式批处理平台万节点能力认证

腾讯云大数据

TBDS

速来围观数据库发展新的打开方式!

YashanDB

数据库

使用 OpenAI GPT 模型的最佳实践

3D建模设计

人工智能 openai GPT

【严重】Smartbi windowUnloading 限制绕过导致远程代码执行 (MPS-e2z8-wdi6)

墨菲安全

网络安全 漏洞

开箱即用!教你如何正确使用华为云CodeArts Pipeline!

华为云PaaS服务小智

DevOps 软件开发 华为云

服务中断、系统宕机...GitLab崩了怎么办?

树上有只程序猿

DevOps gitlab

如何将应用程序发布到 App Store

雪奈椰子

ios iOS Developer

业务系统架构实践总结

阿里技术

系统架构 实践 业务

如何使用图形数据库构建实时推荐引擎

3D建模设计

数据分析 数据工程

使用大型语言模型进行自主视觉信息搜索

3D建模设计

LLM 大语言模型

演讲分享 | 从“淄博模式”,看面向未来的数据库创新和发展方向

YashanDB

华为音乐花式奏响七夕乐章,“空间·古典主义”音乐会空降宁波

最新动态

校源行丨开放原子开源基金会赴北华大学走访交流

开放原子开源基金会

开源

ARTS 打卡第 2 周

小样

ARTS 打卡计划

生态共建 | 5-6月,YashanDB与14款产品完成兼容互认证

YashanDB

机器学习会取代数据科学吗?

3D建模设计

机器学习

当高并发来袭:StarRocks Query Cache 一招搞定!

StarRocks

数据库 后端 高并发 StarRocks 湖仓一体

Azure Machine Learning的新特性_微软_Michael Stiefel_InfoQ精选文章