写点什么

Tensorflow 新一轮迭代路线图:更好的 XLA 编译和分布式计算

作者:Claudio Masolo

  • 2022-11-18
    北京
  • 本文字数:878 字

    阅读完需:约 3 分钟

Tensorflow新一轮迭代路线图:更好的XLA编译和分布式计算

谷歌宣布TensorFlow 开发的下一轮迭代。TensorFlow 是由谷歌开发并在七年前开源的机器学习平台,现在是 GitHub 上 star 数量最多的项目之一。另外一个方案是Pytorch,它是由 Facebook 开发和开源的 ML 平台。未来几个TensorFlow发布版本的开发路线图将基于四个支柱,分别是快捷与扩展性、机器学习应用、部署就绪和简单性。


对于快捷和可扩展的支柱来说,开发工作将主要关注 XLA 编译,因为谷歌认为 XLA 将成为深度学习编译器的行业标准。其目标是使模型训练和推理工作流程在 CPU 和 GPU 上更快地执行。开发也将关注分布式计算方面:借助DTensor,模型将能够在多个设备上进行训练,以解锁未来超大型模型的训练和部署。此外,性能也很重要,所以谷歌将对算法性能的优化进行投资,如mixed-precisionreduced-precision计算,以提高在 GPU 和 TPU 上的速度。


对于机器学习应用支柱,谷歌将投资KerasCVKerasNLP包,这些包是为应用 CV 和 NLP 使用场景设计的,包括大量的预训练模型。该支柱也将以开发者资源为基础:对于流行的和可应用的机器学习场景添加更多的代码样例、指南和文档,以降低机器学习的进入门槛。


对于部署就绪支柱,努力的方向主要在于更便利地将模型导出到移动端、边缘端、服务后端以及 JavaScript 中。尤其是,将模型导出到TFLiteTF.js将会更易于调用。C++原生 API 正处于开发阶段,它会更易于部署使用JAX和 TensorFlow Serving 开发的模型,并使用 TFlite 和 TF.js 部署到移动端和 web 中。


NumPy API 和更便利的调试体验将是第四个支柱的核心特征,即简单性。Tensorflow 将采用 NumPy API 的数值标准,以使其更加一致和易于理解。Tensorflow 还会实现更好的调试器功能,以最大限度地减少开发人员解决问题的时间。


谷歌承诺,新的 Tensorflow 版本将 100%向后兼容,这样,工程师可以立即采用最新的版本,而不用担心现有的代码库会出现问题。


Tensorflow 新功能的预览版计划在 2023 年第二季度推出,生产版本计划在同一年推出。关于路线图和相关更新的更多信息可以参阅官方博客


原文链接:

Google’s Tensorflow Roadmap Includes Better XLA Compilation and Distributed Computing


相关阅读:

使用 TensorFlow.NET 构建神经网络

公众号推荐:

AGI 概念引发热议。那么 AGI 究竟是什么?技术架构来看又包括哪些?AI Agent 如何助力人工智能走向 AGI 时代?现阶段营销、金融、教育、零售、企服等行业场景下,AGI应用程度如何?有哪些典型应用案例了吗?以上问题的回答尽在《中国AGI市场发展研究报告 2024》,欢迎大家扫码关注「AI前线」公众号,回复「AGI」领取。

2022-11-18 08:005751

评论

发布
暂无评论
发现更多内容

架构师训练营第三周总结

lakers

极客大学架构师训练营

架构师训练营 week3 课后作业

花果山

极客大学架构师训练营

第三周作业

tothegump

极客大学架构师训练营

架構師訓練營 week7 作業

ilake

架构训练营第三周作业

李日盛

架构设计

【第七周】性能优化(一)

云龙

架构师训练营 week3 学习总结

花果山

极客大学架构师训练营

架构师训练营第 7 周作业

netspecial

极客大学架构师训练营

第三周作业

Griffenliu

架构师训练营第七周课后作业

Gosling

极客大学架构师训练营

架構師訓練營 week7 總結

ilake

架构师训练营第三周作业

lakers

极客大学架构师训练营

架构训练营第三周学习总结

一期一会

架构师训练营第 7 周学习总结

netspecial

极客大学架构师训练营

聊聊Go代码覆盖率技术与最佳实践

大卡尔

覆盖率 Go 语言

架构师训练营第 3 周学习总结

菜青虫

极客大学架构师训练营

第三周架构师训练营作业

lithium

架构作业-第七周

Nick~毓

# 第三周手写单例模式

Jack

设计模式示例

Mars

单例模式 组合模式

架构师训练营第 3 周课后练习

菜青虫

极客大学架构师训练营

第三周作业二

Jack

架构师训练营 -week07-总结

大刘

极客大学架构师训练营

学习笔记:架构师训练营-第七周

四夕晖

架构师训练营第七周作业

四夕晖

第三周学习总结

Griffenliu

架构师训练营第三周作业2

韩儿

性能优化-性能测试,系统优化,锁

garlic

极客大学架构师训练营

如何将PyTorch Lightning模型部署到生产中

计算机与AI

学习 PyTorch

架构训练营第三周作业

一期一会

设计模式

架构师训练营第三周作业1

韩儿

Tensorflow新一轮迭代路线图:更好的XLA编译和分布式计算_大数据_InfoQ精选文章