写点什么

Google 发布 Tensor2Tensor for TensorFlow

  • 2017-08-13
  • 本文字数:634 字

    阅读完需:约 2 分钟

TensorFlow(TF)社区和 Google 的 Brain 团队发布了作为TF API 重要扩展的 Tensor2Tensor

Tensor2Tensor(T2T)解决了在 TF 上训练和执行模型的模块化和可移植性问题。它将常用的深度学习模型管道抽象成一个可扩展的对象模型,并提供了 TF 训练所需要的标准 API。T2T 的目标之一是要降低模型训练管道和执行环境的重复性成本,同时减少基于 TF 现有 API 进行常见操作的工作量,这些操作原本很难在用户之间共享,它们有些只能用于解决特定的问题。

T2T 基于现有的 TF 库执行很多操作,包括模型架构、优化器、学习率衰退、scheme 和超参数。它还提供了一些预训练过的模型和样本数据集、默认的模型规范,以及超参数 modality 的控制方法。这样有助于用户重复实验、比较和交换结果,让他们专注在课题研究上,而不是把大量精力花费在编排 TF 管道环境上。

T2T 的数据集为标准的 TFRecord protobuf 文件,训练数据集可以通过用户自定义的 Problem 子类来生成,或者通过 Python 装饰器和直接函数调用的方式来生成。Problem 对象由训练时间超参数和它们的输入输出形态及数据集组成。Problem 提供了一些方法用于处理编码、文件路径、输入输出目标、超参数和默认属性值。模型的 metrics (如模型准确度)也被封装在 Problem 中。超参数集合通过装饰器注册成 Hparams 对象。

训练可以被配置成同步或异步模式。通过环境变量 TF_CONFIG 可以指定 master 服务器和参数服务器,支持 grpc 和 gpu 群组,以及计算资源的逻辑集群。

查看英文原文: Google Announces Tensor2Tensor for TensorFlow

2017-08-13 19:002504
用户头像

发布了 322 篇内容, 共 151.6 次阅读, 收获喜欢 148 次。

关注

评论

发布
暂无评论
发现更多内容

虎符Hoo交易所开启全新生态布局 完成HOO首次回购

区块链前沿News

Hoo 虎符交易所 HOO回购

HTTP流量神器Goreplay核心源码详解

华为云开发者联盟

Go 流量 GOREPLAY TCP/HTTP

DevSecOps端到端的安全能力构建为什么重要

极狐GitLab

安全 DevSecOps

【网络安全】知名网络安全企业有哪些?

行云管家

网络安全 数据安全 堡垒机

百度App Objective-C/Swift 组件化混编之路(二)- 工程化

百度开发者中心

【堡垒机】堡垒机是啥?一线品牌有哪些?

行云管家

网络安全 数据安全 堡垒机 IT运维

美景本天成,妙笔偶得之——“妙笔”是怎样炼成的?

百度开发者中心

深入解析 Flink 细粒度资源管理

Apache Flink

大数据 flink 开源 编程 实时计算

大数据培训:Flink 快照分析

@零度

flink 大数据开发

【Python训练营】Python每日一练----第23天:字符计数

是Dream呀

2月月更

注意!这种笔试方式正在逐渐被取代……

ShowMeBug

笔试 在线面试

教你一个快速视频处理的神器:Python moviepy

华为云开发者联盟

Python 视频 音频 视频处理 Moviepy

剖析react核心设计原理--异步执行调度

有道技术团队

英特尔至强单月总出货量超其他厂商全年服务器CPU总出货量

科技新消息

作业7

施正威

OpenHarmony移植案例与原理:startup子系统之syspara_lite系统属性部件

华为云开发者联盟

Token OpenHarmony startup子系统 syspara_lite系统

百度App Objective-C/Swift 组件化混编之路(一)

百度开发者中心

千万级CPS的开源网络压测软件dperf

百度开发者中心

Mysql数据库表中有索引为什么还是查询慢?

慕枫技术笔记

数据库 2月月更

全方位构建信创生态体系,焱融科技完成海光 CPU 生态兼容性认证

焱融科技

云计算 分布式 高性能 文件存储 生态

官宣 | 极狐GitLab SaaS来了

极狐GitLab

关于极狐GitLab SaaS,你应该知道这些!

极狐GitLab

DevSecOps SaaS平台

用UML来描述领域模型吧

蜜糖的代码注释

UML 领域建模 2月月更

在线YAML转XML工具

入门小站

工具

2021年第4季度中国网络零售B2C市场交易规模达23593.9亿元

易观分析

B2C 网络零售

人才短缺、成本高昂,制造企业智能化转型路径如何破局?

百度开发者中心

刷屏的“1620”有多难?3D+AI技术带你一秒看懂

百度开发者中心

跨项目度量,CTO、PMO们的好帮手

阿里云云效

阿里云 云原生 敏捷开发 CTO 研发度量

为冬奥加油——利用贝塞尔曲线实现冰墩墩

战场小包

前端 canvas 冬奥会 2月月更

直播预告|一线专家邀你共话:数据科学赋能多元应用场景价值

MobTech袤博科技

算法 数据 商业

深入浅出特征工程 – 基于 OpenMLDB 的实践指南(上)

第四范式开发者社区

机器学习 数据库 大数据 OpenMLDB

Google发布Tensor2Tensor for TensorFlow_AI&大模型_Dylan Raithel_InfoQ精选文章