写点什么

Google 发布 Tensor2Tensor for TensorFlow

  • 2017-08-13
  • 本文字数:634 字

    阅读完需:约 2 分钟

TensorFlow(TF)社区和 Google 的 Brain 团队发布了作为TF API 重要扩展的 Tensor2Tensor

Tensor2Tensor(T2T)解决了在 TF 上训练和执行模型的模块化和可移植性问题。它将常用的深度学习模型管道抽象成一个可扩展的对象模型,并提供了 TF 训练所需要的标准 API。T2T 的目标之一是要降低模型训练管道和执行环境的重复性成本,同时减少基于 TF 现有 API 进行常见操作的工作量,这些操作原本很难在用户之间共享,它们有些只能用于解决特定的问题。

T2T 基于现有的 TF 库执行很多操作,包括模型架构、优化器、学习率衰退、scheme 和超参数。它还提供了一些预训练过的模型和样本数据集、默认的模型规范,以及超参数 modality 的控制方法。这样有助于用户重复实验、比较和交换结果,让他们专注在课题研究上,而不是把大量精力花费在编排 TF 管道环境上。

T2T 的数据集为标准的 TFRecord protobuf 文件,训练数据集可以通过用户自定义的 Problem 子类来生成,或者通过 Python 装饰器和直接函数调用的方式来生成。Problem 对象由训练时间超参数和它们的输入输出形态及数据集组成。Problem 提供了一些方法用于处理编码、文件路径、输入输出目标、超参数和默认属性值。模型的 metrics (如模型准确度)也被封装在 Problem 中。超参数集合通过装饰器注册成 Hparams 对象。

训练可以被配置成同步或异步模式。通过环境变量 TF_CONFIG 可以指定 master 服务器和参数服务器,支持 grpc 和 gpu 群组,以及计算资源的逻辑集群。

查看英文原文: Google Announces Tensor2Tensor for TensorFlow

2017-08-13 19:001952
用户头像

发布了 321 篇内容, 共 126.1 次阅读, 收获喜欢 137 次。

关注

评论

发布
暂无评论
发现更多内容

中国掀起数字化浪潮的4个显著变化

优秀

数字化转型 数字化

DDD实战(12-终篇):DDD下微服务的“分分合合”及一个倡议

深清秋

DDD 软件架构 8月月更

头脑风暴:回文子串

HelloWorld杰少

算法 LeetCode 数据结构, 8月月更

灵魂拷问:你精神内耗了吗?由TA来治愈吧

脑极体

leetcode 697. Degree of an Array 数组的度(简单)

okokabcd

LeetCode 数据结构与算法

redis持久化

想要飞的猪

程序员过中秋

楠羽

中秋节

汽车电子控制系统的构成

不脱发的程序猿

汽车电子 嵌入式软件 汽车电子控制系统

加密世界的福音,Galaxy Project上领取专属Zebec OAT

石头财经

华为云助力论坛服务

科技云未来

天翼云通过2022可信云安全首批云工作负载保护平台评估

Geek_2d6073

加密世界的福音,Galaxy Project上领取专属Zebec OAT

鳄鱼视界

Kubernetes MetalLB 作为 Load Balancer下

CTO技术共享

Kubernetes薅多云羊毛怎么部署

CTO技术共享

C++文件读写操作分析文本文件与二进制文件

CtrlX

c c++ 面向对象 8月月更 opp

网站建设流程

源字节1号

网站开发

IPv6过渡技术的推进策略

穿过生命散发芬芳

ipv6 8月月更

详解AUTOSAR:什么是AUTOSAR?(理论篇—1)

不脱发的程序猿

汽车电子 嵌入式开发 AUTOSAR

架构实战营模块五作业

zhihai.tu

企业应用现代化实用教程 | ​IT架构师必读的DevOps落地行动指南

York

DevOps 云原生 数字化转型 一体化架构 应用现代化

[教你做小游戏] 用86行代码写一个联机五子棋WebSocket后端

HullQin

CSS JavaScript html 前端 8月月更

监控告警怎么搭建比较合理?B站SRE实践总结了4大关键步骤

TakinTalks稳定性社区

高可用 稳定性 SRE 监控告警 大厂实践

每日一R「13」数据结构(四)闭包

Samson

学习笔记 8月月更 ​Rust

【算法实践】| 一步步手把手带你实现寻找最小公倍数

迷彩

算法 算法实践 8月月更 最小公倍数

陈大好:持续创造小而美的产品丨独立开发者 x 开放麦

声网

人工智能

操作系统迁移实战之Dubbo 2.7.5 移植

openEuler

操作系统 openEuler 搬迁 Dubbo服务 CentOS 停服

云原生2.0构建数字化

科技云未来

华为云数字化

科技云未来

Tomcat 的安装与环境配置

楠羽

开源 #开源

详解CAN总线:高速CAN总线和低速CAN总线的特性

不脱发的程序猿

汽车电子 ISO 11898 高速CAN总线 低速CAN总线 CAN总线

Kubernetes MetalLB 作为 Load Balancer上

CTO技术共享

Google发布Tensor2Tensor for TensorFlow_AI_Dylan Raithel_InfoQ精选文章