写点什么

Google 发布 Tensor2Tensor for TensorFlow

  • 2017-08-13
  • 本文字数:634 字

    阅读完需:约 2 分钟

TensorFlow(TF)社区和 Google 的 Brain 团队发布了作为TF API 重要扩展的 Tensor2Tensor

Tensor2Tensor(T2T)解决了在 TF 上训练和执行模型的模块化和可移植性问题。它将常用的深度学习模型管道抽象成一个可扩展的对象模型,并提供了 TF 训练所需要的标准 API。T2T 的目标之一是要降低模型训练管道和执行环境的重复性成本,同时减少基于 TF 现有 API 进行常见操作的工作量,这些操作原本很难在用户之间共享,它们有些只能用于解决特定的问题。

T2T 基于现有的 TF 库执行很多操作,包括模型架构、优化器、学习率衰退、scheme 和超参数。它还提供了一些预训练过的模型和样本数据集、默认的模型规范,以及超参数 modality 的控制方法。这样有助于用户重复实验、比较和交换结果,让他们专注在课题研究上,而不是把大量精力花费在编排 TF 管道环境上。

T2T 的数据集为标准的 TFRecord protobuf 文件,训练数据集可以通过用户自定义的 Problem 子类来生成,或者通过 Python 装饰器和直接函数调用的方式来生成。Problem 对象由训练时间超参数和它们的输入输出形态及数据集组成。Problem 提供了一些方法用于处理编码、文件路径、输入输出目标、超参数和默认属性值。模型的 metrics (如模型准确度)也被封装在 Problem 中。超参数集合通过装饰器注册成 Hparams 对象。

训练可以被配置成同步或异步模式。通过环境变量 TF_CONFIG 可以指定 master 服务器和参数服务器,支持 grpc 和 gpu 群组,以及计算资源的逻辑集群。

查看英文原文: Google Announces Tensor2Tensor for TensorFlow

2017-08-13 19:002584
用户头像

发布了 322 篇内容, 共 154.7 次阅读, 收获喜欢 148 次。

关注

评论

发布
暂无评论
发现更多内容

与前端训练营的日子 --Week13

SamGo

学习

2020下半年可信边缘云评估结果揭晓,2021年新一轮评估正式开启

大数据 可信云 可信边缘云

生活,在哪里都一样

熊斌

个人成长 28天写作

使用 external version 进行 Elasticsearch 并发控制

escray

elastic 七日更 28天写作 死磕Elasticsearch 60天通过Elastic认证考试

大数据场景下Volcano高效调度能力实践

华为云开发者联盟

大数据 spark Kubernetes Volcano application

字节跳动&火山引擎:企业级机器学习平台建设实践

机器学习 云计算 AI 云原生

焱融科技借公有云出海,服务国际知名卡车制造商自动驾驶业务

焱融科技

自动驾驶 分布式 存储 自动驾驶训练

架构师训练营 - 第四周作业

Mark

管理的亲和力是怎么练成的?

一笑

管理 沟通与管理 28天写作

当公元成了可以考古的年代「幻想短篇 17/28」

道伟

28天写作

年会游戏:猜数字(前端特效)

德育处主任

CSS html 大前端 js 28天写作

[编程参考-连载] Snowflake 算法原理与对应的 Python 实现

穿甲兵

Python 算法

MySQL 5.6.35 索引优化导致的死锁案例解析

vivo互联网技术

MySQL 数据库 死锁

鸿蒙开发者beta!Github标星25K+超火的Android实战项目,赶紧收藏!

欢喜学安卓

android 程序员 面试 移动开发

OpsMind 前端低代码开发平台——MPlatform

OpsMind

大前端 低代码

都在用Kafka ! 消息队列序列化怎么处理?

李尚智

Java kafka 架构 消息队列 消息中间件

多币种钱包系统开发|多币种钱包软件APP开发

系统开发

循环?还是递归?

xcbeyond

Java 算法 递归 28天写作

聊聊 Git 的三种传输协议及实现

Zoker

git 架构 DevOps

企业项目迁移go-zero全攻略(一)

万俊峰Kevin

微服务 microservice Go 语言

基于KubeEdge和Kuiper的边缘流式数据处理实践

华为云开发者联盟

spark 边缘计算 kuberedge kuiper 边缘流式数据

PolarDB-X 并行计算框架

PolarDB-X

数据库 sql 大数据

区块链钱包APP系统开发|区块链钱包软件开发

系统开发

使用 AWS CDK Python 从零开始构建 EKS 集群

郭旭东

AWS IaC AWS CDK

数字货币钱包APP系统开发|数字货币钱包软件开发

系统开发

android开发三大框架!国内一线互联网公司面试题汇总,终局之战

欢喜学安卓

android 程序员 面试 移动开发

作业2

瑾瑾呀

Why me, why now Jan 25, 2021

王泰

28天写作

数据库性能调优之始: analyze统计信息

华为云开发者联盟

数据库 sql GaussDB 语义

文章类网站前端日期的显示该如何选择时区?

IT蜗壳-Tango

七日更 服务器时区

区块链数字钱包APP系统开发|区块链数字钱包软件开发

系统开发

Google发布Tensor2Tensor for TensorFlow_AI&大模型_Dylan Raithel_InfoQ精选文章