写点什么

Heroku Dataclips 2.0——数据 Gist

  • 2013-02-04
  • 本文字数:2194 字

    阅读完需:约 7 分钟

Heroku Postgres

释放数据的价值

借助于最近上线的 Dataclips 2.0 的新特性,Heroku 在其路上又迈出了重要的一步:

“释放数据的价值”。就像 GitHub Gists 支持相关代码片段的共享与协作一样,Dataclips 也可以对你的数据做同样的事情。

时至今日,人们已经达成共识:单个应用的价值有限,而不断消费与使用的数据才真正具有价值。开放这些数据不是一件易事,要考虑到开放性以及对不断增长的服务的支持,这些服务会混搭现有的数据源来创建出更大的内容,结果就是 1+1>2。

Heroku Postgres 团队花了近一年的时间来整理 Dataclips 的架构与实现。InfoQ 有幸采访到了 Heroku Craig Kerstiens 持久化小组的产品经理。本文概要介绍了 Dataclips 的诸多方面与特性,他们不仅对于开发者很有价值,对于业务与决策者来说也是非常重要的。

Craig 说到:

组织的数据几乎是最有价值的资产。但遗憾的是,这些数据通常会被放到一个数据库中,只能由少数有权限的人通过很少的几种方式来访问。很多时候,报告都是手工生成的,并被粘贴到邮件中;他们构建的仪表盘很快就会过时,根本就没法回答人们的问题。

这个想法让 Heroku 重新开始构建 Dataclips,提供易于安装和使用的产品,并且着眼于未来的众多应用。

示例——卫生检查分数SFO

为了让大家对Dataclips 有个感性的了解,我们展示一个由Code for America 开发的应用,这个示例表示旧金山餐厅与食品公司的卫生检查分数。Code for America 搜集并聚合了一些公开数据,Dataclips 是分享这些数据的一种手段。

比如说,“最近的业务分数”:

你可以通过 dataclips.heroku.com 的帐号或是 Postgres 管理页面(提供恰当的 SQL 语句)来直接创建 Dataclips。唯一的限制在于一个 Dataclips 只能返回 30,000 行,超出的数据会被截断。

Dataclips 可以用在嵌入的 iframe 中,就像上面这个示例一样,也可以用作独立的 HTML 页面。我们可以通过上面这个示例看到 SQL、版本以及 Dataclips 的修订历史,可以通过邮件、Twitter 或是 Google docs 进行分享。通过向 URL 追加文件扩展 CSV、XLS(Excel)或是 JSON,你可以使用这些格式来下载 Dataclips。

JSON

复制代码
https://dataclips.heroku.com/aniexnddtuqpmtjhmuvdgrqprjns.json
{"fields":["name","address","city","score"],
"values":[
["MINI BAR SF, LLC","837 DIVISADERO ST ","San Francisco","100"],
["AT&T - MAIN KITCHEN/SUITE LEVEL [145084]","24 WILLIE MAYS PLAZA 4.10.03 ","San Francisco","100"],
["CYBELLE'S PIZZA","719 14TH ST ","San Francisco","100"],
...
]}

CSV——Comma Separated Values

复制代码
https://dataclips.heroku.com/aniexnddtuqpmtjhmuvdgrqprjns.csv
name,address,city,score
"MINI BAR SF, LLC",837 DIVISADERO ST ,San Francisco,100
AT&T - MAIN KITCHEN/SUITE LEVEL [145084],24 WILLIE MAYS PLAZA 4.10.03 ,San Francisco,100
CYBELLE'S PIZZA,719 14TH ST ,San Francisco,100
PACIFIC UNION CLUB,1000 CALIFORNIA ST ,San Francisco,100
...

其他格式也会在未来得到支持,比如说 XML 与 YAML。但诸如 google-data-table 格式是非常适合于与各种 Google 图表进行整合的。目前,我们可以通过 ImportData(URL)函数将 CSV 格式导入到 Google Calc 电子表格中,每小时刷新一次。

修订与版本

类似于 Gists,Dataclips 也支持版本和修订。每次查询发生变化时,新的 Dataclips 修订就会创建出来(也会列在 dataclip-page 上),对于每个变化的结果(由于数据发生了变化),新的版本也会产生。可以通过向 URL 追加?revision=1&version=5 查询参数来访问不同的修订与版本。类似于 Gists,Dataclips 也可以创建分支,然后独立使用。

实现

Dataclips 的实现是相当直接的。Dataclips 是通过运行在 heroku 基础设施之上的 Ruby 应用来提供服务的,它会定期(目前大约是一分钟一次)在只读事务中运行配置好的查询并获取结果。脚本会监控运行时与查询,并动态调整频率。查询的结果会存储在版本化的表中以供快速访问,它独立于原来的数据库。其他格式在 S3 中创建并缓存下来。HTML 视图并不会缓存,而是即时渲染。

使用与反馈

Craig 就如何使用 Dataclips 给出了很多用例。Dataclips 是自更新的,存储的版本化信息可由决策者使用。对于开发者来说,共享数据变得易如反掌。Dataclips 可用作稳定的 API 来编写原型,甚至是完整的应用。一般来说,他们提供了向混搭与其他使用场景公开数据的能力。另一个有趣的用例是人们可以通过 Dataclips 学习 SQL,只需做个分支,然后编辑 SQL 即可返回结果。

Dataclips 的路线图有很多维度。比如说支持更多的格式或是为 HTML 视图提供样式等显而易见的计划。开启其他的关系数据库很简单,将 Dataclips 集成到 NoSQL 插件提供者中将会非常有趣,当然肯定也会很复杂。另一个有趣的方向是向 Dataclips 添加社交特性,如评论、评级等,这最终会创造出一个 Dataclips 市场(有免费与付费版本)。自定义 URI 尚未有规划。更加频繁地使用 Dataclips 也意味着需要有相应的 API 以编程的方式来创建他们。

到目前为止,来自用户的反馈还是非常积极的,Dataclips 的一些有趣的用例有欺骗检测可视化、用户注册,以及作为仪表盘的数据源等。

对于商业化,Heroku Postgres 还计划了额外一些特性,比如说只能由Heroku 用户才能访问Dataclips。免费版本的安全性通过不可猜测的URI 来保证。

查看英文原文: Heroku Dataclips 2.0 - The Gist of Data

2013-02-04 00:111581
用户头像

发布了 88 篇内容, 共 268.3 次阅读, 收获喜欢 8 次。

关注

评论

发布
暂无评论
发现更多内容

Android 音视频 - EGL 源码解析以及 C++ 实现

声网

android 音视频 OpenGL ES

从区块链到元宇宙 Metaverse

devpoint

区块链 元宇宙 10月月更

再谈字节小程序

字节跳动终端技术

小程序 字节跳动 火山引擎

我的新下属都怀念老领导,我该把他们全部开除吗?

石云升

职场经验 10月月更

HarmonyOS Connect伙伴峰会,车载智慧屏S50正式发布

科技汇

端智能研发核心套件:MNN 工作台深度剖析

阿里巴巴终端技术

深度学习 ios android 移动端 端智能

[架构实战营] 模块一作业

张祥

架构实战营

喜大普奔!BFE 控制平面正式开源发布!

百度开发者中心

负载均衡 云原生 Go 语言 开源技术

【得物技术】时间切片的实践与应用

得物技术

架构 性能优化 大前端 性能 业务

华为云企业级Redis:助力VMALL打造先进特征平台

华为云数据库小助手

GaussDB GaussDB ( for Redis ) 华为云数据库

自定义View:resolveSizeAndState方法

Changing Lin

10月月更

揭秘!探访百度AI反诈第一线

脑极体

数字化转型请从一个清晰的定义开始 | DBT What

王和全

人工智能 大数据 数字化转型 数字化 数字经济

利用基数排序LSD方法给等长字符串按字典序排序

Regan Yue

算法 10月月更

EMQ 在2021电力人工智能大会:稳健数据基础设施架构支撑电力数字化发展

EMQ映云科技

人工智能 物联网 电力 mqtt

以“有用”为圆心:重新认识智慧城市的“高手之路”

脑极体

官方线索|FATE开源社区1024程序员节福利

石云升

1024我在现场 10月月更

GrowingIO 数据安全实践

GrowingIO技术专栏

隐私保护 数据安全 隐私安全 数据安全法

硝烟弥漫的安全战场,只等一位超级英雄登场

白洞计划

北鲲云如何为企业提供混合云解决方案

北鲲云

面试了一个34岁的Java大佬,感觉到他背过很多面试题,年薪50w面试基本都能答得上

Java java面试 java架构

024云原生之软件部署策略

穿过生命散发芬芳

云原生 10月月更

打造价值交付体系,企业 CIO 如何应对 DevOps 命题?

BoCloud博云

DevOps 云原生

开源应用中心 | KodBox快捷高效的私有云在线文档管理系统

开源技术

3面蚂蚁,一路过关斩将 成功拿到offer定级P6,大厂面试雀食有点难!

进击的王小二

java面试 大厂面试 阿里巴巴面经总结 java

来,肝了这份网络安全学习计划无敌

网络安全学海

网络安全 信息安全 渗透测试 WEB安全 学习安全

RTE2021 实时互联网大会参会感想

轻口味

1024我在现场 10月月更

面试官:如何防止 Java 源码被反编译?我竟然答不上来。。

Java 编程 程序员 架构 面试

从芯片公司到VR,字节跳动为了元宇宙加码布局

海比研究院

声网发布融合CDN直播等系列新品,拓宽RTE产品边界

ToB行业头条

声网

欢庆1024程序员节,开源茁壮成长

Zilliz

创业 开源 程序员 成长

Heroku Dataclips 2.0——数据Gist_DevOps & 平台工程_Michael Hunger_InfoQ精选文章