写点什么

Precog:大数据分析即服务

  • 2012-10-11
  • 本文字数:1153 字

    阅读完需:约 4 分钟

近日, Precog 宣布了他们的大数据仓储和分析服务,该服务负责处理数据的抓取、变换分析和可视化等过程,以及服务运行所基于的基础架构。不过,这一服务也通过 RESTful API 预留了各种开放的访问点,支持开发者和数据科学家控制整个过程。

Precog 可以从各种数据源抓取输入数据,其中包括 SQL 数据库、Amazon S3、Hadoop、MongoDB、客户端 Web 应用和后端服务器等。 RESTful API 支持开发者从外部源(如 Twitter 或 Facebook)、CSV 文件或移动设备抓取数据。抓取的数据保存到一个叫做 PrecogDB 的定制数据库中,而且我们还可以使用人群统计、态度、位置和其他信息使数据更为丰富。

之后,数据可以通过多种手段加以分析,比如通过一个 API ,或是利用客户库(JavaScript,PHP),或者使用 Labcoat (一种支持使用 Quirrel 这种声明式查询语言进行数据分析的 IDE)。开发者可以创建自己的数据抓取、强化和分析模块,甚至可以将这些模块拿到市场上销售。

Precog 能够将整个过程运行在不同的云供应商之上——如 Amazon EC2 和 SoftLayer——以便增加系统的弹性和正常运行时间。

在 InfoQ 进行的一次采访中,Precog 的 CEO 和创始人 John A. De Goes 解释到:

“(系统的)架构与数据库分析有些相似,比如都包括面向列的存储;但是其区别在于,前者支持完全异构的、非规范化的数据,通过对 Quirrel 的支持,相对于使用 RDBMS 进行分析,使用这种类似于“面向大数据的 R”的语言,你能够很方便地执行很多更为高级的计算。”

PrecogDB 是该平台的核心,它是一种用 Scala 编写的、面向列的数据库,运行在 JVM 上,它也为数据捕获和分析进行了优化。据 De Goes 介绍,PrecogDB 中可以保存“测量数据,如点击、购买、尺寸、Twitter 数据,或是收集自其他各种活动的日志信息”。他还补充道,“Precog 尚不能存储大块的非结构化数据,尽管在生物信息学和其他一些领域的应用的确有这种需求。不过这一功能已经在我们的路线图上了。”

至于 Quirrel——这种由 Precog 实现的统计查询语言,De Goes 谈到:“Quirrel 很多方面都与 R 编程语言比较相似。像 R 一样,Quirrel 也是为高级的分析与统计而设计的。但与 R 不同的是,Quirrel 并非图灵完备的语言,它是纯声明式的,利用它更容易高效地在大规模集群的机器中分发 Quirrel 查询(这也使 Quirrel 比 R 更容易学习)。”

PrecogDB 有一些“用于常见的分析与统计计算的内置例程”,它还提供了一个“细粒度的、基于能力的安全模型,支持来自移动设备或 Web 的应用程序通过 RESTAPI 直接访问其功能”。

查看英文原文 Precog: Big Data Analytics as a Service


感谢侯伯薇对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ )或者腾讯微博( @InfoQ )关注我们,并与我们的编辑和其他读者朋友交流。

2012-10-11 01:514512
用户头像
臧秀涛 略懂技术的运营同学。

发布了 300 篇内容, 共 146.2 次阅读, 收获喜欢 35 次。

关注

评论

发布
暂无评论
发现更多内容

ARTS 打卡 Week 05

teoking

SpringBatch系列之Remote-Chunking

稻草鸟人

大数据 Spring Boot SpringBatch 批量任务

大型互联网架构与集群技术

cxy

大型互联网应用系统使用技术方案和手段

如何学 Java,我说点不太一样的学习方式

四猿外

学习 程序员 个人成长

架构师训练营第四周课后作业

竹森先生

极客时间 极客大学架构师训练营

深入理解Kubernetes的Service:回归本源的场景需求

韩超

Kubernetes 微服务 服务

动态规划算法重点在于找上一个的公式,Google Code Review,John 易筋 ARTS 打卡 Week 06

John(易筋)

ARTS 打卡计划

奈学:数据湖和数据仓库的区别有哪些?

古月木易

数据仓库 数据湖

【week04】作业

chengjing

奈学:数据湖有哪些缺点?

古月木易

数据湖

极客大学架构师训练营第四周学习总结

竹森先生

极客大学 极客大学架构师训练营

MySQL 实战 45 讲笔记(2)-查询优化

程序员老王

MySQL

奈学:数据湖和数据仓库的区别有哪些?

奈学教育

数据仓库 数据湖

读闲书自由和财务自由

池建强

读书 财务自由

谈谈架构和微服务<一>

Gabriel

架构 微服务 领域驱动设计 软件设计

如何成为一名合格的 C/C++ 开发者?

张小方

c++ Linux 编程语言 后端 架构设计

架构师训练营第 4 周作业

在野

极客大学架构师训练营

互联网架构作业

qihuajun

我写了一本操作系统词典送给你

苹果看辽宁体育

操作系统 计算机

奈学:数据湖有哪些缺点?

奈学教育

数据湖

典型的大型互联网应用系统

Z冰红茶

游戏夜读 | 游戏关卡设计师

game1night

实现简单的"纤程"

Near

嗨,兄弟,别担心,这年头谁还没有一点焦虑!

攀岩飞鱼

程序员 管理 成长 个人感想

如何进行高效学习

淡蓝色

深度思考 方法论 感悟 随笔杂谈

第四章总结

轻松上手promise原理(2):then的简单实现

前端小帅

聊一聊程序员如何增加收入

张小方

程序员 互联网 面试 副业赚钱 薪资

架构演化

满山李子

架构师训练营第 4 周——学习总结

在野

极客大学架构师训练营

Precog:大数据分析即服务_DevOps & 平台工程_Abel Avram_InfoQ精选文章