写点什么

Hadoop + SQL Server + Excel = 大数据分析

  • 2013-01-31
  • 本文字数:1876 字

    阅读完需:约 6 分钟

几个月前,微软宣布了自己的用于大数据管理、分析和挖掘的 Hadoop 发布版 HDInsight 。InfoQ 联系到了 SQL Server 的高级产品营销经理 Val Fontama,希望进一步了解微软的企业级大数据到底如何。

关于企业中数据集规模的增长趋势:

数据的海洋一直在增长。有预测表明业务信息存储量每年都会加倍。例如,Gartner 发现全世界的信息量每年在以最少 59% 的速率增长,而其中大约 85% 的数据是“非结构化”的——比如视频剪辑、RFID 标签和网站日志。这些非结构化数据用传统的数据管理系统来处理并不容易。此外,在很多场景下,客户在实时收集新数据时发现数据增长速率还在增加。

客户将需要一个与业务及所收集数据的发展相适应的现代数据平台。对全球企业而言,大数据为从所收集数据(不管是结构化的还是非结构化的)中找到新颖可行的观点创造了大量商机。因为到最后,大数据的最大前景就是推动来自数据的、更智能的决策。而智能决策就要收集来自各类数据的观点。

HDInsight 是微软应对大数据的解决方案:

微软希望通过支持 Windows Server 和 Windows Azure 的 Hadoop 发布版,提供可移植、性能优越、安全且易部署等特性,促进 Hadoop 的应用。微软还将通过在 HDInsight 中集成 Active Directory 来增强 Hadoop 的安全性。此举将使 IT 部门能够将同样的一致性安全策略用于包括 Hadoop 集群在内的所有 IT 资产。

此外,通过与 System Center 集成,HDInsight 简化了 Hadoop 的管理,并支持 IT 部门在同一面板上管理 Hadoop 集群、SQL Server 数据库和应用程序。

基于 Hadoop 的 Windows 平台应用程序集成了如 Excel、Power View 和 PowerPivot 等微软的商业智能(BI)工具,可以很容易地分析大量的业务信息,从而创造独特的、差异化的商业价值。

为实现与 Apache Hadoop 百分之百的兼容性,微软的 Hadoop 发布版 HDInsight 是基于 Hortonworks Data Platform(HDP)构建的。因此,客户能够将其 MapReduce 作业从自己的 Windows 服务器移到云中,甚至是移到运行在 Linux 上的 Apache Hadoop 发布版中。目前还没有其他厂商提供该功能。此外,在 Windows Server 和 Azure 平台上提供这些功能,也使客户能够利用熟悉的工具(如 Excel、PowerPivot for Excel 和 Power View)轻松地从数据中抽取可行的观点。

SQL Server 如何适应这种解决方案:

在帮助企业处理大数据集方面,SQL Server 2012 与 SQL Server 2008 最重要的区别之一就是与 Hadoop 的兼容性。Hadoop 允许用户处理大量的结构化和非结构化数据并快速从中获得观点,而且,因为 Hadoop 是开源的,成本较低。Hadoop 与 SQL Server 2012 兼容的特性是微软与 Hortonworks 合作开发的,微软最近也宣布 Microsoft HDInsight Server 和 Windows Azure HDInsight Service 已经可以预览,这都使用户能够使用微软开发的 Hadoop 连接器来从数据中获得最好的观点。通过 Hive ODBC Driver 把 SQL Server 连接到 Hadoop,客户现在可以使用如 PowerPivot 和 Power View 等微软的 BI 工具在 SQL Server 2012 中分析各种类型的数据,包括非结构化数据。此外,利用 SQL Server 2012 中新的 Data Quality Services,客户可以通过将原始数据转换为适于建模的可靠且一致的数据来提高数据质量。

微软最近宣布了 Office 2013 中的一些新特性,并介绍了开发者应该如何利用这些特性来构建构建应用和处理数据的服务。不足为奇,微软自己在 Excel 正是利用这一点来提供大数据服务的:

Excel 是微软平台上支持大数据分析的主要客户端工具之一。在 Excel 2013 中,我们的主要工具是数据建模工具 PowerPivot 和数据可视化工具 Power View,而且恰好它们都构建进来了,无需额外下载。这支持各个层次的用户使用熟悉的 Excel 界面进行自助式 BI 分析。

通过 Excel 的 Hive 插件,我们的 HDInsight 服务很容易集成 Office 2013 中的 BI 工具,使用户能够用熟悉的工具轻松地分析海量的结构化或非结构化数据。

除了 Excel 之外,微软还提供了其他的大数据交互工具:BI 专业人员可以使用 BI Developer Studio 来设计 OLAP cube 或在 SQL Server Analysis Services 中设计可伸缩的 PowerPivot 模型。开发者可以继续使用 Visual Studio 来开发和测试用.NET 编写的 MapReduce 程序。最后,IT 运维人员可以使用他们目前所使用的 System Center 来管理 HDInsight 上的 Hadoop 集群。

总的说来,微软的策略看起来是要为客户使用大数据提供一种最简单的方法——扩展现有工具(如 SQL Server 和 Office 等),使之能够无缝处理新数据类型,从而允许各公司在处理新业务时能利用原有投资。

查看英文原文 Hadoop + SQL Server + Excel = Big Data Analytics

2013-01-31 04:5810425
用户头像
臧秀涛 略懂技术的运营同学。

发布了 300 篇内容, 共 143.7 次阅读, 收获喜欢 35 次。

关注

评论

发布
暂无评论
发现更多内容

learn go with tests 学习笔记(四)依赖注入

Geek_4z9ami

Go 语言

500行代码写一个俄罗斯方块游戏

程序员生活志

MySQL事物-学习笔记

Edison

MySQL 数据库 数据库事务

字符串匹配 - Sunday算法

Geek_4z9ami

数据结构与算法 字符串匹配算法

learn go with tests 学习笔记(一) hello world

Geek_4z9ami

Go 语言

learn go with tests 学习笔记(二) 数组与切片

Geek_4z9ami

Go 语言

疫情之年 下半年区块链应用落地会加速么?

CECBC

区块链 场景应用落地

nested exception is java.lang.IllegalStateException: refreshAfterWrite requires a LoadingCache异常解决

谙忆

人生修炼秘籍

xiaoboey

时间管理 人生修炼 知行合一 熵增 时间复利

learn go with tests 学习笔记(三) 指针和错误

Geek_4z9ami

Go 语言

learn go with tests 学习笔记(五)并发

Geek_4z9ami

Go 语言

关于微服务架构思考

Axe

Python爬取微信公众号文章保存到数据库

wjchenge

零代码/无代码 vs 低代码 如何分类?如何区别?到底有什么不同?分析超过20款零代码低代码产品

代码制造者

编程 低代码 行业资讯 零代码

用户体验(UX)设计≠用户界面(UI)设计

刘华Kenneth

敏捷 设计 UX 用户体验

RocketMQ源码解析-开篇

Edison

RocketMQ 中间件

企业网站搭建避坑指南

姜奋斗

网站 新手指南 企业 网站搭建 避坑

我是如何参与硅谷顶级开源项目并赚得2500美金

阿水

硅谷 Minio

消息疯狂堆积!RocketMQ出Bug了?

Edison

RocketMQ 中间件

数据采集能力受限?企业数字化运营如何迈出第1步

易观大数据

learn go with tests 学习笔记(六)进程同步

Geek_4z9ami

Go 语言

《effective-go》 学习笔记

Geek_4z9ami

Go 语言

踩坑记 | Flutter升级影响了NestedScrollView?

哈利迪

android

Web 开发必须掌握的三个技术:Token、Cookie、Session

华为云开发者联盟

HTTP Token web开发 session Cookie

Netty之旅:你想要的NIO知识点,这里都有!

一枝花算不算浪漫

Netty nio

政策加持迎来区块链技术应用“红利期”

CECBC

“啰嗦”是成事唯一正确的方法

霍太稳@极客邦科技

团队管理 个人成长 团队协作 沟通

以区块链为基础 通证经济是下一代互联网的数字经济

CECBC

区块链 落地应用

learn go with tests 学习笔记(七)反射

Geek_4z9ami

反射 Go 语言

话题讨论 | 特朗普正式封禁微信,iPhone 和微信二选一?

InfoQ写作社区官方

写作平台 话题讨论

Executor看不懂?教你如何盘它

Edison

后端 线程池

Hadoop + SQL Server + Excel = 大数据分析_微软_Roopesh Shenoy_InfoQ精选文章