当前位置:99696大富豪棋牌 > 最新资讯 > 客户正在使用Azure数据仓库获取更多见解,联机分

客户正在使用Azure数据仓库获取更多见解,联机分

文章作者:最新资讯 上传时间:2019-10-09

微软云计算平台Azure最近宣布针对3项数据服务的更新,包含推出正式版的数据湖存储服务Data Lake Storage Gen2和数据完全托管服务Data Explorer,此外,还推出预览版的混合数据集成服务Data Factory,期望提供用户性价比高又安全的云计算数据分析服务。

(此文章同时发表在本人微信公众号“dotNET每日精华文章”,欢迎右边二维码来关注。)

99696大富豪棋牌 1

作者:史少锋 (shaofeng@kyligence.io),Kyligence 高级架构师

99696大富豪棋牌 2

题记:Build2016开完很久了,现在才来回顾下,就说说那些和大数据相关的Session,也因为笔者最近在深入研究这方面的东西。

转载于 原创: Mary Branscombe 云计算D1net

编辑:Sammi

数据湖存储服务Data Lake Storage Gen2适用于巨量数据分析,结合了Azure非结构化存储服务Blob Storage的可扩展性、安全模型和丰富的功能于一身,再加上为分析所设计的高性能的文件系统,还能与Hadoop分布式文件系统兼容,让用户选择云计算数据湖服务时,不需要在成本和性能中取舍。

3月30日到4月1日的Build2016 微软开发者大会的内容引爆了整个.NET开发社区,大家的热情都被Xamarin免费开源、Bash on Windows等点燃了。不过在这些热点背后,我还是比较关注和自己最近研究的大数据领域相关的Session。下面我就整理一些我个人认为值得关注的:

传统上,数据仓库收集来自组织业务的所有结构化数据,因此组织可以将其集成到单个数据模型中,运行分析并获取商业智能,无论是用于开发新产品还是向客户营销现有服务。这曾经被称为“大数据”,但现在所有组织都拥有来自电子商务网站、物联网设备和传感器等来源的大量数据,因此现代数据仓库需要处理结构化、非结构化和流媒体数据,并提供实时数据分析以及商业智能和报告。

自上世纪以来,联机分析处理 (OLAP) 技术已被企业广泛采用;企业运用 OLAP 分析其业务数据,生成报表,从而帮助业务人员制定商务决策。在当今的大数据时代,OLAP 越来越重要,且面临诸多挑战;而云计算使这种情况更加复杂化。本文介绍了大数据智能科技公司 Kyligence 如何在云上利用 Alluxio 提升其OLAP引擎的性能。

99696大富豪棋牌 3

1,Building Big Data Applications using Spark and Hadoop

Spark现在在大数据方面的应用已经在抢占Hadoop的风头了,国内的互联网公司也已经有很多这方面的案例和分享。或许你正为快速搭建Spark集群伤脑筋,不过我们知道微软很早就在Azure中提供了Hadoop的服务——HDInsight,这不为了让大家也能轻易的使用Spark,HDInsight服务也开始支持Spark了。这个Session就讲述了如何利用Azure的Spark服务来快速搭建自己的大数据应用。

回放地址在:

越来越多的组织在云中实现这一目标,以实现更高的速度和更低的成本。微软Azure公司副总裁Julia White指出,越来越多的数据可能已经存在于云中,以及组织想要使用这些数据的服务。White说,“随着数据越来越多地迁移到云端,无论是来自SaaS应用程序还是只迁移到云端的应用程序;运营数据就在云端,客户在询问‘为什么我要将运营数据从云端迁回到内部部署数据中心进行分析?它没有意义。’”他指出,尽管组织内部仍然有大量的数据,而且随着边缘计算的发展,还会有更多的数据,但许多客户还是会将部分或全部数据转移到云平台上,这取决于法规遵从性问题。

背景

图片来源:微软

2,Building Analytics for the Modern Business

随着大数据技术的发展,商业智能分析也进入了新阶段:数据实时的创建出来、这些数据由多种类型组成、数据量巨大、用户期望更高、希望硬件和存储成本更低、能够移动化访问。从而如何构建这样的数据解决方案就成为挑战。Azure通过提供数据仓库服务(Data Warehouse as a Service)来帮助大家开发快速和低成本的开发这样的解决方案。

Session回放地址在:

White指出,“每个企业都在研究人工智能。他们很快意识到分析是其基础,他们开始问‘我的分析和我的数据仓库的状态是什么?’,而且往往不够好。”

Kyligence 公司 [1] 成立于 2016 年,是一家专注于大数据分析领域的科技公司。 Kyligence 的产品基于 Apache Kylin 的开源技术。

微软指出,自家数据湖存储服务其中一项主要目标,即是要与Apache生态系统统兼容,为了做到这点,微软开发Azure Blob文件系统驱动程序,该驱动程序正式成为Apache Hadoop和Spark的一部分,并且附于许多Hadoop的商业版本中。

3,U-SQL: 0-60 for Big Data with .NET

U-SQL是微软在Azure Data Lake(数据湖)中引入的一种基于SQL的新语言,它可以使用C#语言的语法来扩展大家熟悉的SQL语法,从而让大数据处理更加容易和有意思。这个Session会讲述U-SQL背后的概念,并通过一些例子来展示如何使用它查询非结构化、半结构化和结构化数据。

回放地址在:

Power BI的普及也推动了更多的微软客户进行云计算分析。White说,“当他们有了这些强大的数据可视化功能后,他们开始质疑自己的分析能力——‘我想知道数据可视化背后发生了什么:我喜欢Power BI,我希望我的分析更有趣。”

Apache Kylin [2] 是一个开源 OLAP 引擎,可为 Hadoop 上的 PB 级数据场景提供交互式分析(Apache Hadoop 是对大型数据集进行分布式存储和处理的开源软件框架)。Apache Kylin 使用 Hadoop 的并行计算技术,将超大数据集构建到 OLAP Cube 中,通过 ANSI-SQL 查询接口提供亚秒级低延迟响应。

为了进一步提升Data Lake Storage Gen2的分析性能,微软用阶层式命名空间,收集文件集整合整理成阶层式目录和嵌套子目录,此种命名空间对巨量资量分析架构相当重要,由于Hive或是Spark等工具经常将输出写入暂时位置,并在作业结束时重命名该位置,若没有阶层式命名空间,重命名所花费的时间通常会比分析流程本身更长,因此,阶层式命名空间因为需要较少的运算执行,能够加速job执行并减低成本。

4,Azure Data Lake and Azure Data Warehouse: Applying Modern Practices to Your App

这个Session是关于Azure新数据服务Azure Data Lake和Azure Data Warehouse的概览介绍。两个服务都可用来存储、处理和分析巨量数据。本Session会深入讲解每个服务,并带领大家了解集成大规模数据分析服务到应用的常见模式。

回放地址在:

更复杂的客户希望分析他们自己的Office Graph数据(组织可以使用Azure Data Factory将其复制到Azure Data Lake)或利用Microsoft、Adobe和SAP(基于Azure Data构建的)之间的开放数据计划数据湖并将最终整合来自更多软件供应商的数据。White说,“Azure Data Lake与Azure数据仓库紧密结合,客户正在使用Azure数据仓库获取更多见解,并在其上构建现代数据仓库。”

图 1. Apache Kylin 架构

而Data Explorer是一个快速且具有高扩展性的完全托管数据分析服务,能够针对大量的串流数据进行即时分析,在不需要修改数据结构的情况下,一秒内能够查询10亿笔记录,此外,该服务能与微软云计算其他服务相连,像是Data Lake Storage、SQL Data Warehouse、Power BI。为了提升速度和简化操作,Data Explorer由两个分别的服务组成:Engine服务和数据管理服务,这两项服务都在Azure中,以运算节点的集群形式布署。

5,A Developers Guide to Azure SQL Data Warehouse

这个Session其实是一个关于Data Warehouse的入门介绍了。介绍了数据分布、表设计和查询优化的基础知识,从而为商业智能解决方案提供最佳的性能。

回放地址在:

采用哪种数据服务?

Kyligence 的旗舰产品是 Kyligence Analytics Platform (KAP)。该产品基于 Apache Kylin,并提供了多种高级企业级功能。采用 KAP 后,用户可使用行业标准的数据仓库和商务智能 (BI) 运维方法,访问 Hadoop 上的商业智能功能。在此过程中,KAP 可以简化分析,提供自助式服务,与常用 BI 工具无缝交互。所有这一切无需编程即可实现。

99696大富豪棋牌 4

6,A Lap Around R Tools for Visual Studio

作为宇宙最强IDE,在微软收购R语言的开发商之后,自然也提供了R语言的开发工具。通过使用R Tools for Visual Studio,让你在喜爱的VS里面同样可以对数据进行分析,创建预测模型,快速、交互式的、酷炫的可视化数据,还可以利用统计学和机器学习领域的一些函数库。这个Session就对这一工具进行了一个完整的讲解。

回放地址在:

微软公司拥有一系列看起来有点像数据仓库的云计算服务,最明显的是Azure SQL数据仓库或微软经常称之为的“DW”,但也有Azure数据工厂、Azure数据湖、Azure数据库、Power BI和Azure机器学习,以及更多打包服务,如Dynamics 365中的人工智能销售工具。

图 2. Kyligence Analytics Platform

图片来源:微软

7,Advanced Analytics with R and SQL

在微软收购R开发商之后,R语言就被融入到SQL Server当中,所以把R和SQL配合使用也就是自然而然的事情了。这个Session讲述了如何充分发挥这两个语言各自的优势,来实现高级数据分析的场景。

回放地址在:

理解它们的方法不仅仅是关注它们提供的工具,还要关注它们所服务的用户以及它们如何协同工作。这是因为企业通常拥有的数据在多个数据存储中分散,创建现代数据仓库的第一步是整合所有这些孤岛。微软Azure上的这些不同数据存储越多,连接就越容易——这也是微软Azure提供如此多不同数据服务的原因之一。White表示,“另一方面,客户并不是在寻找可以做任何事情的单一工具,有一系列细微差别的选择,如果真的要挑选,并优化自己的场景使用的工具。”

云端面临的挑战

99696大富豪棋牌,数据管理服务负责消化多种不同形态的原始数据,并且管理数据清理、执行失败和backpressure等任务,还能通过自动索引和压缩机制快速处理数据。而Engine服务则是负责处理输入的原始数据和用户的查询,通过自动扩展(Auto Scaling)和数据分割(data sharding)来达到高性能的目标。

8,Data Integration in the Cloud and Building Data Analytics Pipelines

上面提到了这么多关于数据的服务(Azure Data Factory, Azure Data Lake Store and Azure Data Lake Analytics, SQL Data Warehouse),那么如何把这些东西乃至本地部署的Hadoop集群集成起来,形成一个数据分析的管道呢?这个Session就能为你解开答案。

回放地址:

Azure DW适用于处理策划数据的数据工程师。这可能是来自SQL Server数据库的数据,但它也可能是来自这些数据工程师使用Databricks或Spark和.NET从Azure HDInsight等源准备数据的管道构建的数据。

KAP 利用 Hadoop MapReduce 和 Spark 将源数据构建到 OLAP Cube 中;OLAP Cube 存储在 KyStorage 中。KyStorage 是基于分布式文件系统的并针对OLAP场景进行优化的列式存储引擎。在收到 SQL 查询时,KAP 将查询转换成对 KyStorage 的执行计划,并通过 Spark executor 来执行。

最后,微软这次的更新还推出混合数据集成服务Data Factory预览版,Data Factory服务是用来将数据移动和转换工作自动化的服务,内置超过80个与结构化、半结构化和非结构化数据源的链接器。除此之外,该服务还提供数据工作流程可视化工具Mapping Data Flow,提供用户在设计、构建和管理数据转换的过程有可视化的体验,不需要学习Spark或是对分布式基础架构有深入的了解。

9,Intelligent Systems: Advanced Analytics in Action for Retail, Healthcare and Manufacturing

再高级的数据分析技术,最终都要回到实际应用场景中,那么这个Session会给你展示在零售业、医疗卫生和制造业方面的实际商业智能系统的案例分享。

回放地址:

Azure数据工厂是数据工程师进行数据ETL的另一项服务。组织可以将其视为云计算层级ETL工具,组织可以通过拖放界面(实际上是Logic Apps)或使用Python、Java或.NET SDK(如果组织更喜欢编写代码来执行)来使用数据转换和管理数据管道的不同步骤,通过Databricks或HDInsight、Azure Data Lake或Power BI。

在本地部署的集群中,HDFS 是 Hadoop 和 Spark 最广泛采用的文件系统。由于数据存储在本地磁盘,且操作系统会对文件块做缓存,因此 HDFS 的访问性能很出色;另外,HDFS的文件副本默认为 3,提供了相当高的可靠性。

本文由99696大富豪棋牌发布于最新资讯,转载请注明出处:客户正在使用Azure数据仓库获取更多见解,联机分

关键词: