大数据应用开发流程

通常将大数据应用开发分为五个步骤:获取、存储、处理、访问以及编制,获取是指获取一些辅助数据,例如来自CRM、生产数据(ODS)的数据,并将其加载入分布式系统(如Hadoop)为下一环节处理做准备。存储是指对分布式文件系统(GFS)或NoSQL分布式存储系统、数据格式)、压缩和数据模型的决策。处理是指将采集的原始数据导入到大数据管理系统,并将其转化为可用于分析和查询的数据集。分析是指对已处理过的数据集运用各种分析查询,获得想要知道的答案和见解。编排是指自动地安排和协调各种执行获取、处理、分析的过程。大数据应用开发的流程如下图所示:
 大数据应用开发流程插图

通过点击流分析来介绍大数据应用开发流程中的每一步如何实现。在点击流分析的例子中,利用分布式文件系统(GFS)来存储数据,通过Flume 获取ingestion网站日志文件及其他辅助数据并导入到分布式系统中。同时,利用Spark 来处理数据,通过连接商业智能工具,分布式系统交互地进行数据处理查询,并利用工具将操作过程编制成单一的工作流程。

1)大数据获取

有多种获取数据并导入至大数据管理系统的方法:

①文件传输∶此方法适合一次性传输文件,对于本任务面临可靠的大规模点击流数据获取,将不适用。

②Sqoop∶ Sqoop 是Hadoop 生态系统提供的将关系型数据管理系统等外部数据导入大数据管理系统的工具。

③Kafka∶ Kafka的架构用于将大规模的日志文件可靠地从网络服务器传输到分布式系统中。

④Flume∶Flume工具和Kafka类似,也能可靠地将大量数据(如日志文件)传输至分布式系统中。Kafka和Flume都适用于获取日志数据,都可以提供可靠的、可扩展的日志数据获取。

2)大数据存储

在数据处理的每个步骤中,包括初始数据、数据变换的中间结果及最终的数据集都需要存储。由于每一个数据处理步骤的数据集都有不同的目的,选择数据存储的时候要确保数据的形式及模型和数据相匹配。

原始数据的存储是将文本格式的数据存储到分布式系统中。分布式系统具有以下一些优点:

①在序列数据处理过程中,需要通过多条记录来进行批处理转换;

②分布式系统可以高效率地通过批处理,处理大规模数据。

3)大数据处理

使用Flume获取点击流数据,网络服务器上的原始数据在分析前需要进行清洗。例如,需要移除无效和空缺的日志数据、需要删除这些重复数据。清洗完数据后,还要将数据进行统一ID编号,在处理数据前需要对点击数据做进一步的处理和分析,包括对数据以每天或每小时为单位进行汇总,这能更快地进行之后的查询操作。事实上,对数据进行预处理是为了之后能高效地进行查询操作。大数据处理需要经历以下四步:

①数据清洗清理原始数据。

②数据抽取∶从原始点击数据流中提取出需要的数据。

③数据转换∶对提取后的数据进行转换,以便之后产生处理后的数据集。

④数据存储∶存储在分布式文件系统中的数据支持高性能查询方式。

4)大数据分析

数据经过获取和处理后,将通过分析数据来获得想要了解的知识及答案。商业分析师通过以下几个工具来探索和分析数据:

①可视化(visualization)和商业智能工具(BI),例如Tableau和MicroStrategy.

②统计分析工具,例如R或Python。

③基于机器学习的高级分析,例如Mahout和Spark MLlib。

④SQL。

5)大数据编制

数据分析经常临时性的需要,需要进行自动化编制。编制点击流分析的步骤如下:

首先,在获取数据阶段,通过Flume将数据连续传输到分布式系统中。

其次, 在数据处理阶段, 因为在一天结束时终止所有连接是常见的, 故采用每天执行会话算法在开始处理工作数据流前,验证Flume写入分布式系统的当天数据。这种同步验证方式是常见的,因为通过简单地查看当前日期分区的情况,可以校验当前日期数据是否开始写入大数据管理系统。

文章来源于互联网:大数据应用开发流程

THE END
分享
二维码