在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
大数据Lambda架构概念及应用，Lambda Architecture 概念Mathan Marz的大作Big Data: Principles and best practices of scalable real-time data systems介绍了Lambda Architecture的概念，用于在大数据架构中，如何让real-time与batch job更好地结合起来，以达成对大数据的实时处理。
大数据平台中包括批量计算的Batch Layer和实时计算的Speed Layer，通过在一套平台中将批计算和流计算整合在一起。
例如使用HadoopMapReduce、Spark进行批量数据的处理，使用ApacheStorm、Spark Streaming 进行实时数据的处理。
这种架构在一定程度上解决了不同计算类型的问题，但是带来的问题是框架太多，会导致平台复杂度过高、运维成功高等。
Lambda架构的主要思想就是将大数据系统构建为多个层次，如下图所示：
我们来梳理一下他们是如何分工协助的：
首先new data作为整个数据系统的数据源头，Batch Layer作为数据的批处理层次对原始数据进行加工与处理，并且将处理的数据结果的Batch View输入到Serving Layer。(这里对应的是全量数据)
Speed Layer对于实时增加的数据进行处理，生成对增量数据计算结果的Real-time View。(这里对应的是增量数据)
最终用户查询是通过Batch View与Real-time View相结合的形式将最终结果呈现出来。
基于Lambda架构，一旦数据通过Batch layer进入到Serving layer，在Real-time view中的相应结果就不再需要了。
来源：软件架构 今日头条
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
大数据开发工程师需要学习哪些知识点？
下一篇：
大数据自学要多久？为什么零基础自学大数据那么久？
相关推荐 更多
了解前沿技术：大数据经典应用案例分享
目前国内大部分代行的企业已经将大数据充分的运用到原来的业务之中，对于哪些目前还在互联网转型甚至没有实现互联网+转型的企业来说，能否尽快布局大数据成为企业实现快速发展的核心问题。因此我们需要跟多的了解大数据到底都可以做什么。本文为大家分享了部分大数据应用成功案例。对于企业或者开发者都可以从中找到与自己实际工作业务相关的拓展思路。
9539
2019-07-22 16:28:07
什么是大数据分析？大数据分析概念
大数据分析指对规模巨大的数据进行分析。大数据特点 数据量大、速度快、类型多、价值、真实性。随着大数据的发展，大数据分析应运而生。数据分析让人们对数据产生更加优质的诠释，而具有预知意义的分析可以让分析员根据可视化分析和数据分析后的结果做出一些预测性的推断。
6199
2020-04-27 15:15:39
数据挖掘的步骤有哪些？
所谓数据挖掘就是从海量的数据中，找到隐藏在数据里有价值的信息。因为这个数据是隐式的，因此想要挖掘出来并不简单。那么，如何进行数据挖掘呢？数据挖掘的步骤有哪些呢？一般来讲，数据挖掘需要经历数据收集、数据可视化、数据预处理、准备模型输入以及训练模型五大步骤，下面让我们来详细分析一下吧！
6089
2020-08-10 15:32:38
为什么大数据技术那么火？
大数据技术的概念早在2008年被Google提出。在我国2012年提出《大数据研究和发展计划》，从此我国的开放、共享和只能的大数据时代正式开启。随着一线互联网企业在大数据领域的成熟应用，以及国内政策的支持。2016年，云计算大数据技术再次成为人们所追捧的热门技术，与此同时国内大数据人才培养体系逐渐完善，为大数据的普及应用提供源源不断的人才支撑。
4629
2020-09-15 17:36:12
大数据对教育行业重要作用有哪些？
大数据通过更好的决策、评估和增强的学习成果影响教育体系，有助于教育工作者跟踪学生的表现，并为其提供更好的学习环境。学生将不再受到静态学习计划的限制。若教育工作者广泛采用大数据系统，能够将学习过程提高到一个新水平。
10506
2021-02-04 15:16:33
