在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
大数据Lambda架构概念及应用，Lambda Architecture 概念Mathan Marz的大作Big Data: Principles and best practices of scalable real-time data systems介绍了Lambda Architecture的概念，用于在大数据架构中，如何让real-time与batch job更好地结合起来，以达成对大数据的实时处理。
大数据平台中包括批量计算的Batch Layer和实时计算的Speed Layer，通过在一套平台中将批计算和流计算整合在一起。
例如使用HadoopMapReduce、Spark进行批量数据的处理，使用ApacheStorm、Spark Streaming 进行实时数据的处理。
这种架构在一定程度上解决了不同计算类型的问题，但是带来的问题是框架太多，会导致平台复杂度过高、运维成功高等。
Lambda架构的主要思想就是将大数据系统构建为多个层次，如下图所示：
我们来梳理一下他们是如何分工协助的：
首先new data作为整个数据系统的数据源头，Batch Layer作为数据的批处理层次对原始数据进行加工与处理，并且将处理的数据结果的Batch View输入到Serving Layer。(这里对应的是全量数据)
Speed Layer对于实时增加的数据进行处理，生成对增量数据计算结果的Real-time View。(这里对应的是增量数据)
最终用户查询是通过Batch View与Real-time View相结合的形式将最终结果呈现出来。
基于Lambda架构，一旦数据通过Batch layer进入到Serving layer，在Real-time view中的相应结果就不再需要了。
来源：软件架构 今日头条
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
大数据开发工程师需要学习哪些知识点？
下一篇：
大数据自学要多久？为什么零基础自学大数据那么久？
相关推荐 更多
分析Nginx访问日志需要学什么？
需要掌握Spark SQL核心知识，分析Nginx访问日志掌握SparkSQL数据分析能力，SparkSQL调优方式及其核心思想。通过思维导图的方式对学习课程所涉及的知识。
6341
2020-02-04 14:13:42
大数据在疫情中的应用场景分析
随着信息化数字时代的发展，大数据技术的应用场景越来越多，并且在我们的日常工作生活中发挥着越来越重要的作用。尤其是在这场声势浩大的新冠肺炎疫情中，大数据技术得到了充分的应用。具体的应用场景主要体现在三个方面：建立人口流动数据系统，追踪疫情最新进展以及共享公共信息平台。下面我们来看看具体的应用的分析。
22675
2020-02-24 11:05:01
Flink电商项目实战介绍
随着Flink技术的飞速发展，Flink在实时处理数据方面体现出越来越显著的优势。Flink作为一个针对流数据和批数据的分布式处理引擎，其应用领域越来越广泛。本文将向大家介绍Flink电商项目实战教程，感兴趣的话就一起接着看下去吧~
7010
2020-05-11 14:58:14
ZooKeeper的节点类型有哪些？
ZooKeeper是个分布式开放源码的分布式应用程序协调服务，是Hadoop和Hbase的重要组件。ZooKeeper服务端支持7种节点类型分别是：持久、持久顺序、临时、临时顺序、容器、持久 TTL、持久顺序 TTL。
6346
2021-05-28 15:12:05
大数据Storm分布式实时处理框架是什么？用在哪儿？
大数据Storm分布式实时处理框架是什么？用在哪儿？Storm是Twitter开源的分布式实时大数据处理框架，是一个免费的开源分布式实时计算系统，使用起来比较简单可以与任何编程语言一起使用。Apache Storm有很多用例如实时分析、在线机器学习、连续计算、分布式RPC、ETL等。
5420
2022-03-01 14:13:44
