在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
数据仓库是面向主题的、集成的、不可更新的、随时间的变化而不断变化的，这些特点决定了数据仓库的系统设计不能采用同开发传统的OLTP数据库一样的设计方法。数据仓库的设计大体上可以分为以下几个步骤：概念模型设计、技术准备工作、逻辑模型设计、物理模型设计、数据仓库生成、数据仓库运行与维护。下面我们来看看Hive数仓开发的基本流程。
1.从业务系统获取数据
Sqoop 导入数据库的数据：spoop 可以在 Hive 与传统的数据库间进行数据的传递，可以将一个关系型数据库中的数据导进到 Hadoop 的HDFS中，也可以将 HDFS 的数据导进到关系型数据库中。
Flume 采集文本数据：Flume 可以将各类型的文件进行采集，存放入 hdfs中。
Ftp 文件服务器：从文件服务器上下载分析所需的源数据（增量数据、全量数据）。
2.数据存储
数据仓库分层 ods 层、dw 层、da 层：
源数据层 ODS ：直接引用外围的数据 没有统一格式化的 不会直接应用使用不利于分析。
数据仓库层 DW ：来自于 ODS 要经过 ETL 的过程 格式统一 数据规整 干净清洁。
数据应用层 DA ：要去用 DW 层数据真正的数据使用者。
数据集市：也叫数据市场，数据集市就是满足特定的部门或者用户的需求，按照多维的方式进行存储，包括定义维度、需要计算的指标、维度的层次等，生成面向决策分析需求的数据立方体。
3.配置调度系统
4.导出数据&展示
以上就是小编整理的有关大数据面试题之Hive数仓开发的基本流程，都是干货，小伙伴赶紧掌握吧！
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
揭秘 数据分析究竟在企业经营中有什么实际作用？
下一篇：
大数据对企业的意义是什么？有哪些大数据经典案例？
相关推荐 更多
大数据Hadoop中HDFS 存储的机制？
HDFS即Hadoop分布式文件系统。它是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，非常适合大规模数据集上的应用。那大数据中HDFS 存储的机制怎样的呢？
12481
2019-08-14 10:19:54
大数据Hbase面试宝典（中）
应广大同学的需求，本文继续整理了大数据HBase面试问题，希望大家阅读本篇文章以后有所收获，能够对大数据技术的理解更加深入和全面。
9335
2019-07-04 13:58:56
大数据Hbase经典面试题汇总
本文是根据市场需求和许多程序员面试的反馈而整理出来的，里面汇总了近些年来有关Hbase知识点的大数据经典面试题。希望本文能帮助求职者梳理Hbase知识点，让求职者在面试过程中胸有成竹。
9631
2019-08-05 19:10:38
大数据kafka常见面试题整理附答案
kafka一直都是大数据面试题的必考点。因此，小编整理了有关kafka知识点的大数据面试题，主要针对kafka的定义、与传统消息系统的区别、kafka集群的安装与搭建三大问题，并附上了参考答案。需要梳理kafka知识点的同学可以看看。
10949
2019-08-06 16:23:49
大数据面试要注意哪些方面？大数据面试准备三大攻略
大数据面试要注意哪些方面？一般来说，求职者要做好自我介绍、面试提问和专业考题三大方面的准备。下面是小编专门为大数据求职者整理的面试攻略，希望对大家找工作有所帮助。
7723
2019-09-08 19:36:29
