分析Nginx访问日志需要学什么？需要掌握Spark SQL核心知识，分析Nginx访问日志掌握SparkSQL数据分析能力，SparkSQL调优方式及其核心思想。通过思维导图的方式对学习课程所涉及的知识。
1、Spark SQL介绍
Spark SQL在Spark生态圈的地位和作用，让大家对Spark SQL 的总体知识框架有个大概的轮廓。
2、认识Spark SQL
Spark SQL运行原理，DataFrame、DataSet和RDD的相互转化和使用场景，并讲解Parquet的使用。
2.1 Spark SQL和Hive
2.2 Spark SQL运行原理
2.3 DataFrame、DataSet和RDD的联系
2.4 Parquet列式存储
3、 DataFrame/DataSet常用操作
DataFrame的过滤，分组，排序操作和列值的增删改，以及对Join的优化。
3.1 一般操作：查找和过滤
3.2 聚合操作：groupBy和agg
3.3 单表操作：列的增删改与空值处理
3.4 多表操作：join
4、自定义函数和开窗函数
讲解自定义函数的使用，以及开窗函数在分组求TopN中的应用。
4.1 自定义函数：UDF
4.2 自定义聚合函数：UDAF
4.3 开窗函数：row_number()
5、Nginx访问日志分析完整实战
使用Spark SQL分析Nginx访问日志的项目。包括了数据清洗，存储，监控和优化。
5.1 项目场景介绍及分析
5.2 第一次数据清洗：格式化原始日志数据
5.3 第二次数据清洗：解析数据并按天以Parquet格式存储
5.4 将分析结果批量写入MySql
5.5 性能监控及优化
日志服务查询分析能力是完整SQL92，支持各种数理统计与计算。目前，日志服务支持保存查询语句为快速查询，对查询设置触发周期（间隔），并对执行结果设定判断条件并且告警。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
2020年大数据技术发展趋势如何？
下一篇：
2020年大数据发展前景如何？
相关推荐 更多
数据挖掘、数据分析以及大数据之间的区别有哪些？
进入大数据时代，和数据相关的名词都被人们津津乐道。那数据挖掘、数据分析以及大数据之间有哪些区别呢？数据挖掘是发现信息以及收集数据的过程；数据分析则是将现有数据进行归纳以及分析得出相应结论的过程。而大数据则更加关注数据本身，重要表现就是数据量大，数据的多样性等等。
7644
2019-06-20 18:11:53
2020年大数据发展前景如何？
在2020年将看到越来越多的组织利用对象存储从非结构化数据创建结构化/标记数据，从而允许使用元数据来理解人工智能和机器工作负载生成数据。当数据变得足够大时，就会施加类似引力的力，使其难以移动，同时还可以吸引更多数据。
3683
2020-02-05 14:40:18
云计算是什么？通俗解释云计算的概念
如今，我们生活在云无所不在的时代，云计算也代表了互联网发展的重要趋势之一。虽然云计算与我们的生活和工作早已息息相关，可还是有很多人连云计算是什么都不知道。为了解决大家对于云计算的疑问，本文将用最通俗易懂的语言向大家解释云计算的相关概念、特点、核心技术以及应用。下面一起来看看吧~
7478
2020-05-19 15:31:42
深度学习工程师必须掌握的神经网络架构
深度学习工程师必须掌握的神经网络架构，神经网络架构分为四大类：标准网络、递归网络、卷积网络、自动编码器。神经网络可以用来可视化的数据包含两部分：每一层神经元的输出，它们对应输入数据在网络中的不同表示每个神经元所学习到的权重，刻画着各个神经元的行为，即如何对输入进行响应的。
2951
2020-07-01 17:34:28
常用的数据分析方法及案例讲解
常用的数据分析方法有描述统计、信度分析、相关分析、回归分析、聚类分析等。本文将结合实际案例，为大家一一讲解这些数据分析的方法。如果你想了解如何做数据分析，就接着看下去吧~
2761
2020-08-13 16:38:58
热门文章
- 和行业大咖1V1免费聊IT，这是头一次！
- 人工智能如何入门学习？前景如何
- 未来互联网人才还稀缺吗？哪些技术方向热门？
- 智能汽车用到哪些技术？
- 产品可行性分析需要考虑几个方面？
- 日常工作中程序员最讨厌哪些工作事项？
- 博学谷狂野大数据学习多长时间？
- IT互联网程序员的涨薪秘籍是什么?
- Java多线程遇到死锁三招彻底解决
- Python 开发人员经常遇哪些挑战？如何解决？ 查看更多
扫描二维码，了解更多信息
