在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
分析Nginx访问日志需要学什么？需要掌握Spark SQL核心知识，分析Nginx访问日志掌握SparkSQL数据分析能力，SparkSQL调优方式及其核心思想。通过思维导图的方式对学习课程所涉及的知识。
1、Spark SQL介绍
Spark SQL在Spark生态圈的地位和作用，让大家对Spark SQL 的总体知识框架有个大概的轮廓。
2、认识Spark SQL
Spark SQL运行原理，DataFrame、DataSet和RDD的相互转化和使用场景，并讲解Parquet的使用。
2.1 Spark SQL和Hive
2.2 Spark SQL运行原理
2.3 DataFrame、DataSet和RDD的联系
2.4 Parquet列式存储
3、 DataFrame/DataSet常用操作
DataFrame的过滤，分组，排序操作和列值的增删改，以及对Join的优化。
3.1 一般操作：查找和过滤
3.2 聚合操作：groupBy和agg
3.3 单表操作：列的增删改与空值处理
3.4 多表操作：join
4、自定义函数和开窗函数
讲解自定义函数的使用，以及开窗函数在分组求TopN中的应用。
4.1 自定义函数：UDF
4.2 自定义聚合函数：UDAF
4.3 开窗函数：row_number()
5、Nginx访问日志分析完整实战
使用Spark SQL分析Nginx访问日志的项目。包括了数据清洗，存储，监控和优化。
5.1 项目场景介绍及分析
5.2 第一次数据清洗：格式化原始日志数据
5.3 第二次数据清洗：解析数据并按天以Parquet格式存储
5.4 将分析结果批量写入MySql
5.5 性能监控及优化
日志服务查询分析能力是完整SQL92，支持各种数理统计与计算。目前，日志服务支持保存查询语句为快速查询，对查询设置触发周期（间隔），并对执行结果设定判断条件并且告警。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
2020年大数据技术发展趋势如何？
下一篇：
2020年大数据发展前景如何？
相关推荐 更多
仅会使用Excel能做数据分析师吗？
数据分析师就是在各行各业中与数据打交道的重要岗位。为企业提供数据采集、数据处理、数据分析并制作相关业务报告、提供业务决策、管理企业数据资产等服务。那仅会使用Excel，能做数据分析师吗？
10709
2019-08-08 18:06:48
有大数据分析师资格证书吗？
大数据分析师是在大数据技术不断发展的过程中延伸出来的新的技术岗位。其数据分析方式与传统的数据分析师类似，但是在涉及到数据挖掘、预处理、可视化等环节时，就需要更多大数据相关的技术了。大数据分析师资格正式也就是数据分析师证书。因此是有大数据分析师资格证书的，下面就为大家详细介绍大数据分析师资格证书的相关情况。
22166
2019-09-10 18:37:42
为什么要学Kylin开发教程？学了有什么用？
为什么要学Kylin开发教程？学了有什么用？首先我们要明白，Kylin就是为了解决海量数据的数据分析需求而存在的。如今正是大数据的时代，因而想要完全掌握大数据技术，学习Kylin开发就显得尤为重要。下面小编将为大家详细介绍学习Kylin开发教程的原因和相关课程，感兴趣的同学一起看下去吧！
8501
2019-11-12 20:20:54
大数据规模化应用是什么？
大数据规模化应用即规模化应用大数据和高级分析，制定价值驱动的大数据实施路线图，端到端大数据用例试点，夯实支撑体系，加速大数据规模化落地，解决国内银行在大数据规模化方面存在的问题。
10117
2020-01-07 15:52:27
大数据课程有哪些新增内容和升级更新？
距离传智播客在2012年发布的第一版大数据课程，已经整整八年了。在这期间，大数据行业发生了翻天覆地的变化，为了不断适应行业的发展和市场变更，大数据学科随时准备着让课程保持同步更新迭代，始终奔跑在行业前沿。下面我们一起来看看大数据课程有哪些新增内容和升级更新。
8138
2020-07-16 11:21:10
