在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
分析Nginx访问日志需要学什么？需要掌握Spark SQL核心知识，分析Nginx访问日志掌握SparkSQL数据分析能力，SparkSQL调优方式及其核心思想。通过思维导图的方式对学习课程所涉及的知识。
1、Spark SQL介绍
Spark SQL在Spark生态圈的地位和作用，让大家对Spark SQL 的总体知识框架有个大概的轮廓。
2、认识Spark SQL
Spark SQL运行原理，DataFrame、DataSet和RDD的相互转化和使用场景，并讲解Parquet的使用。
2.1 Spark SQL和Hive
2.2 Spark SQL运行原理
2.3 DataFrame、DataSet和RDD的联系
2.4 Parquet列式存储
3、 DataFrame/DataSet常用操作
DataFrame的过滤，分组，排序操作和列值的增删改，以及对Join的优化。
3.1 一般操作：查找和过滤
3.2 聚合操作：groupBy和agg
3.3 单表操作：列的增删改与空值处理
3.4 多表操作：join
4、自定义函数和开窗函数
讲解自定义函数的使用，以及开窗函数在分组求TopN中的应用。
4.1 自定义函数：UDF
4.2 自定义聚合函数：UDAF
4.3 开窗函数：row_number()
5、Nginx访问日志分析完整实战
使用Spark SQL分析Nginx访问日志的项目。包括了数据清洗，存储，监控和优化。
5.1 项目场景介绍及分析
5.2 第一次数据清洗：格式化原始日志数据
5.3 第二次数据清洗：解析数据并按天以Parquet格式存储
5.4 将分析结果批量写入MySql
5.5 性能监控及优化
日志服务查询分析能力是完整SQL92，支持各种数理统计与计算。目前，日志服务支持保存查询语句为快速查询，对查询设置触发周期（间隔），并对执行结果设定判断条件并且告警。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
2020年大数据技术发展趋势如何？
下一篇：
2020年大数据发展前景如何？
相关推荐 更多
大数据可视化相关工具介绍
大数据的实际应用中，有一个重要的环节，就是实现数据的可视化。这是数据分析结论导向的重要体现。你可以通过可视化的数据形式明晰的了解各种数据的分布以及占比，例如大数据招聘市场的分布、目前行业岗位薪资与学历的关系、大数据热门技术的应用比例等等。本文就和大家介绍一些大数据可视化的使用工具
10559
2019-08-09 18:04:01
经典数据分析应用介绍
大数据时代的到来，促使互联网更加高速的发展。也为互联网创造了更多的岗位。我们耳熟能详的就是大数据在电商平台、搜索平台的应用，通过大数据分析，为我们提供了更加便利的服务。那还有哪些景点的数据分析应用案例呢？
9799
2019-07-01 19:04:24
用户画像是什么？可以用来做什么？
用户画像是什么？可以用来做什么？一般是指通过可收集到的用户信息，分析出比较标签化的用户模型。在当下这个大数据时代，用户画像可以提供更精准的个性化服务给用户。因此用户画像的成本虽然高，但各大企业公司还是在不遗余力的去做，就足以瞥见用户画像的强大功能。
14242
2019-10-24 11:13:14
云计算、AI大数据技术在智慧交通方面的应用
云计算、AI大数据技术在智慧交通方面的应用，缓解拥堵，智能信号控制系统及时调整信号时长；加强监控范围有效查处违章行为，打击违法车辆降低交通事故发生；协同指挥防止后续交通堵塞；对路况及时发布，引导司乘人员错开高峰路段就近调整路线等。
12057
2020-02-21 10:34:00
数据分析的基本步骤是什么？
相信大家对数据分析已经不陌生了，那数据分析的基本步骤是什么，大家都知道吗？一般来讲，典型的数据分析包含六个步骤，分别是明确思路、收集数据、处理数据、分析数据、展现数据以及撰写报告，下面我们具体讲一讲数据分析的六大步骤。
13106
2020-06-02 11:20:17
