日志分析 进入大数据Spark SQL的世界

本文总结了SparkSQL的基础知识,包括其发展历程、架构优势及为何比Hive on Spark更快。通过实战项目,介绍了如何利用SparkSQL进行数据加载、处理及输出,并探讨了SparkSQL相较于其他工具的优点。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

以慕课网日志分析为例 进入大数据 Spark SQL 的世界


这篇blog是这个项目的总结,因为从别的地方学习过Hadoop、Spark的一些基础知识了,所以这部分略过。针对自身的不足,我抛出一些问题,自己思考。
  1. 什么是大数据?大数据公司的现存模式?
  2. Hadoop生态圈长什么样子?
  3. spark为什么这么快?
  4. spark vs mapreduce
  5. 自己编译一套spark的源码来使用
  6. spark sql的发展历史是什么样子的?
  7. spark sql的架构(有助于理解spark sql为什么比hive on spark快)
  8. 为什么thriftserver/beeline比spark-shell要好一些?
  9. RDD VS DF VS DS(经典了)
  10. Extrenal Data Source API:spark是计算框架,但我们怎么去获取数据源呢?
    (数据的源头,一切的开始)
  11. spark sql都给了我们哪些好处?(愿景)
  12. 实战项目:梳理业务–》按一套固定的编程规范,编写业务代码–》解决问题
    (涉及到了哪些知识点?有没有多种解决问题的办法?有没有更好的性能优化?)
  13. spark sql 必会:加载数据—》处理数据—》输出数据
    在这里插入图片描述

链接:https://pan.baidu.com/s/1qiprDWLfumnyX48sRURiuQ
提取码:zqqy

评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值