|
admin 发表于 2021-6-9 16:12:09
26072
101
Python3实战Spark大数据分析及调度) `% H, K1 Z- K5 ], F% F
Python3实战Spark大数据分析及调度
b8 u* \/ C' W1 }第1章 课程介绍
) k1 \8 m4 A2 |1 ^" ^& M课程介绍/ \+ e7 y z# ?
第2章 实战环境搭建) Q: V0 G8 L; j( a( J+ I
工欲善其事必先利其器,本章讲述JDK、Scala、Hadoop、MA危en、Python3以及Spark源码编译及部署5 C) Q# k, _9 ], R
第3章 Spark Core核心RDD8 b- N! Z$ Y- | ^' k
本章详细讲解RDD是什么以及特忄生(面试常考)、Spark中两个核心类SparkContext和SparkConf、pyspark启动脚本分析、RDD的创建方式以及如何使用IDE开发Python Spark应用程序并提交到服务器上运行
) c9 _4 k" H( ]9 t第4章 Spark Core RDD编程" ?* x4 ?+ b J6 ?4 j1 K2 |
本章将针对RDD中常用的算子进行详细案例讲解,并进行综合案例实战
/ b, J# [, j5 f. k第5章 Spark运行模式
3 B. `% i {5 Z3 ~7 Z' w本章将介绍Spark的几种运行模式,需要重点掌握on YARN模式0 a( L- H! p7 g$ O" R3 G6 N
第6章 Spark Core进阶
5 B' q! d' ?" q! G本章将介绍Spark中的核心术语、运行架构、并对比Spark和MapReduce的概念区分、存储策略及选择方式、宽窄依赖及Shuffle% [* h# C/ _3 d, J/ p: f) @5 B b
第7章 Spark Core调优
6 s6 k& ~3 {7 ~2 W0 J1 B本章将从Spark作业忄生能指标、序列化、内存管理、广播变量及数据本地化这几个方面来介绍Spark作业的调优
7 Q6 }4 D. c; Z8 D- W: Z第8章 Spark SQL# a Y7 O8 h: f3 r( [. h
本章将讲解Spark SQL的架构、DataFrame&Dataset、以及如何使用Python API来对DataFrame进行编程
8 C0 F! \& n( y+ B7 i4 H( s) T9 \: _/ H" \第9章 Spark Streaming
6 G, \9 A; }$ A% T. D本章将讲解Spark Streaming的核心概念、执行原理、以及如何Python API来对Spark Streaming进行编程& E) M2 A6 o) Q+ o+ W+ H
第10章 Azkaban基础篇
! g% i4 R0 _: M, R7 H( H* Z7 d本章将讲解Azkaban的特忄生、架构、运行模式、源码编译及部署、快速入门& y) Z; p: u2 B' i6 @
第11章 Azkaban实战篇
* Q7 Z- ^# v* i; K5 M( F" ?3 G: G' a. J本章将讲解如何使用Azkaban来完成HDFS、MapReduce、Hive作业的调度、定时作业调度以及邮件告警1 L) u ~& u) L) D" ~8 g x+ k, `
第12章 Azkaban进阶篇. r7 E6 X9 }- C* N/ R8 D& ?& U4 z
本章将讲解Azkaban在生产上的部署、权限管理、Ajax API、Plugin、以及短信和调度框架的二次开发3 m" B, n- E, ~; o& s5 J! W
第13章 项目实战
1 [- q/ K9 e$ G3 j+ x# M) h( V3 ^本章将讲解在构建大数据平台的技术选型、集群升级资源评估,并使用Spark对气象数据进行分析,讲分析结果写入ES,并通过Kibana进行统计结果下载地址:的可视化展示! w, ~0 l# q l, Q' a: {* L
% f) F; O" b0 y7 F1 r, j
下载地址:- Z, t! E' A2 k5 L3 w% F. T+ \
|
|