Spark内核机制解析及性能调优教程(含资料)
课时介绍
17 - Spark调优 - shuffle调优
课程介绍
由于Spark基于内存计算的特性,集群的任何资源都可以成为Spark程序的瓶颈:CPU,网络带宽,或者内存。通常,如果内存容得下数据,瓶颈会是网络带宽。不过有时你同样需要做些优化,例如将RDD以序列化到磁盘,来降低内存占用。
本教程通过源码引导读者深入理解Spark的集群部署的内部机制、Spark内部调度的机制、Executor的内部机制、Shuffle的内部机制,进而讲述Tungsten的内部机制,让学员知其然知其所以然。教程的后部分,是任何Spark应用者都很好关注的Spark性能调优的内容。
推荐课程
信息系统项目管理师自考笔记
李明 · 394人在学
python从0到1:期货量化交易系统(CTP实战,高频及合成K线数据
王先生 · 17778人在学
手把手搭建Java超市管理系统【附源码】(毕设)
汤小洋 · 3768人在学
Java毕设springboot外卖点餐系统 毕业设计毕设源码 使用教
黄菊华 · 670人在学
基于SSM酒店管理系统(毕设)
小尼老师 · 696人在学
java项目实战之购物商城(java毕业设计)
Long · 4939人在学
手把手搭建Java求职招聘系统【附源码】(毕设)
汤小洋 · 1382人在学
Python Django 深度学习 小程序
钟翔 · 2120人在学
城管局门前三包管理系统+微信小程序(vue+springboot)
赖国荣 · 400人在学
Vue+Uni-app(uniapp)入门与实战+赠送仿美团点餐小程序
李杰 · 3562人在学