Yarns about YARN:Migrating to MapReduce v2
上传者:孙逢玖|上传时间:2015-04-24|密次下载
Yarns about YARN:Migrating to MapReduce v2
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
Container Container
Container
?
?
?
?
?
?
?
?
?
?
?
?
?
Container Container Container
Container Container Container
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?$ spark-submit pi.py –master yarn-client
?
?$ spark-submit --master yarn-client pi.py 1000
?
spark-submit [options]
?
?
$ spark-submit --master yarn-cluster pi.py 1000
Error: Cluster deploy mode is currently not
supported for python applications.
Run with --help for usage help or --verbose for
debug output
?
$ spark-submit --master yarn-client pi.py 1000
…
Pi is roughly 3.132290
15/02/11 09:41:34 INFO SparkUI: Stopped Spark web UI
at http://wendang.chazidian.com:4040
15/02/11 09:41:34 INFO DAGScheduler: Stopping
DAGScheduler
?
? Symptom:
? Spark Driver WARN Messages
14/12/08 17:11:08 WARN scheduler.TaskSetManager: Lost task 205.0 in
stage 2.0 (TID 352, http://wendang.chazidian.com: ExecutorLostFailure (executor
lost)
? NodeManager Logs
2014-12-08 17:10:32,860 WARN org.apache.hadoop.yarn.server.nodemanager.
containermanager.monitor.ContainersMonitorImpl: Container
[pid=26842,containerID=container_1418059756626_0010_01_000093_01]
is running beyond physical memory limits.
Current usage: 26.2 GB of 26 GB physical memory used;
27.1 GB of 54.6 GB virtual memory used. Killing container.
? Workaround:
?Increase
spark.yarn.[executor|driver].memoryOverhead
? Test for your specific use case. 1GB to 4GB
? Spark 1.2 / CDH 5.3 : Prefer RDDs that are cached locally in HDFS
? Spark 1.2 : Dynamically release unused resources via spark.
dynamicAllocation.enabled
? Only support via YARN currently.
? Spark Streaming save incoming data to a WAL (write-ahead log) on HDFS,
preventing any data loss on driver failure.
?
?
?
?
?
?
?
? spark.shuffle.consolidateFiles=true
? spark.yarn.executor.memoryOverhead
? spark.yarn.driver.memoryOverhead
? spark.shuffle.manager=SORT
? http://www.wend
angxiazai.compress=true
? spark.serializer=org.apache.spark.serializer.KryoSerializer
YARN Mesos
Asks for resources Offers resources
Evolved into a resource manager Evolved into managing Hadoop
Written in Java Written in C++
Locality aware More customizable
下载文档
热门试卷
- 2016年四川省内江市中考化学试卷
- 广西钦州市高新区2017届高三11月月考政治试卷
- 浙江省湖州市2016-2017学年高一上学期期中考试政治试卷
- 浙江省湖州市2016-2017学年高二上学期期中考试政治试卷
- 辽宁省铁岭市协作体2017届高三上学期第三次联考政治试卷
- 广西钦州市钦州港区2016-2017学年高二11月月考政治试卷
- 广西钦州市钦州港区2017届高三11月月考政治试卷
- 广西钦州市钦州港区2016-2017学年高一11月月考政治试卷
- 广西钦州市高新区2016-2017学年高二11月月考政治试卷
- 广西钦州市高新区2016-2017学年高一11月月考政治试卷
- 山东省滨州市三校2017届第一学期阶段测试初三英语试题
- 四川省成都七中2017届高三一诊模拟考试文科综合试卷
- 2017届普通高等学校招生全国统一考试模拟试题(附答案)
- 重庆市永川中学高2017级上期12月月考语文试题
- 江西宜春三中2017届高三第一学期第二次月考文科综合试题
- 内蒙古赤峰二中2017届高三上学期第三次月考英语试题
- 2017年六年级(上)数学期末考试卷
- 2017人教版小学英语三年级上期末笔试题
- 江苏省常州西藏民族中学2016-2017学年九年级思想品德第一学期第二次阶段测试试卷
- 重庆市九龙坡区七校2016-2017学年上期八年级素质测查(二)语文学科试题卷
- 江苏省无锡市钱桥中学2016年12月八年级语文阶段性测试卷
- 江苏省无锡市钱桥中学2016-2017学年七年级英语12月阶段检测试卷
- 山东省邹城市第八中学2016-2017学年八年级12月物理第4章试题(无答案)
- 【人教版】河北省2015-2016学年度九年级上期末语文试题卷(附答案)
- 四川省简阳市阳安中学2016年12月高二月考英语试卷
- 四川省成都龙泉中学高三上学期2016年12月月考试题文科综合能力测试
- 安徽省滁州中学2016—2017学年度第一学期12月月考高三英语试卷
- 山东省武城县第二中学2016.12高一年级上学期第二次月考历史试题(必修一第四、五单元)
- 福建省四地六校联考2016-2017学年上学期第三次月考高三化学试卷
- 甘肃省武威第二十三中学2016—2017学年度八年级第一学期12月月考生物试卷
网友关注
- 高考作文历史人物素材
- 2010、2011、2012三年苏州中考数学分析
- 中考化学复习资料
- 山东省胶南市隐珠街道办事处中学人教版语文九年级下册第6课《蒲柳人家》课件
- 2013年复习中考文言文复习资料大全
- 中考政治复习资料
- 南丰中学实验卡片88
- 2005-2011年宁夏中考数学试题汇集
- 广东省汕头市潮南区峡晖中学2013届高三开学初调研测试(
- 2012-2011年中考数学汇编一次函数的应用
- [新版]2009年广东省各市中考语文试题[1].doc
- [整理版]村庄中学作文教授教化的困境及对策 初稿
- ch1自动控制的一般概念
- 2014年上海市中考化学模拟试卷5
- 2012年中考时政(2011年5月——2012年4月)_教学资料(可编辑)
- [宝典]2011年中考语文备战(中考专题温习):积存与应用
- 2013年全国高考语文试卷字音字形题
- 2014中考英语模拟卷
- 2010高考生物学知识
- 尔雅通识课-音乐鉴赏
- 光华中学学生日记
- 2015吉林省特岗教师招聘考试:英语专题复习之连词二
- 2014年中考数学压轴题精编--广西篇(试题及答案)
- 新源县第二中学演示实验器材借还登记2
- 2009中考语文复习备考资料名著2
- 中学作文批改模式现状の研究
- 自制2014年中考倒计时日历
- 2013年九年级中考数学总复习资料
- 重庆市丰都中学高三物理《把电流表改装成电压表》课件(人教版)
- 浙江省绍兴县西藏民族中学2013届中考数学大一轮复习讲义课件:课时6《二次根式》(新人教版)
网友关注视频
- 沪教版八年级下次数学练习册21.4(2)无理方程P19
- 第五单元 民族艺术的瑰宝_15. 多姿多彩的民族服饰_第二课时(市一等奖)(岭南版六年级上册)_T129830
- 化学九年级下册全册同步 人教版 第22集 酸和碱的中和反应(一)
- 沪教版牛津小学英语(深圳用) 五年级下册 Unit 10
- 第19课 我喜欢的鸟_第一课时(二等奖)(人美杨永善版二年级下册)_T644386
- 【获奖】科粤版初三九年级化学下册第七章7.3浓稀的表示
- 冀教版小学数学二年级下册1
- 苏科版数学 八年级下册 第八章第二节 可能性的大小
- 外研版英语三起6年级下册(14版)Module3 Unit2
- 第4章 幂函数、指数函数和对数函数(下)_六 指数方程和对数方程_4.7 简单的指数方程_第一课时(沪教版高一下册)_T1566237
- 《小学数学二年级下册》第二单元测试题讲解
- 【部编】人教版语文七年级下册《泊秦淮》优质课教学视频+PPT课件+教案,湖北省
- 【部编】人教版语文七年级下册《逢入京使》优质课教学视频+PPT课件+教案,安徽省
- 沪教版八年级下册数学练习册21.3(2)分式方程P15
- 二年级下册数学第三课 搭一搭⚖⚖
- 冀教版英语四年级下册第二课
- 三年级英语单词记忆下册(沪教版)第一二单元复习
- 苏科版数学八年级下册9.2《中心对称和中心对称图形》
- 外研版英语七年级下册module1unit3名词性物主代词讲解
- 外研版英语三起5年级下册(14版)Module3 Unit1
- 30.3 由不共线三点的坐标确定二次函数_第一课时(市一等奖)(冀教版九年级下册)_T144342
- 北师大版数学四年级下册3.4包装
- 二年级下册数学第二课
- 冀教版小学数学二年级下册第二单元《余数和除数的关系》
- 外研版八年级英语下学期 Module3
- 外研版英语三起6年级下册(14版)Module3 Unit1
- 8 随形想象_第一课时(二等奖)(沪教版二年级上册)_T3786594
- 苏科版数学七年级下册7.2《探索平行线的性质》
- 北师大版八年级物理下册 第六章 常见的光学仪器(二)探究凸透镜成像的规律
- 青岛版教材五年级下册第四单元(走进军营——方向与位置)用数对确定位置(一等奖)
精品推荐
- 2016-2017学年高一语文人教版必修一+模块学业水平检测试题(含答案)
- 广西钦州市高新区2017届高三11月月考政治试卷
- 浙江省湖州市2016-2017学年高一上学期期中考试政治试卷
- 浙江省湖州市2016-2017学年高二上学期期中考试政治试卷
- 辽宁省铁岭市协作体2017届高三上学期第三次联考政治试卷
- 广西钦州市钦州港区2016-2017学年高二11月月考政治试卷
- 广西钦州市钦州港区2017届高三11月月考政治试卷
- 广西钦州市钦州港区2016-2017学年高一11月月考政治试卷
- 广西钦州市高新区2016-2017学年高二11月月考政治试卷
- 广西钦州市高新区2016-2017学年高一11月月考政治试卷
分类导航
- 互联网
- 电脑基础知识
- 计算机软件及应用
- 计算机硬件及网络
- 计算机应用/办公自动化
- .NET
- 数据结构与算法
- Java
- SEO
- C/C++资料
- linux/Unix相关
- 手机开发
- UML理论/建模
- 并行计算/云计算
- 嵌入式开发
- windows相关
- 软件工程
- 管理信息系统
- 开发文档
- 图形图像
- 网络与通信
- 网络信息安全
- 电子支付
- Labview
- matlab
- 网络资源
- Python
- Delphi/Perl
- 评测
- Flash/Flex
- CSS/Script
- 计算机原理
- PHP资料
- 数据挖掘与模式识别
- Web服务
- 数据库
- Visual Basic
- 电子商务
- 服务器
- 搜索引擎优化
- 存储
- 架构
- 行业软件
- 人工智能
- 计算机辅助设计
- 多媒体
- 软件测试
- 计算机硬件与维护
- 网站策划/UE
- 网页设计/UI
- 网吧管理