热线电话:13121318867

登录
2019-02-23 阅读量: 879
spark standalone 客户端提交方式

Standalone-client模式是spark作业的一种提交方式

提交命令

./spark-submit --master  spark://node01:7077 --class org.apache.spark.examples.SparkPi  ../lib/spark-examples-1.6.
0-hadoop2.6.0.jar 100
./spark-submit --master spark://node01:7077 --deploy-mode client --class org.apache.spark.examples.SparkPi ../li
b/spark-examples-1.6.0-hadoop2.6.0.jar 100

执行流程

  • 1.client模式提交任务后,会在客户端启动Driver进程。
  • 2.Driver会向Master申请启动Application启动的资源。
  • 3.资源申请成功,Driver端将task发送到worker端执行。
  • 4.worker将task执行结果返回到Driver端。

1.client模式适用于测试调试程序。Driver进程是在客户端启动的,这里的客户端就是指提交应用程序的当前节点。在Driver端可以看到task执行的情况。生产环境下不能使用client模式,是因为:假设要提交100个application到集群运行,Driver每次都会在client端启动,那么就会导致客户端100次网卡流量暴增的问题。(因为要监控task的运行情况,会占用很多端口,如上图的结果图)客户端网卡通信,都被task监控信息占用。

2.Client端作用
Driver负责应用程序资源的申请
任务的分发。
结果的回收。
监控task执行情况。

0.0000
1
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子