跑spark的yarn模式时RM连不上的情况

在linux控制台跑spark on yarn一个测试案例,日志中总显示RM连yarn服务的时候是:0.0.0.0:8032

具体情况如下图:

我问题出现的原因,总结如下:

1.防火墙没关闭,关闭

2.spark-env.sh这个文件的YARN_CONF_DIR=/opt/module/hadoop-3.3.4/etc/hadoop 没写对,这个很关键,报错就是因为这

3.安有yarn服务器的那台节点的/etc/hostname文件中,没配hadoop103

这3个都没问题了,再跑

[dahua@hadoop102 spark-yarn]$ bin/spark-submit \
--class org.apache.spark.examples.SparkPi \
--master yarn \
./examples/jars/spark-examples_2.12-3.3.1.jar \
10

[dahua@hadoop102 spark-yarn]$ bin/spark-submit \

--class com.atguigu.wrodcount_case.WordCountYarn \

--master yarn \

./Spark-1.0-SNAPSHOT.jar \

/input \

/output

备注:上面标黄的三个地方是每次提交要改的地方,第一个是指明类路径,第二个是jar包名,第三个是HDFS输出路径,不能已存在。

成功!!!!

嘿嘿~

备注:写的workCount案例yarn模式不能直接在IDEA上运行,(将搭好的jar包上传到spark-yarn/的目录下),报错如下:

Exception in thread "main" org.apache.spark.SparkException: Could not parse Master URL: 'yarn'
	at org.apache.spark.SparkContext$.org$apache$spark$SparkContext$$createTaskScheduler(SparkContext.scala:2982)
	at org.apache.spark.SparkContext.<init>(SparkContext.scala:563)
	at org.apache.spark.api.java.JavaSparkContext.<init>(JavaSparkContext.scala:58)
	at com.atguigu.wrodcount_case.WordCountYarn.main(WordCountYarn.java:22)

相关推荐

  1. UDP端口情况

    2024-03-30 01:20:01       15 阅读
  2. 记录一次jlinkcpu情况

    2024-03-30 01:20:01       9 阅读
  3. 启动yarnRM来解决办法

    2024-03-30 01:20:01       17 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-03-30 01:20:01       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-03-30 01:20:01       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-03-30 01:20:01       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-03-30 01:20:01       20 阅读

热门阅读

  1. js中遍历数组,map方法和reduce方法有什么区别?

    2024-03-30 01:20:01       17 阅读
  2. 为什么编码器-解码器结构能够保存空间信息

    2024-03-30 01:20:01       19 阅读
  3. <个人笔记>位运算

    2024-03-30 01:20:01       19 阅读
  4. Frida相关脚本代码样例(Windows下经过测试)

    2024-03-30 01:20:01       20 阅读
  5. 前端通用命名规范和Vue项目命名规范

    2024-03-30 01:20:01       17 阅读
  6. GIT使用小结

    2024-03-30 01:20:01       17 阅读
  7. 面试宝典:PHP中的Yac技术深度分析

    2024-03-30 01:20:01       16 阅读
  8. 什么是FLV

    2024-03-30 01:20:01       19 阅读
  9. 正则表达式

    2024-03-30 01:20:01       15 阅读
  10. 正则匹配/正则表达式

    2024-03-30 01:20:01       24 阅读
  11. Rust引用借用 vs 原始指针

    2024-03-30 01:20:01       17 阅读
  12. 库函数的模拟实现

    2024-03-30 01:20:01       18 阅读