是的,如果你已经将 `spark.local.
dirs` 参数
配置 yarn.
node manager.local-
dirs` 参数中,以便在
YARN模式下使用 Spark。这样做可以确保 Spark 所使用的本地目录和
YARN的本地目录一致。你可以在启动 Spark 时使用以下命令来设置参数:
spark-submit --conf "spark.local.
dirs=$SPARK_LOCAL_
DIRS" --conf "spark.
yarn.
appMasterEnv.SPARK_LOCAL_
DIRS=$SPARK_LOCAL_
DIRS" --conf "spark.executorEnv.SPARK_LOCAL_
DIRS=$SPARK_LOCAL_
DIRS" your_
app.jar
其中,`$SPARK_LOCAL_
DIRS` 是你的本地目录路径。这样做可以确保 Spark 在
YARN模式下使用正确的本地目录。
到此这篇yarn logs -applicationid命令(yarnclient)的文章就介绍到这了,更多相关内容请继续浏览下面的相关 推荐文章,希望大家都能在编程的领域有一番成就!版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/rfx/31339.html