ArgoWorkflow+Sparkoperator+Applogsnotgenerated(ArgoWorkflow+Spark操作符+应用程序日志未生成)
创始人
2024-09-13 05:00:24
0
  1. 确认Spark操作符已正确部署,并且在Argo Workflow中正确地定义了容器模板。以下是Spark操作符容器模板的示例:
containers:
    - name: spark
      image: gcr.io/google_containers/spark:v2.3.0
      command:
        - "spark-submit"
        - "--master"
        - "yarn"
        - "--deploy-mode"
        - "client"
        - "--conf"
        - "spark.executor.instances=2"
        - "--conf"
        - "spark.hadoop.fs.s3a.access.key=mykey"
        - "--conf"
        - "spark.hadoop.fs.s3a.secret.key=mysecret"
        - "/mnt/spark.py"
  1. 确认应用程序容器在运行时输出日志。在应用程序容器中运行以下命令可以确保日志已正确输出:
$ touch /tmp/myapp.log
$ tail -f /tmp/myapp.log
  1. 在Spark操作符的容器模板中添加日志路径,以确保应用程序的日志输出路径正确设置。以下是示例代码:
spec:
  sparkConf:
    'spark.executorEnv.YARN_CONTAINER_RUNTIME_TYPE': 'docker'
    'spark.executorEnv.YARN_CONTAINER_RUNTIME_DOCKER_IMAGE': 'myapp:latest'
    'spark.executorEnv.YARN_CONTAINER_RUNTIME_DOCKER_MOUNTS': '/var/log/myapp:/var/log/myapp'
  1. 配置Argo Workflow的服务端,使其接受并保存应用程序日志。可以使用ELK堆栈、Grafana、Prometheus等技术。

通过以上步骤,可以解决“Argo Workflow + Spark操作符 + 应用程序日志未生成”的问题。

相关内容

热门资讯

透视神器!pokemmo手机版... 透视神器!pokemmo手机版修改器,淘宝的微乐辅助是真的吗,解密脚本(有挂猫腻)-哔哩哔哩在进入p...
脚本解迷!德扑HHpoker有... 脚本解迷!德扑HHpoker有挂吗,hhpoker免费辅助器(透视)竟然是有攻略(哔哩哔哩)1)辅助...
透视透视挂!we poker游... 透视透视挂!we poker游戏下,微乐家乡小程序辅助,关于脚本(有人有挂)-哔哩哔哩we poke...
脚本曝光!wepoker透视底... 脚本曝光!wepoker透视底牌脚本,wejoker开挂(透视)都是真的是有插件(哔哩哔哩)1、玩家...
更值得关注的是!wepoker... 您好,wepoker透视脚本网页这款游戏可以开挂的,确实是有挂的,需要了解加去威信【48527505...
脚本有挂!wepoker破解是... 脚本有挂!wepoker破解是真的还是假的,wepoker破解器(透视)竟然是有器(哔哩哔哩)1、模...
透视有挂!pokemmo辅助脚... 透视有挂!pokemmo辅助脚本,微信小程序微乐房间的挂多少钱,详情透视(有挂辅助)-哔哩哔哩pok...
透视必备!wepoker透视底... 透视必备!wepoker透视底牌脚本,wepoker私人辅助器(透视)其实存在有器(哔哩哔哩)1、许...
今年以来!大菠萝免费辅助器,微... 今年以来!大菠萝免费辅助器,微信小程序微乐辅助器,科普脚本(有挂功能)-哔哩哔哩大菠萝免费辅助器透视...
透视安装!newpoker脚本... 透视安装!newpoker脚本,手机微乐小程序游戏破解器,分享透视(有挂猫腻)-哔哩哔哩newpok...