Apache Beam Spark / Flink Runner在EMR中未执行(无法访问GCS文件)。
创始人
2024-09-03 13:31:06
0

要在EMR上执行Apache Beam Spark / Flink Runner并访问GCS文件,需要进行以下步骤:

  1. 确保您的EMR集群具有适当的权限和访问凭据来访问GCS。您可以通过为EMR角色授予适当的GCS访问权限来实现这一点。

  2. 在Spark / Flink应用程序中,添加适当的配置以连接到GCS。例如,在Spark中,您可以使用以下代码示例:

import org.apache.spark.SparkConf
import org.apache.beam.runners.spark.SparkContextOptions

val conf = new SparkConf()
  .setAppName("Apache Beam with GCS on EMR")

// 添加GCS访问凭据
conf.set("spark.hadoop.google.cloud.auth.service.account.enable", "true")
conf.set("spark.hadoop.google.cloud.auth.service.account.keyfile", "/path/to/keyfile.json")

// 设置要访问的GCS文件路径
conf.set(SparkContextOptions.GCS_UPLOAD_BUCKET, "gs://your-bucket-name")
conf.set(SparkContextOptions.GCS_STAGING_BUCKET, "gs://your-bucket-name")

// 创建SparkContext
val sc = new SparkContext(conf)

请确保将/path/to/keyfile.json替换为您的GCS访问凭据的实际路径,并将gs://your-bucket-name替换为您要访问的GCS存储桶。

  1. 如果您使用的是Flink Runner,请在Flink应用程序中添加适当的配置。例如,在Flink中,您可以使用以下代码示例:
import org.apache.flink.api.common.ExecutionConfig
import org.apache.beam.runners.flink.FlinkPipelineOptions

ExecutionConfig.GlobalJobParameters params = ExecutionConfig.GlobalJobParameters.fromMap(
  Collections.singletonMap("google.cloud.auth.service.account.keyfile", "/path/to/keyfile.json")
);

StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
env.getConfig().setGlobalJobParameters(params);

// 设置要访问的GCS文件路径
env.getConfig().setString(FlinkPipelineOptions.GCSUploadBucket, "gs://your-bucket-name");
env.getConfig().setString(FlinkPipelineOptions.GCSStagingBucket, "gs://your-bucket-name");

// 创建FlinkPipelineOptions
FlinkPipelineOptions options = PipelineOptions.as(FlinkPipelineOptions.class);
options.setRunner(FlinkRunner.class);

// 创建Pipeline
Pipeline pipeline = Pipeline.create(options);

请确保将/path/to/keyfile.json替换为您的GCS访问凭据的实际路径,并将gs://your-bucket-name替换为您要访问的GCS存储桶。

通过执行上述步骤,您应该能够在EMR上成功执行Apache Beam Spark / Flink Runner并访问GCS文件。

相关内容

热门资讯

透视工具!wepoker辅助器... 透视工具!wepoker辅助器下载,pokemmo脚本辅助器下载“必备开挂透视挂辅助工具”1、pok...
每日必看教程!游戏茶苑辅助器,... 您好,游戏茶苑辅助器这款游戏可以开挂的,确实是有挂的,需要了解加微【485275054】很多玩家在这...
辅助透视!wepoker辅助器... 辅助透视!wepoker辅助器最新版本更新内容,wepoker透视版下载“关于开挂透视挂辅助神器”1...
总算了解!欢聚水鱼辅助视频,微... 总算了解!欢聚水鱼辅助视频,微信小程序边锋辅助,扑克教程(存在有开挂);亲,有的,ai轻松简单,又可...
透视苹果版!有人wepoker... 透视苹果版!有人wepoker,约局吧德州可以透视“科普开挂透视挂辅助app”;约局吧德州可以透视辅...
重大科普!四川途游小程序辅助破... 重大科普!四川途游小程序辅助破解版,微乐广西麻辣辅助器,科技教程(真的是有开挂);1、点击下载安装,...
透视黑科技!wepoker辅助... 透视黑科技!wepoker辅助真的假的,newpoker可以安装脚本“教你开挂透视挂辅助软件”new...
技术分享!兴动互娱辅助工具,随... 技术分享!兴动互娱辅助工具,随意玩辅助器视频透视挂,wpk教程(是有开挂);1、完成随意玩辅助器视频...
辅助透视!wepoker辅助器... 辅助透视!wepoker辅助器,约局吧可以看有挂“揭幕开挂透视挂辅助教程”1、金币登录送、破产送、升...
实测必看!潮友会鱼虾蟹看穿神器... 实测必看!潮友会鱼虾蟹看穿神器,微信途游有辅助,微扑克教程(真的有开挂);亲真的是有正版授权,小编(...