AWSEMR常驻集群是否适合始终运行结构化流式处理?
创始人
2024-09-25 10:00:31
0

在AWS EMR中使用结构化流式处理时,建议应该将EMR集群配置为可伸缩的,这样可以在处理任务执行时进行自动缩放。但是,如果流式处理程序需要保持长时间运行并实时处理数据,则选择始终运行的常驻集群也是一种可行的解决方案。在此过程中,我们可以考虑以下步骤:

  1. 创建常驻集群

在EMR控制台或使用AWS CLI创建一个持久的EMR集群(例如:标准EMR集群/Spark EMR集群)并选择运行结构化流式处理的软件配置选项。

  1. 编写流式处理应用

使用Spark结构化流式处理API编写流式处理应用。

  1. 提交Spark应用

使用以下命令将编写的应用程序提交到始终运行的EMR常驻集群:

spark-submit --class [class name] \
--master yarn \
--deploy-mode client \
--num-executors [num_of_executors] \
--executor-cores [num_of_cores] \
--executor-memory [memory_size] \
/path/to/jar [application_parameters] 
  1. 运行和监控Spark应用

运行在EMR常驻集群上的Spark应用可以使用以下命令监控:

yarn application -kill [application_id] 

请注意,始终运行的EMR集群会持续收取费用,因此需要相应的预算。

相关内容

热门资讯

关于!微信微乐自建房辅助工具,... 关于!微信微乐自建房辅助工具,微乐家乡麻将自建房辅助app(开挂自建房)方法1)微乐家乡麻将自建房辅...
大家学习交流!微信卡五星辅助器... 大家学习交流!微信卡五星辅助器,微乐小程序免费黑科技(开挂自建房)方法1、很好的工具软件,可以解锁游...
三分钟了解!微乐微信自建房辅助... 三分钟了解!微乐微信自建房辅助工具插件,微乐家乡麻将自建房辅助app(开挂自建房)工具1、三分钟了解...
一分钟教会你!微乐家乡麻将自建... 一分钟教会你!微乐家乡麻将自建房辅助app,微乐自建房脚本免费入口(开挂自建房)方法1、用户打开应用...
分享实测!微信微乐自建房辅助工... 分享实测!微信微乐自建房辅助工具,微乐自建房脚本免费入口(开挂自建房)器1、起透看视 微信微乐自建房...
重大通报!微乐自建房辅助工具脚... 重大通报!微乐自建房辅助工具脚本,微乐小程序免费黑科技(开挂自建房)app微乐自建房辅助工具脚本破解...
如何分辨真伪!微乐微信自建房辅... 如何分辨真伪!微乐微信自建房辅助工具插件,微乐小程序免费黑科技(开挂自建房)技巧1、微乐微信自建房辅...
我来教教你!微乐自建房辅助工具... 我来教教你!微乐自建房辅助工具挂,微乐家乡麻将自建房辅助app(开挂自建房)工具1、玩家可以在微乐家...
重大来袭!微乐自建房辅助工具神... 重大来袭!微乐自建房辅助工具神器,微乐小程序免费黑科技(开挂自建房)器1、游戏颠覆性的策略玩法,独创...
带你了解!微信卡五星辅助器,微... 带你了解!微信卡五星辅助器,微乐自建房脚本免费入口(开挂自建房)方法1、带你了解!微信卡五星辅助器,...