AWSGlue工作者与并发性能
创始人
2024-09-25 15:30:39
0

AWS Glue的工作者和并发性能是指在运行AWS Glue ETL作业时,处理数据的能力。它们决定了作业的速度和稳定性。在AWS Glue中,可以调整工作者数和并发数来优化作业性能。

以下是一个示例代码,使用AWS Glue Python Shell作业运行器来设置工作者和并发性能:

import sys from awsglue.utils import getResolvedOptions from pyspark.context import SparkContext from awsglue.context import GlueContext

args = getResolvedOptions(sys.argv, ['JOB_NAME'])

sc = SparkContext() glueContext = GlueContext(sc) spark = glueContext.spark_session

job = Job(glueContext) job.init(args['JOB_NAME'], args)

设置AWS Glue作业的工作者

job_args = sys.argv[1:] for i, arg in enumerate(job_args): if arg.startswith('--glue_workers'): j.setWorkerCount(int(arg.split('=')[1])) job_args.pop(i) break

设置AWS Glue作业的并发性能

for i, arg in enumerate(job_args): if arg.startswith('--concurrent_job_run'): j.setMaxConcurrentRuns(int(arg.split('=')[1])) job_args.pop(i) break

args = {'--job_args': ' '.join(job_args)} glueContext.start_job_run(args)

job.commit()

在此示例中,可以使用 --glue_workers 和 --concurrent_job_runs 参数来分别设置工作者数和并发性能。使用AWS Glue控制台中的参数配置选项也可以完成这些设置。优化工作者和并发性能通常需要进行多次实验和调整,以达到最佳的作业执行效果。

相关内容

热门资讯

第1分钟辅助!wepoker数... 第1分钟辅助!wepoker数据分析,we-poker有人玩吗,法门教程(有挂助手)1、we-pok...
第一分钟辅助!wepoker破... 第一分钟辅助!wepoker破解器,菠萝辅助器免费版的特点,经验教程(有挂规律)1、玩家可以在菠萝辅...
5分钟辅助!约局吧德州真的有透... 5分钟辅助!约局吧德州真的有透视挂吗,we-poker软件,妙计教程(今日头条)约局吧德州真的有透视...
第九分钟辅助!wpk插件,hh... 第九分钟辅助!wpk插件,hh poker辅助有用吗,资料教程(确实有挂)1、首先打开hh poke...
第三分钟辅助!wepoker透... 第三分钟辅助!wepoker透视脚本苹果版,pokemmo辅助器,教程书教程(确实有挂)1、完成we...
第三分钟辅助!哈糖大菠萝能开挂... 第三分钟辅助!哈糖大菠萝能开挂吗,aapoker脚本,法门教程(有人有挂)1、超多福利:超高返利,海...
两分钟辅助!wepoker游戏... 两分钟辅助!wepoker游戏的安装教程,wepoker透视苹果系统,法子教程(确实有挂)1、这是跨...
七分钟辅助!德扑之心免费透视,... 七分钟辅助!德扑之心免费透视,wepoker私人辅助器,方案教程(有挂教学)1、德扑之心免费透视免费...
三分钟辅助!hhpoker可以... 三分钟辅助!hhpoker可以开挂吗,wepoker私人局透视教程,操作教程(有挂讲解)1、wepo...
4分钟辅助!wepoker辅助... 4分钟辅助!wepoker辅助工具,hhpoker透视方法,教程书教程(有挂教程)1、起透看视 we...