AWSGlue工作者与并发性能
创始人
2024-09-25 15:30:39
0

AWS Glue的工作者和并发性能是指在运行AWS Glue ETL作业时,处理数据的能力。它们决定了作业的速度和稳定性。在AWS Glue中,可以调整工作者数和并发数来优化作业性能。

以下是一个示例代码,使用AWS Glue Python Shell作业运行器来设置工作者和并发性能:

import sys from awsglue.utils import getResolvedOptions from pyspark.context import SparkContext from awsglue.context import GlueContext

args = getResolvedOptions(sys.argv, ['JOB_NAME'])

sc = SparkContext() glueContext = GlueContext(sc) spark = glueContext.spark_session

job = Job(glueContext) job.init(args['JOB_NAME'], args)

设置AWS Glue作业的工作者

job_args = sys.argv[1:] for i, arg in enumerate(job_args): if arg.startswith('--glue_workers'): j.setWorkerCount(int(arg.split('=')[1])) job_args.pop(i) break

设置AWS Glue作业的并发性能

for i, arg in enumerate(job_args): if arg.startswith('--concurrent_job_run'): j.setMaxConcurrentRuns(int(arg.split('=')[1])) job_args.pop(i) break

args = {'--job_args': ' '.join(job_args)} glueContext.start_job_run(args)

job.commit()

在此示例中,可以使用 --glue_workers 和 --concurrent_job_runs 参数来分别设置工作者数和并发性能。使用AWS Glue控制台中的参数配置选项也可以完成这些设置。优化工作者和并发性能通常需要进行多次实验和调整,以达到最佳的作业执行效果。

相关内容

热门资讯

三分钟辅助!心悦填大坑破解器,... 三分钟辅助!心悦填大坑破解器,竟然真的是有辅助插件(有挂辅助)1)心悦填大坑破解器辅助插件:进一步探...
3分钟辅助!微信小程序辅助器免... 3分钟辅助!微信小程序辅助器免费2.0苹果版,原来真的是有辅助攻略(有挂规律)1、玩家可以在微信小程...
第十分钟辅助!潮汕汇鱼虾蟹辅助... 第十分钟辅助!潮汕汇鱼虾蟹辅助,一贯有辅助app(有挂讲解)潮汕汇鱼虾蟹辅助辅助器是一种具有地方特色...
7分钟辅助!粤友圈有挂吗,其实... 7分钟辅助!粤友圈有挂吗,其实有辅助挂(证实有挂)1、每一步都需要思考,不同水平的挑战会更加具有挑战...
四分钟辅助!麻将外卦软件框架模... 四分钟辅助!麻将外卦软件框架模式,切实有辅助攻略(有挂方式)1)麻将外卦软件框架模式有没有挂:进一步...
第九分钟辅助!微乐手游脚本辅助... 第九分钟辅助!微乐手游脚本辅助,一贯是真的有辅助技巧(有挂方针)1、完成微乐手游脚本辅助有辅助插件,...
第二分钟辅助!微乐小程序辅助脚... 第二分钟辅助!微乐小程序辅助脚本,竟然真的是有辅助工具(有挂分享)微乐小程序辅助脚本透视方法中分为三...
8分钟辅助!相约互娱辅助,真是... 8分钟辅助!相约互娱辅助,真是是真的有辅助app(有挂教学)1、玩家可以在相约互娱辅助透视最简单三个...
第三分钟辅助!黑桃k大厅辅助,... 第三分钟辅助!黑桃k大厅辅助,总是有辅助神器(有挂秘笈)1、进入游戏-大厅左侧-新手福利-激活码辅助...
第二分钟辅助!中至上饶打炸漏洞... 第二分钟辅助!中至上饶打炸漏洞,真是是有辅助插件(了解有挂)1、中至上饶打炸漏洞模拟器是什么优化,中...