AWSGlue任务内存不足。
创始人
2024-09-25 16:01:50
0

使用更高的AWS Glue作业执行器类型,增加任务作业的任务空间和计算资源,或者通过优化代码来减少内存占用。下面是一个使用更高的AWS Glue作业执行器类型的代码示例:

import boto3
import sys

job_name = 'my-glue-job'
job_command = {
    'Name': 'glueetl',
    'ScriptLocation': 's3://my-bucket/glue-etl-script.py',
    'PythonVersion': '3'
}
job_execution_role = 'my-glue-job-execution-role'
allocated_capacity = 10 # 10 units
max_capacity = 20 # 20 units

glue = boto3.client('glue')

# Get the default Glue ETL job runner settings
response = glue.get_job_runners()

# Get the highest available Glue ETL job runner type
max_worker_type = response['MaxWorkers']['Value']

# Create a new Glue ETL job, using the highest available worker type
response = glue.create_job(
    Name=job_name,
    Command=job_command,
    Role=job_execution_role,
    AllocatedCapacity=allocated_capacity,
    MaxCapacity=max_capacity,
    WorkerType=max_worker_type
)

job_run_id = response['JobRunId']

# Start the job
response = glue.start_job_run(
    JobName=job_name,
    JobRunId=job_run_id,
)

# Wait for the job to finish
waiter = glue.get_waiter('job_run_complete')
waiter.wait(
    JobName=job_name,
    JobRunId=job_run_id,
)

# Check the job status
response = glue.get_job_run(
    JobName=job_name,
    RunId=job_run_id,
)

status = response['JobRun']['JobRunState']

if status == 'SUCCEEDED':
    print('Glue job succeeded!')
else:
    print('Glue job failed! Status: ', status)
    sys.exit(1)

相关内容

热门资讯

一分钟揭秘!微扑克有辅助软件吗... 一分钟揭秘!微扑克有辅助软件吗,aapoker挂,我来教教你(固有有挂)1、aapoker挂ai辅助...
重大发现!wpk德州辅助,we... 重大发现!wpk德州辅助,wepoke有挂,微扑克教程(原本有挂)1.wepoke有挂 ai辅助创建...
总算明白!微扑克辅助器是真的么... 总算明白!微扑克辅助器是真的么,德州ai辅助有用,力荐教程(都是是真的有挂)1、构建自己的微扑克辅助...
玩家必备科技!gg扑克辅助,w... 玩家必备科技!gg扑克辅助,wepoke辅助有挂,AI教程(确实真的是有挂)1、在wepoke辅助有...
重大来袭!cloudpoker... 重大来袭!cloudpoker辅助器,wepoke真的有挂,力荐教程(固有真的有挂)1、wepoke...
最新技巧!wepoke透明真的... 最新技巧!wepoke透明真的吗,智星德州菠萝有挂吗,AI教程(最初有挂);人气非常高,ai更新快且...
一分钟快速了解!德州微扑克辅助... 一分钟快速了解!德州微扑克辅助,德州微扑克辅助,高科技教程(好像存在有挂)是一款可以让一直输的玩家,...
一分钟教会你!wpk有吗,德州... 一分钟教会你!wpk有吗,德州ai辅助软件,玩家教你(固有是真的有挂)德州ai辅助软件辅助器中分为三...
实操分享!微扑克辅助,德州ai... 实操分享!微扑克辅助,德州ai机器人,科技教程(真是有挂)1、超多福利:超高返利,海量正版游戏,德州...
玩家必看科普!微扑克有辅助软件... 自定义aapoker辅助系统规律,只需要输入自己想要的开挂功能,一键便可以生成出微扑克专用辅助器,不...