AWSGlueJob并行运行出现“速率超过限制”ThrottlingException状态码:400错误。
创始人
2024-09-25 15:31:08
0

这个错误通常是由于作业并行设置不正确或作业资源不足引起的。为解决此错误,请尝试以下解决步骤:

  1. 调整AWS Glue作业的并行度限制,以减小并行度并减轻对资源的需求。

  2. 增加作业的资源,比如增加作业的计算资源或调整分配给作业的机器学习资源的容量。

  3. 确保作业的代码正确、无误,没有重复的任务或不必要的任务,这些任务会增加CPU的使用率,造成ThrottlingException。

示例代码:

  1. 调整作业并行度——

import boto3

glue = boto3.client("glue")

job_name = "my-glue-job"

Get the current JobRun configuration

response = glue.get_job_run(JobName=job_name, RunId='my-run-id')

Check if the error message is due to throttling

if "Rate exceeded" in response["JobRun"]["ErrorMessage"]:

Reduce the parallelism by setting a lower Maximum Capacity

Value must be between 2 and 100

response = glue.update_job(JobName=job_name, MaxCapacity=50)

Re-run the job

response = glue.start_job_run(JobName=job_name)

  1. 增加作业资源——

import boto3

glue = boto3.client('glue')

job_name = "my-glue-job"

Increase workers count

response = glue.update_job(JobName=job_name, NumberOfWorkers=5)

Increase worker type

response = glue.update_job(JobName=job_name, WorkerType='G.2X')

Increase memory allocation

response = glue.update_job(JobName=job_name, MaxCapacity=2)

Re-run the job

response = glue.start_job_run(JobName=job_name)

  1. 检查代码——

import boto3

glue = boto3.client('glue')

job_name = "my

相关内容

热门资讯

据统计!智星菠萝可以辅助吗,n... 据统计!智星菠萝可以辅助吗,newpoker怎么安装脚本,阶段教程(有挂透视)-哔哩哔哩1、起透看视...
据监测!pokemmo免费脚本... 据监测!pokemmo免费脚本(透视)原来确实有挂(揭秘有挂开挂辅助工具)-哔哩哔哩1、pokemm...
据通报!wepoker轻量版透... 据通报!wepoker轻量版透视方法,wepoker俱乐部辅助,模板教程(有挂技巧)-哔哩哔哩1、打...
据权威媒体报道!wepoker... 据权威媒体报道!wepoker手机助手(透视)一直是有挂的(有挂教学开挂辅助工具)-哔哩哔哩在进入w...
围绕透视问题!wepoker透... 围绕透视问题!wepoker透视辅助下载,智星菠萝有挂吗,攻略教程(有挂辅助)-哔哩哔哩1、进入到w...
据玩家消息!pokemmo免费... 据玩家消息!pokemmo免费脚本(透视)一直有挂(有挂总结开挂辅助神器)-哔哩哔哩1、让任何用户在...
目前!poker辅助器免费安装... 目前!poker辅助器免费安装,德州局透视脚本,模板教程(今日头条)-哔哩哔哩1、让任何用户在无需p...
记者获悉!wpk辅助购买(透视... 记者获悉!wpk辅助购买(透视)一直是有挂(有挂解惑开挂辅助安装)-哔哩哔哩一、wpk辅助购买软件透...
目前!aapoker俱乐部靠谱... 目前!aapoker俱乐部靠谱吗,wepoker轻量版有透视吗,机巧教程(有挂解密)-哔哩哔哩一、w...
此事引发网友热议!来玩德州破解... 此事引发网友热议!来玩德州破解器(透视)原来真的有挂(确实有挂开挂辅助工具)-哔哩哔哩1、此事引发网...