AWSGlue:事件驱动架构是否不可能实现?作业并发性和触发问题
创始人
2024-09-25 18:31:35
0

AWS Glue是一种ETL服务,可用于在AWS中快速建立、自动调度和运行ETL作业。但是,AWS Glue实现事件驱动架构时,存在一些限制和问题。

  1. 作业并发性问题 AWS Glue Job默认使用调度器来处理作业的防止并行运行,这意味着在同一时间只能运行一个作业,这会导致作业执行效率较低。解决方法是使用AWS Step Functions和Lambda来调度Glue Job,从而启用更高的并行度。

以下是使用AWS Step Functions和Lambda来处理Glue Job的Python示例代码:

import boto3
import json

STEP_FUNCTION_ARN = 'arn:aws:states:us-west-2:123456789012:workflow:Glue-Workflow'

def lambda_handler(event, context):
    glue = boto3.client('glue')
    response = glue.start_job_run(
        JobName='my-glue-job',
        Arguments={
            '--job-language': 'python',
            '--job-script': 's3://path/to/your/script.py',
            '--additional-arguments': json.dumps({'--conf': 'spark.executor.memory=1g'})  # 可选
        }
    )
    job_run_id = response['JobRunId']
    state_machine = boto3.client('stepfunctions')
    response = state_machine.start_execution(
        stateMachineArn=STEP_FUNCTION_ARN,
        input=json.dumps({'job_run_id': job_run_id})
    )
    return {"statusCode": 200, "body": json.dumps(response)}

使用以上Lambda代码,您将能够以事件驱动的方式调度AWS Glue作业,最大限度地利用并行度。

  1. 作业触发问题 AWS Glue虽然支持一些基本的触发器(如定期和在S3事件上触发),但是缺少像AWS Lambda一样丰富的触发器选项。解决方法是使用第三方工具,如AWS EventBridge或AWS Lambda来实现事件驱动。

以下是使用AWS EventBridge来触发Glue Job的Python示例代码:

import boto3
import json

EVENT_BUS_NAME = 'my-event-bus'
EVENT_RULE_NAME = 'my-glue-rule'

def lambda_handler(event, context):
    glue = boto3.client('gl

相关内容

热门资讯

第六分钟透视!微乐小程序游戏破... 第六分钟透视!微乐小程序游戏破解器(辅助挂)原来是有挂(普及教程开挂辅助神器);无需打开直接搜索薇:...
5分钟发现!广西友乐解码器下载... 5分钟发现!广西友乐解码器下载安装(辅助挂)果然是有挂(介绍教程开挂辅助安装) 了解更多开挂安装加(...
第六分钟科普!湖北休闲辅助(辅... 第六分钟科普!湖北休闲辅助(辅助挂)一直确实有挂(安装教程开挂辅助神器)1、下载安装好湖北休闲辅助,...
第二分钟辅助!至余干辅助(辅助... 第二分钟辅助!至余干辅助(辅助挂)其实确实有挂(教你攻略开挂辅助平台) >>您好:软件加薇13670...
7分钟辅助!仟众部落辅助(辅助... 7分钟辅助!仟众部落辅助(辅助挂)其实确实有挂(德州论坛开挂辅助平台);亲,仟众部落辅助这款游戏原来...
三分钟详情!玄龙辅助工具(辅助... 三分钟详情!玄龙辅助工具(辅助挂)一直确实有挂(规律教程开挂辅助软件);无需打开直接搜索微信(136...
第二分钟讲解!浙江游戏辅助(辅... 您好:浙江游戏辅助这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌特别...
十分钟了解!福建天天开心福州器... 十分钟了解!福建天天开心福州器真的假的(辅助挂)原来有挂(安装教程开挂辅助安装);无需打开直接搜索加...
第6分钟科普!微信随意玩辅助器... 您好:这款微信随意玩辅助器有开挂吗游戏是可以开挂的,确实是有挂的,很多玩家在这款微信随意玩辅助器有开...
第七分钟发现!情怀游戏字牌辅助... 第七分钟发现!情怀游戏字牌辅助(辅助挂)一直真的是有挂(黑科技教程开挂辅助神器);无需打开直接搜索打...