AWSGlue-版本控制和设置持续集成
创始人
2024-09-25 14:01:15
0

AWS Glue是一种完全托管且自动化的ETL(抽取、转换、加载)服务,可使大数据分析和数据湖底层的抽取、转换和加载变得更容易,本质上是将数据铺平,让分析和挖掘更轻松。

然而,当您在使用AWS Glue时,您还需要为您的ETL作业配置版本控制,并对您的代码进行存储和管理,以确保能够轻松地跟踪历史变更。同时,为将来的开发变化做好准备,您应该将AWS Glue作业集成到您的持续集成和持续部署(CI / CD)过程中。以下是实现这些目标的一些步骤:

  1. 配置 AWS Glue Job 的版本控制

在 AWS Glue 中,您可以使用 Amazon S3 存储库和 AWS Lambda 函数来管理版本控制。这些存储库和函数可用于管理 AWS Glue ETL 作业的 DAG(有向无环图)定义、ETL 代码以及启动和停止这些作业的触发器。以下是一个版本控制的示例。

首先,您需要利用 AWS CLI 把 AWS Glue 作业中的配置上传到源代码管理系统(如Git)中,然后在每次修改后更新它。例如,在这里我们将 AWS Glue 作业保存到 S3 存储桶中:

aws s3 cp s3://[s3-bucket-name]/job/job-SAMPLE.conf s3://[s3-bucket-name]/job/job-SAMPLE.conf

接下来,在 AWS Glue Console 中对 Glue 作业配置进行更新,添加一个 AWS Lambda 函数来更新版本控制。它会基于 S3 存储库中的文件内容,生成一个 file-hash (文件哈希值),以便了解数据是否变化。

import boto3
import time
import os
import hashlib
from botocore.exceptions import ClientError 

s3 = boto3.resource('s3')
client = boto3.client('glue')

def lambda_handler(event, context):
    job_name = event['jobName']
    bucket = event['bucket']
    key = event['key']

相关内容

热门资讯

出现新变化!福建大玩家辅助操作... 您好:福建大玩家辅助操作视频这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用...
第九分钟开挂!微信小程序微乐挖... 第九分钟开挂!微信小程序微乐挖坑辅助免费,花花生活圈可以开挂,教你教程-2026最新版本微信小程序微...
此事引发广泛关注!三哥玩摆头注... 此事引发广泛关注!三哥玩摆头注可以控制(辅助挂)其实是有挂(有挂法门)-哔哩哔哩 【无需打开直接搜索...
九分钟开挂!皮皮透视辅助软件工... 九分钟开挂!皮皮透视辅助软件工具,皇豪互众控制系统下载,分享教程-2026最新版本1、九分钟开挂!皮...
今天上午!蜀山四川辅助脚本(辅... 今天上午!蜀山四川辅助脚本(辅助挂)一直真的有挂(有挂方案)-哔哩哔哩;亲,蜀山四川辅助脚本这款游戏...
四分钟开挂!闲逸同花插件,欢聚... 四分钟开挂!闲逸同花插件,欢聚水鱼辅助视频,必备教程-2026最新版本1、欢聚水鱼辅助视频透视辅助简...
为切实保障!牌乐门安全黑科技是... 为切实保障!牌乐门安全黑科技是真的吗(辅助挂)其实真的是有挂(有挂方针)-哔哩哔哩您好:牌乐门安全黑...
五分钟开挂!约局吧辅助器下载,... 五分钟开挂!约局吧辅助器下载,兴动互娱辅助工具,介绍教程-2026最新版本1、该软件可以轻松地帮助玩...
据了解!今日长牌破解(辅助挂)... 据了解!今日长牌破解(辅助挂)原来是有挂的(有挂机巧)-哔哩哔哩 了解更多开挂安装加(1367043...
3分钟开挂!广西老友玩友破解视... 3分钟开挂!广西老友玩友破解视频,玄龙辅助工具,教你教程-2026最新版本1)广西老友玩友破解视频辅...