AWSDMS是否可以将S3Glacier作为目标?
创始人
2024-09-24 21:01:14
0

AWS DMS本身不支持将数据流式传输到S3 Glacier,但是可以使用Lambda函数将数据从DMS传输到S3 Glacier。以下是解决方法的代码示例:

  1. 创建Lambda函数

创建一个Lambda函数,将以下源代码复制到Lambda中。

import boto3
import os
import json
from io import BytesIO
import gzip

s3_res = boto3.resource('s3')

def lambda_handler(event, context):
    # Capture the DynamoDB stream event
    input_data = event['Records']

    # S3 bucket configuration - replace with your bucket & folder name
    bucket_name = 'my-glacier-bucket'
    folder_name = 'my_data_folder'

    # Create a new S3 object
    client = boto3.client('s3')
    key = folder_name + '/ssm-' + str(time.time()) + '.json.gz'

    byte_data = json.dumps(input_data).encode('UTF-8')

    # Compress data using GZIP compression
    gzip_data = BytesIO()
    with gzip.GzipFile(fileobj=gzip_data, mode='wb') as gz:
        gz.write(byte_data)
    data = gzip_data.getvalue()

    # Upload compressed data to S3 Glacier
    client.upload_archive(vaultName=bucket_name, body=data)

    # Log output to CloudWatch
    print('Data uploaded to S3 Glacier.')

    # Return success message
    return 'Success'
  1. 将Lambda函数连接到DMS任务

在DMS任务中设置Lambda函数作为目标端点,并将输入映射到Lambda函数的输入参数。在AWS管理控制台中启动DMS任务之前,请确保按照以下格式创建表映射:

{
    "TableName": "my_table_name",
    "TableMappings": [
        {
            "Type": "Include",
            "SourceSchema": "my_source_schema",
            "SourceTable": "my_source_table",
            "TargetTable": "my_target_table",
            "TargetSchema": "my_target_schema",
            "MappingProperties": {}
        }
    ],
    "TargetEndpointArn": "arn:aws:dms:us-east-1:123456789012:endpoint:QJLTZ7VV5YB6OQF435DG5PR73M",
    "ReplicationInstanceArn": "arn:aws:dms:us-east-1:123456789012:rep:3H5PB45D9JPYSOI25LVGNAE5GI",
    "MigrationType": "full-load",
    "TableMappingsEnabled": true,
    "StreamEnabled":

相关内容

热门资讯

1分钟实锤!智星德州菠萝外挂(... 1分钟实锤!智星德州菠萝外挂(德州)总是真的是有挂(详细辅助AA德州教程);1、任何智星德州菠萝外挂...
2分钟实锤!智星德州菠萝外挂(... 2分钟实锤!智星德州菠萝外挂(来玩德州)竟然是真的有挂(详细辅助技巧教程)1、任何智星德州菠萝外挂a...
第8分钟实锤!智星德州菠萝辅助... 第8分钟实锤!智星德州菠萝辅助器(德州ai)总是真的是有挂(详细辅助介绍教程)1、用户打开应用后不用...
8分钟实锤!德扑之星猫腻(德州... 8分钟实锤!德扑之星猫腻(德州wepower)确实真的是有挂(详细辅助第三方教程)1、德扑之星猫腻系...
第2分钟实锤!智星德州菠萝(线... 第2分钟实锤!智星德州菠萝(线上德州)切实有挂(详细辅助第三方教程)第2分钟实锤!智星德州菠萝(线上...
3分钟实锤!德扑ai助手(nz... 3分钟实锤!德扑ai助手(nzt德州)确实是有挂(详细辅助透明挂教程);1、玩家可以在德扑ai助手软...
第二分钟实锤!德扑之星有猫腻(... 第二分钟实锤!德扑之星有猫腻(德州app)本来真的有挂(详细辅助wpk教程)1、第二分钟实锤!德扑之...
第十分钟实锤!德州之星外挂(德... 第十分钟实锤!德州之星外挂(德州nzt)果然真的有挂(详细辅助AI教程)该软件可以轻松地帮助玩家将德...
第3分钟实锤!智星德州菠萝有挂... 第3分钟实锤!智星德州菠萝有挂吗(nzt德州)其实有挂(详细辅助科技教程)1、点击下载安装,智星德州...
第6分钟实锤!德扑之星有作弊(... 第6分钟实锤!德扑之星有作弊(nzt德州)真是存在有挂(详细辅助黑科技教程)进入游戏-大厅左侧-新手...