AWSDMS是否可以将S3Glacier作为目标?
创始人
2024-09-24 21:01:14
0

AWS DMS本身不支持将数据流式传输到S3 Glacier,但是可以使用Lambda函数将数据从DMS传输到S3 Glacier。以下是解决方法的代码示例:

  1. 创建Lambda函数

创建一个Lambda函数,将以下源代码复制到Lambda中。

import boto3
import os
import json
from io import BytesIO
import gzip

s3_res = boto3.resource('s3')

def lambda_handler(event, context):
    # Capture the DynamoDB stream event
    input_data = event['Records']

    # S3 bucket configuration - replace with your bucket & folder name
    bucket_name = 'my-glacier-bucket'
    folder_name = 'my_data_folder'

    # Create a new S3 object
    client = boto3.client('s3')
    key = folder_name + '/ssm-' + str(time.time()) + '.json.gz'

    byte_data = json.dumps(input_data).encode('UTF-8')

    # Compress data using GZIP compression
    gzip_data = BytesIO()
    with gzip.GzipFile(fileobj=gzip_data, mode='wb') as gz:
        gz.write(byte_data)
    data = gzip_data.getvalue()

    # Upload compressed data to S3 Glacier
    client.upload_archive(vaultName=bucket_name, body=data)

    # Log output to CloudWatch
    print('Data uploaded to S3 Glacier.')

    # Return success message
    return 'Success'
  1. 将Lambda函数连接到DMS任务

在DMS任务中设置Lambda函数作为目标端点,并将输入映射到Lambda函数的输入参数。在AWS管理控制台中启动DMS任务之前,请确保按照以下格式创建表映射:

{
    "TableName": "my_table_name",
    "TableMappings": [
        {
            "Type": "Include",
            "SourceSchema": "my_source_schema",
            "SourceTable": "my_source_table",
            "TargetTable": "my_target_table",
            "TargetSchema": "my_target_schema",
            "MappingProperties": {}
        }
    ],
    "TargetEndpointArn": "arn:aws:dms:us-east-1:123456789012:endpoint:QJLTZ7VV5YB6OQF435DG5PR73M",
    "ReplicationInstanceArn": "arn:aws:dms:us-east-1:123456789012:rep:3H5PB45D9JPYSOI25LVGNAE5GI",
    "MigrationType": "full-load",
    "TableMappingsEnabled": true,
    "StreamEnabled":

相关内容

热门资讯

关于!微信微乐自建房辅助工具,... 关于!微信微乐自建房辅助工具,微乐家乡麻将自建房辅助app(开挂自建房)方法1)微乐家乡麻将自建房辅...
大家学习交流!微信卡五星辅助器... 大家学习交流!微信卡五星辅助器,微乐小程序免费黑科技(开挂自建房)方法1、很好的工具软件,可以解锁游...
三分钟了解!微乐微信自建房辅助... 三分钟了解!微乐微信自建房辅助工具插件,微乐家乡麻将自建房辅助app(开挂自建房)工具1、三分钟了解...
一分钟教会你!微乐家乡麻将自建... 一分钟教会你!微乐家乡麻将自建房辅助app,微乐自建房脚本免费入口(开挂自建房)方法1、用户打开应用...
分享实测!微信微乐自建房辅助工... 分享实测!微信微乐自建房辅助工具,微乐自建房脚本免费入口(开挂自建房)器1、起透看视 微信微乐自建房...
重大通报!微乐自建房辅助工具脚... 重大通报!微乐自建房辅助工具脚本,微乐小程序免费黑科技(开挂自建房)app微乐自建房辅助工具脚本破解...
如何分辨真伪!微乐微信自建房辅... 如何分辨真伪!微乐微信自建房辅助工具插件,微乐小程序免费黑科技(开挂自建房)技巧1、微乐微信自建房辅...
我来教教你!微乐自建房辅助工具... 我来教教你!微乐自建房辅助工具挂,微乐家乡麻将自建房辅助app(开挂自建房)工具1、玩家可以在微乐家...
重大来袭!微乐自建房辅助工具神... 重大来袭!微乐自建房辅助工具神器,微乐小程序免费黑科技(开挂自建房)器1、游戏颠覆性的策略玩法,独创...
带你了解!微信卡五星辅助器,微... 带你了解!微信卡五星辅助器,微乐自建房脚本免费入口(开挂自建房)方法1、带你了解!微信卡五星辅助器,...