AWSKinesisFirehose的JSON数据超过了put_record限制,有无解决方法?
创始人
2024-09-26 01:30:16
0

如果JSON数据超过了AWS Kinesis Firehose的put_record限制(1MB),可以使用put_record_batch API发送多个记录。以下是代码示例:

import boto3 import json

client = boto3.client('firehose', region_name='us-east-1')

def upload_records(records): response = client.put_record_batch( DeliveryStreamName='my_delivery_stream_name', Records=records ) failed_put_count = response['FailedPutCount'] if failed_put_count > 0: failed_records = [] for idx, res in enumerate(response['RequestResponses']): if 'ErrorCode' in res: failed_records.append(records[idx]) # 处理失败的记录 handle_failed_records(failed_records)

def handle_failed_records(failed_records): # 确定如何处理失败的记录 pass

准备记录,将它们分割成1MB以下的块

data = {} records = [] for record in list_of_records: data.update(record) record_bytes = json.dumps(data).encode('utf-8') if len(record_bytes) > 1000000: # 记录是太大了,将其发送并开始新的记录 upload_records(records) records = [record_bytes] data = record else: # 记录添加到记录列表中 records.append(record_bytes) upload_records(records) # 发送剩余的记录

请注意,put_record_batch API有一个可配置的RecordBatchSize字段,可以使用它来改变批量传送的大小。但是,您需要小心,因为调整大小可能会影响吞吐量。

相关内容

热门资讯

6分钟辅助!hhpoker是真... 6分钟辅助!hhpoker是真的假的,hhpoker真的有透视吗,演示教程(真是有挂)1、每一步都需...
第七分钟辅助!we poker... 第七分钟辅助!we poker插件,we poker免费辅助器,手筋教程(有挂方式)暗藏猫腻,小编详...
七分钟辅助!aa poker辅... 七分钟辅助!aa poker辅助包,pokemmo脚本辅助器下载,讲义教程(有挂秘籍)1、pokem...
第四分钟辅助!wepoker辅... 第四分钟辅助!wepoker辅助器安装包定制,aapoker透视脚本,大纲教程(有挂总结)所有人都在...
第四分钟辅助!wpk透视辅助靠... 第四分钟辅助!wpk透视辅助靠谱吗,wepoker透视苹果系统,诀窍教程(有挂猫腻);运wepoke...
七分钟辅助!aapoker透视... 七分钟辅助!aapoker透视脚本入口,wejoker开挂,学习教程(有挂教程)1、打开软件启动之后...
第四分钟辅助!淘宝买wepok... 第四分钟辅助!淘宝买wepoker透视有用吗,wpk俱乐部怎么作弊,积累教程(有挂规律)1、下载好淘...
6分钟辅助!we-poker软... 6分钟辅助!we-poker软件,购买的wpk辅助在哪里下载,积累教程(有挂技巧)购买的wpk辅助在...
第2分钟辅助!如何下载wepo... 第2分钟辅助!如何下载wepoker安装包,newpoker怎么安装脚本,教程书教程(今日头条)1、...
4分钟辅助!wepoker钻石... 4分钟辅助!wepoker钻石怎么看底牌,wepoker辅助器有哪些功能,法门教程(有挂详细)该软件...