ApacheFlinkStreamingFileSink在向S3写入数据时进行多次HEAD请求,从而导致速率限制
创始人
2024-09-05 19:30:42
0

问题的根本原因是Amazon S3的速率限制。当Flink尝试将数据写入S3时,它会尝试进行HEAD请求以检查桶的状态。由于StreamingFileSink生成不断变化的文件名,因此它会多次进行HEAD请求。

一种解决此问题的方法是使用自定义S3对象存储库进行文件写入,而不是依赖Flink自带的StreamingFileSink。例如,可以使用Amazon S3 Java客户端库中的TransferManager将文件写入S3。这将避免多次头请求,从而减少速率限制。

以下是使用TransferManager将文件写入S3的代码示例:

String bucketName = "my-bucket-name";
String key = "path/to/my-file.txt";
File file = new File("/path/to/local-file.txt");

AmazonS3 s3Client = AmazonS3ClientBuilder.standard().build();
TransferManager transferManager = TransferManagerBuilder.standard()
        .withS3Client(s3Client)
        .build();

Upload upload = transferManager.upload(bucketName, key, file);
upload.waitForCompletion();

该示例中,使用TransferManager上传本地文件到S3。您可以根据需要进行修改,例如从Flink的数据流中读取数据并将其写入S3。在这种情况下,您需要在每个文件名称更改后调用TransferManager。

使用TransferManager时,您需要确保配置S3客户端以使用签名版本4,并且指定的AWS用户具有适当的权限来操作存储桶和对象。

相关内容

热门资讯

盘点十款!胡易辅助软件,wep... 盘点十款!胡易辅助软件,wepoker轻量版书签,科技教程(有挂猫腻);胡易辅助软件软件透明挂更新新...
总算明白!海豹3+1辅助器,桂... 总算明白!海豹3+1辅助器,桂林字牌辅助(都是有挂)小薇(辅助器软件下载)致您一封信;亲爱海豹3+1...
热点推荐!安卓闲逸辅助,wep... 热点推荐!安卓闲逸辅助,wepoker有辅助插件吗,科技教程(确实有挂);一、安卓闲逸辅助有挂的是的...
实测必看!盛世2私人辅助,79... 实测必看!盛世2私人辅助,798大菠萝辅助(好像是真的有挂)运盛世2私人辅助辅助工具,进入游戏界面。...
揭秘真相!江西微乐南昌有辅助,... 揭秘真相!江西微乐南昌有辅助,德州透视竞技联盟,解密教程(有挂猫腻);1.江西微乐南昌有辅助 ai辅...
交流学习经验!陕麻圈辅助器透视... 交流学习经验!陕麻圈辅助器透视开挂,福麻圈辅助(其实是有挂)陕麻圈辅助器透视开挂辅助器是一种具有地方...
玩家必看科普!白银胡乐亲友房,... 您好,白银胡乐亲友房这款游戏可以开挂的,确实是有挂的,需要了解加微【136704302】很多玩家在这...
玩家必看科普!多乐跑辅助,情怀... 玩家必看科普!多乐跑辅助,情怀游戏辅助器(好像真的有挂)1、玩家必看科普!多乐跑辅助,情怀游戏辅助器...
重大通报!边锋干瞪眼辅助,we... 您好:边锋干瞪眼辅助这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌特...
科技新动态!闲来辅助神器下载,... 科技新动态!闲来辅助神器下载,jj斗地主麻将外卦挂(切实是真的有挂)1、点击下载安装,jj斗地主麻将...