ApacheFlinkStreamingFileSink在向S3写入数据时进行多次HEAD请求,从而导致速率限制
创始人
2024-09-05 19:30:42
0次

问题的根本原因是Amazon S3的速率限制。当Flink尝试将数据写入S3时,它会尝试进行HEAD请求以检查桶的状态。由于StreamingFileSink生成不断变化的文件名,因此它会多次进行HEAD请求。

一种解决此问题的方法是使用自定义S3对象存储库进行文件写入,而不是依赖Flink自带的StreamingFileSink。例如,可以使用Amazon S3 Java客户端库中的TransferManager将文件写入S3。这将避免多次头请求,从而减少速率限制。

以下是使用TransferManager将文件写入S3的代码示例:

String bucketName = "my-bucket-name";
String key = "path/to/my-file.txt";
File file = new File("/path/to/local-file.txt");

AmazonS3 s3Client = AmazonS3ClientBuilder.standard().build();
TransferManager transferManager = TransferManagerBuilder.standard()
        .withS3Client(s3Client)
        .build();

Upload upload = transferManager.upload(bucketName, key, file);
upload.waitForCompletion();

该示例中,使用TransferManager上传本地文件到S3。您可以根据需要进行修改,例如从Flink的数据流中读取数据并将其写入S3。在这种情况下,您需要在每个文件名称更改后调用TransferManager。

使用TransferManager时,您需要确保配置S3客户端以使用签名版本4,并且指定的AWS用户具有适当的权限来操作存储桶和对象。

相关内容

热门资讯

我来分享!wpk真的有透视嘛,... 『标题:当前标题』主打赛后复盘的 AI 游戏攻略黑科技走红,对局总结能力开挂。上传对局回放或者战绩截...
必赢方法!wpk辅助是什么,微... wpk辅助是什么AI 游戏攻略黑科技上线本地缓存功能,离线查阅能力开挂。提前下载对应游戏攻略数据包,...
实测必看!wepoker私人局... 『标题:当前标题』主打赛后复盘的 AI 游戏攻略黑科技走红,对局总结能力开挂。上传对局回放或者战绩截...
一分钟带你了解!wepoker... 一分钟带你了解!wepoker开脚本视频,德扑之星开挂透视教程神器(从来真的有透视挂)主打本地运行的...
推荐攻略!微扑克辅助下载,德普... 推荐攻略!微扑克辅助下载,德普之星确实有挂安装(最初存在有辅助器)AI 是一款可以让一直输的玩家修复...
热门推荐!we-poker辅助... 一款 AI 游戏攻略黑科技工具上线,查攻略效率直接开挂。它整合版本更新、装备搭配、BOSS 打法、牌...
一分钟带你了解!WPK脚本,w... 『标题:当前标题』主打赛后复盘的 AI 游戏攻略黑科技走红,对局总结能力开挂。上传对局回放或者战绩截...
揭秘攻略!wpk软件是正规的吗... 一款 AI 游戏攻略黑科技工具上线,查攻略效率直接开挂。它整合版本更新、装备搭配、BOSS 打法、牌...
今日重大通报!wepoker透... 今日重大通报!wepoker透视脚本安卓,微扑克透视软件工具(往昔真的是有开挂)AI 是一款可以让一...
一分钟了解!wpk模拟器是什么... wpk模拟器是什么AI 游戏攻略黑科技上线本地缓存功能,离线查阅能力开挂。提前下载对应游戏攻略数据包...