ApacheFlink-将流写入S3出现错误-nulluri主机
创始人
2024-09-05 19:00:48
0

该错误通常是由于在 S3 路径中指定的“bucket”或“key”存在错误或未设置所导致的。将正确的 S3 bucket 和 key 传递给输出操作符即可解决此问题。以下是示例代码:

import org.apache.flink.streaming.api.functions.sink.filesystem.StreamingFileSink;
import org.apache.flink.streaming.api.functions.sink.filesystem.bucketassigners.BasePathBucketAssigner;
import org.apache.flink.streaming.api.functions.sink.filesystem.bucketassigners.DateTimeBucketAssigner;
import org.apache.flink.streaming.api.functions.sink.filesystem.bucketassigners.SimpleVersionedStringSerializer;
import org.apache.flink.streaming.api.functions.sink.filesystem.rollingpolicies.DefaultRollingPolicy;
import org.apache.flink.streaming.api.functions.sink.filesystem.rollingpolicies.OnCheckpointRollingPolicy;

StreamingFileSink s3Sink = StreamingFileSink
    .forBulkFormat(new Path(s3OutputPath), ParquetAvroWriters.forReflectRecord(MyRecord.class))
    .withBucketAssigner(new DateTimeBucketAssigner(s3OutputPath + "/${yyyy-MM-dd}/", "UTC"))
    .withBucketCheckInterval(1 * 60 * 1000L)
    .withRollingPolicy(
        DefaultRollingPolicy.builder()
            .withMaxPartSize(256 * 1024 * 1024)
            .withRolloverInterval(60 * 60 * 1000L)
            .withInactivityInterval(10 * 60 * 1000L)
            .build())
    .withOutputFileConfig(OutputFileConfig
        .builder()
        .withPartPrefix("data")
        .withPartSuffix(".snappy.parquet")
        .build())
    .build();

stream.addSink(s3Sink)
    .setParallelism(1)
    .name("s3Sink");

在上面的示例代码中,正确的 S3 bucket 和 key 已经传递给了 BucketAssigner:“DateTimeBucketAssigner(s3OutputPath + "/${yyyy-MM-dd}/", "UTC")”。如果您的代码中的路径有误,请检查并更正。

相关内容

热门资讯

四分钟辅助挂!开心十三张辅助器... 四分钟辅助挂!开心十三张辅助器(透视)详细辅助安装教程(2025已更新)(抖音)1、起透看视 开心十...
2分钟辅助挂!中至吉安麻将有挂... 2分钟辅助挂!中至吉安麻将有挂吗(透视)详细辅助工具教程(2021已更新)(百度贴吧)1、构建自己的...
8分钟辅助挂!钱塘十三水怎么刷... 8分钟辅助挂!钱塘十三水怎么刷好牌(透视)详细辅助脚本教程(2021已更新)(百度贴吧)该软件可以轻...
一分钟辅助挂!哈灵辅助插件如何... 一分钟辅助挂!哈灵辅助插件如何下载(辅助挂)详细辅助黑科技教程(2025已更新)(百度)在进入哈灵辅...
2分钟辅助挂!吉祥麻将手机版有... 2分钟辅助挂!吉祥麻将手机版有挂吗(透视)详细辅助安装教程(2022已更新)(头条);吉祥麻将手机版...
4分钟辅助挂!闽游麻将十三水怎... 4分钟辅助挂!闽游麻将十三水怎么提升胜率(透视)详细辅助插件教程(2024已更新)(微博热搜)一、闽...
十分钟辅助挂!友控骨牌有外挂吗... 十分钟辅助挂!友控骨牌有外挂吗(透视)详细辅助插件教程(2022已更新)(头条)友控骨牌有外挂吗辅助...
四分钟辅助挂!财神十三张可以开... 四分钟辅助挂!财神十三张可以开挂吗(辅助挂)详细辅助器教程(2022已更新)(哔哩哔哩)财神十三张可...
七分钟辅助挂!麻友圈2外挂安卓... 七分钟辅助挂!麻友圈2外挂安卓版(透视)详细辅助APP教程(2022已更新)(微博热搜)1)麻友圈2...
1分钟辅助挂!同城上饶棋牌有挂... 1分钟辅助挂!同城上饶棋牌有挂吗(透视)详细辅助安装教程(2022已更新)(哔哩哔哩)1、玩家可以在...