AWSKinesis中多个消费者从同一个shard中读取的问题。
创始人
2024-09-26 01:30:33
0

可以使用 AWS KCL (Kinesis Client Library) 库中的轮询程序来解决该问题。该程序会协调多个消费者,以确保每个 shard 中的每个数据记录仅被一个消费者读取。以下是使用 Java 编写的示例代码:

import com.amazonaws.services.kinesis.clientlibrary.lib.worker.KinesisClientLibConfiguration;
import com.amazonaws.services.kinesis.clientlibrary.lib.worker.Worker;

public class KCLMultiConsumerExample {

    private static final String APPLICATION_NAME = "my-kinesis-app";
    private static final String STREAM_NAME = "my-kinesis-stream";
    private static final String REGION_NAME = "us-east-1";

    public static void main(String[] args) {
        KinesisClientLibConfiguration config = new KinesisClientLibConfiguration(APPLICATION_NAME, STREAM_NAME)
                .withRegionName(REGION_NAME)
                .withWorkerIdentifier("worker-1")
                .withMaxRecords(1000)
                .withIdleTimeBetweenReadsInMillis(1000);

        Worker worker = new Worker.Builder()
                .recordProcessorFactory(new YourRecordProcessorFactory())
                .config(config)
                .build();

        worker.run();
    }
}

该示例代码创建了一个名为“my-kinesis-app”、使用名为“my-kinesis-stream”的流和位于“us-east-1”区域的 KCL 配置。使用了名为“worker-1”的应用程序标识符、每次最多处理 1000 条记录,并且在读取之间空闲了 1000 毫秒。将自定义的记录处理器工厂传递给工人构建器,该工厂将创建一组处理记录的记录处理器。最后,该工人运行并处理数据记录。

相关内容

热门资讯

透视详细!德州透视插件(透视)... 透视详细!德州透视插件(透视)hh poker软件,教程策略(存在有挂)-哔哩哔哩在进入德州透视插件...
透视辅助!sohoo poke... 透视辅助!sohoo poker辅助(透视)wepoker怎么提高运气,教程学习(有挂解密)-哔哩哔...
透视科普!hhpoker有透视... 透视科普!hhpoker有透视功能吗(透视)hhpoker德州真的假的,教程诀窍(了解有挂)-哔哩哔...
透视揭露!pokerrrr2辅... 透视揭露!pokerrrr2辅助(透视)wepoker辅助透视软件,教程资料(有挂攻略)-哔哩哔哩1...
透视教你!智星德州插件怎么下载... 透视教你!智星德州插件怎么下载(透视)aapoker脚本,教程手册(有挂攻略)-哔哩哔哩1、智星德州...
透视解密!约局吧辅助器(透视)... 透视解密!约局吧辅助器(透视)pokemmo内置修改器,教程指南书(真是有挂)-哔哩哔哩1、poke...
透视推荐!福建大菠萝万能辅助器... 透视推荐!福建大菠萝万能辅助器(透视)wepokerplus到底是挂了吗,教程模块(有挂技术)-哔哩...
透视解迷!uupoker有透视... 透视解迷!uupoker有透视吗(透视)德普之星透视,教程妙招(有挂教学)-哔哩哔哩1、透视解迷!u...
透视开挂!wepokerplu... 透视开挂!wepokerplus透视脚本免费(透视)德普辅助软件,教程手册(真实有挂)-哔哩哔哩1、...
透视解谜!德普之星辅助器app... 透视解谜!德普之星辅助器app(透视)拱趴大菠萝开挂方法,教程技法(证实有挂)-哔哩哔哩1)拱趴大菠...