Avro:生产者和消费者之间避免共享`Schema`是否可行?
创始人
2024-11-13 08:30:34
0次

在Avro中,生产者和消费者之间共享Schema是必要的。但是,可以通过在消息中包含Schema的方式来避免直接共享Schema。

下面是一个示例,演示如何在Avro中使用生产者和消费者之间的消息来包含Schema。

首先,我们需要定义一个Avro的Schema,例如一个包含name和age字段的用户信息:

String userSchema = "{\"type\":\"record\",\"name\":\"User\",\"fields\":[{\"name\":\"name\",\"type\":\"string\"},{\"name\":\"age\",\"type\":\"int\"}]}";

接下来,我们需要创建一个生产者,用于将用户信息发送到消息队列中:

Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer", "io.confluent.kafka.serializers.KafkaAvroSerializer");
props.put("schema.registry.url", "http://localhost:8081");

Producer producer = new KafkaProducer<>(props);

GenericRecord user = new GenericData.Record(new Schema.Parser().parse(userSchema));
user.put("name", "John");
user.put("age", 30);

ProducerRecord record = new ProducerRecord<>("user-topic", "key", user);
producer.send(record);
producer.close();

然后,我们需要创建一个消费者,用于从消息队列中接收用户信息:

Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer", "io.confluent.kafka.serializers.KafkaAvroDeserializer");
props.put("schema.registry.url", "http://localhost:8081");
props.put("specific.avro.reader", "true");

KafkaConsumer consumer = new KafkaConsumer<>(props);
consumer.subscribe(Collections.singletonList("user-topic"));

while (true) {
    ConsumerRecords records = consumer.poll(Duration.ofMillis(100));
    for (ConsumerRecord record : records) {
        GenericRecord user = record.value();
        System.out.println("Name: " + user.get("name") + ", Age: " + user.get("age"));
    }
}

在这个示例中,生产者将用户信息发送到名为user-topic的Kafka主题中。消费者从该主题中读取消息,并将用户信息打印到控制台。

在生产者和消费者中,我们都使用了KafkaAvroSerializer和KafkaAvroDeserializer来序列化和反序列化Avro记录。同时,我们还指定了Schema注册表的URL,以便获取正确的Schema。

通过在消息中包含Schema,我们可以避免直接共享Schema,而是让消费者从消息中提取Schema信息。这样,生产者和消费者可以独立地演化其Schema,而不会相互依赖。

相关内容

热门资讯

专业讨论!wepoker模拟器... wepoker模拟器哪个好用AI 游戏攻略黑科技上线本地缓存功能,离线查阅能力开挂。提前下载对应游戏...
重大消息!wpk有那种辅助吗,... 重大消息!wpk有那种辅助吗,WPK有挂吗教程(先前有开挂)AI 智能体黑科技再上新,自动化能力开挂...
推荐几款新版!wepoker底... 您好:wepoker底牌透视这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用...
总算了解!wpk有作弊吗,德普... 总算了解!wpk有作弊吗,德普之星外卦神器软件教程(竟然有开挂)AI 智能体黑科技再上新,自动化能力...
大神推荐!wepoker透视脚... wepoker透视脚本免费AI 游戏攻略黑科技上线本地缓存功能,离线查阅能力开挂。提前下载对应游戏攻...
避坑细节!如何下载德普之星辅助... 『标题:当前标题』主打赛后复盘的 AI 游戏攻略黑科技走红,对局总结能力开挂。上传对局回放或者战绩截...
一分钟了解!!wepoker辅... AI 黑科技赛道又上新,这款智能处理工具堪称效率开挂,专门面向短视频创作者打造。它打通脚本撰写、AI...
玩家科普!wpk真的有透视嘛,... 玩家科普!wpk真的有透视嘛,WPK透视脚本工具(好像存在有辅助挂)AI 智能体黑科技再上新,自动化...
一分钟揭秘!德普之星辅助工具如... 您好:德普之星辅助工具如何打开这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多...
大家学习交流!wepoker游... 您好:wepoker游戏安装教程这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很...