ApacheBeam从Kafka进行流式处理,在固定时间窗口内将数据写入文件时不起作用。
创始人
2024-09-05 11:01:00
0

使用以下 Beam 代码来从 Kafka 读取数据并将其写入到文件中,每 10 秒钟创建一个新文件:

import apache_beam as beam
from apache_beam import window
from apache_beam.transforms.trigger import AfterProcessingTime

# Kafka configuration
KAFKA_BOOTSTRAP_SERVERS = ''
KAFKA_TOPIC = ''

# Beam pipeline configuration
OUTPUT_DIR = ''

# Pipeline
def run():
    with beam.Pipeline() as p:
        records = (
            p
            | 'ReadFromKafka' >> beam.io.ReadFromKafka(
                consumer_config={'bootstrap.servers': KAFKA_BOOTSTRAP_SERVERS},
                topics=[KAFKA_TOPIC],
            )
            | 'Format' >> beam.Map(lambda r: str(r.value, 'utf-8'))
            | 'Window' >> beam.WindowInto(window.FixedWindows(10))
            | 'WriteToFiles' >> beam.io.WriteToText(
                OUTPUT_DIR,
                file_name_suffix='.txt'
            )
        )

if __name__ == '__main__':
    run()

这段代码定义了一个 Beam 管道,它包含从 Kafka 读取记录、转换记录、应用固定窗口和将数据写入文本文件的步骤。这里的窗口大小为10秒钟,并且每10秒钟都会创建一个新文件。

相关内容

热门资讯

总结透视!pokerworld... 总结透视!pokerworld修改器,hhpoker的辅助是真的吗,手册教程(有挂方法)-哔哩哔哩1...
专业透视!pokemmo手机辅... 专业透视!pokemmo手机辅助软件!好像存在有辅助软件(有挂讲解)-哔哩哔哩1、下载好pokemm...
分享透视!拱趴大菠萝有挂吗,w... 分享透视!拱趴大菠萝有挂吗,wepoker可以开透视吗,举措教程(有挂头条)-哔哩哔哩;1、wepo...
辅助透视!福建大菠萝万能辅助器... 辅助透视!福建大菠萝万能辅助器!原来是有辅助app(有挂透视)-哔哩哔哩1、福建大菠萝万能辅助器辅助...
详细透视!德州局透视脚本下载安... 详细透视!德州局透视脚本下载安装最新版本,德普之星app安卓版破解版,绝活教程(有挂秘籍)-哔哩哔哩...
曝光透视!拱趴大菠萝挂!确实一... 曝光透视!拱趴大菠萝挂!确实一直都是有辅助技巧(有人有挂)-哔哩哔哩拱趴大菠萝挂破解侠是真的助透视。...
解迷透视!wejoker私人辅... 解迷透视!wejoker私人辅助软件,智星菠萝有挂吗,手段教程(有挂讲解)-哔哩哔哩1、wejoke...
解迷透视!拱趴游戏破解器!竟然... 解迷透视!拱趴游戏破解器!竟然是真的有辅助脚本(有挂细节)-哔哩哔哩一、拱趴游戏破解器游戏安装教程牌...
详情透视!poker红龙辅助,... 详情透视!poker红龙辅助,wepoker软件靠谱么,学习教程(竟然有挂)-哔哩哔哩1、wepok...
教你透视!pokemmo脚本辅... 教你透视!pokemmo脚本辅助器下载!其实存在有辅助软件(有挂教学)-哔哩哔哩1、玩家可以在pok...