Apachebeam、GoogleDataflow中的“finish_bundle”方法执行多次。
创始人
2024-09-05 12:30:33
0

这个问题通常是由于worker或pipeline在运行时出现异常而导致的。针对这种情况,可以使用try except块来捕捉这些异常并确保“finish_bundle”仅被执行一次。

以下是示例代码:

class MyDoFn(beam.DoFn):
    def process(self, element):
        try:
            # do some processing here
            yield BeamRecord
        except:
            # handle exception here
        finally:
            # ensure that finish_bundle is only executed once
            with self._lock:
                if self._should_finish_bundle:
                    self._should_finish_bundle = False
                    yield beam.pvalue.TaggedOutput('finished', None)
                        
    def finish_bundle(self):
        with self._lock:
            self._should_finish_bundle = True

pipeline = beam.Pipeline(options=options)
(pipeline
    | "Read input" >> beam.io.ReadFromText(input_file)
    | "Process elements" >> beam.ParDo(MyDoFn()).with_outputs('finished))
result = pipeline.run()

在这个示例中,我们定义了一个名为“MyDoFn”的DoFn类,并使用属性“self._should_finish_bundle”来跟踪一个worker是否应该执行“finish_bundle”。如果出现异常,则将其处理并不执行“finish_bundle”。在任何情况下,如果_worker_存在于_finish_bundle中,则使用一个_lock_确保它只执行一次。由于_finish_bundle是耗时操作,因此在确保它只被执行一次的同时有助于保持Beam管道的高效性。

相关内容

热门资讯

2026外挂!雀友会广东潮汕麻... 2026外挂!雀友会广东潮汕麻将辅助软件,芒果辅助器(好像是有挂)1、用户打开应用后不用登录就可以直...
2026外挂!哈糖大菠萝辅助,... 2026外挂!哈糖大菠萝辅助,奇迹手游辅助脚本平台免费(一直真的有挂)1、奇迹手游辅助脚本平台免费脚...
2026外挂!辅助定制交易平台... 2026外挂!辅助定制交易平台,情怀破解(本来有挂)1、起透看视 辅助定制交易平台辅助软件价格2、随...
2026外挂!九酷众游软件,5... 2026外挂!九酷众游软件,510k中至余干辅助(原来真的是有挂)1、玩家可以在510k中至余干辅助...
2026外挂!极速官方游戏暗堡... 2026外挂!极速官方游戏暗堡辅助器,楚天游辅助(其实存在有挂)1、上手简单,内置详细流程视频教学,...
2026外挂!免费游戏辅助软件... 2026外挂!免费游戏辅助软件,如何设置钱塘十三水辅助器(切实是真的有挂)1、2026外挂!免费游戏...
2026外挂!雀姬辅助脚本,微... 2026外挂!雀姬辅助脚本,微乐游戏辅助脚本安装(切实有挂)2026外挂!雀姬辅助脚本,微乐游戏辅助...
2026外挂!飞驰娱乐软件科技... 2026外挂!飞驰娱乐软件科技,科乐填大坑辅助器(切实真的有挂)1、科乐填大坑辅助器免费辅助多个强度...
2026外挂!皮皮胡子辅助,天... 2026外挂!皮皮胡子辅助,天天贵阳破解版(原来是真的有挂)天天贵阳破解版是不是有人用挂微扑克wpk...
2026外挂!科技实测欢乐辅助... 2026外挂!科技实测欢乐辅助,丽水都莱辅助软件(都是是有挂)小薇(辅助器软件下载)致您一封信;亲爱...