ApacheBeamDataFlowRunner在数据存储器写入/在ramp-up期间强制执行节流时抛出错误
创始人
2024-09-05 11:01:02
0

在 DataflowRunner 中,EnforceRampUp 用于控制计算资源的跃升,即根据数据流的负载和计算资源的状况来逐渐增加并发执行的工作数量。禁用此选项后,始终使用任务的最大并发度。

对于 DataStore 的写入,EnforceRampUp 可以导致每个任务以低于预期的速率执行,从而增加总任务时间,并可能导致资源的浪费。

因此,建议将 --experiments=disable_slow_start=true 添加到 DataflowPipelineOptions 的选项中,以禁用慢启动并在任务启动时立即使用最大并发度。这会大大减少写入到 DataStore 的任务所需的总时间。

示例代码:

from apache_beam.options.pipeline_options import PipelineOptions
from apache_beam.options.pipeline_options import GoogleCloudOptions
from apache_beam.options.pipeline_options import StandardOptions
from apache_beam.options.pipeline_options import WorkerOptions

options = PipelineOptions()
google_cloud_options = options.view_as(GoogleCloudOptions)
google_cloud_options.project = 'my_project'
google_cloud_options.region = 'us-central1'
google_cloud_options.job_name = 'my_job_name'
worker_options = options.view_as(WorkerOptions)
worker_options.disk_size_gb = 100
worker_options.autoscaling_algorithm = 'NONE'
standard_options = options.view_as(StandardOptions)
standard_options.runner = 'DataflowRunner'

experimental_options = options.view_as(ExperimentalOptions)
experimental_options.add_experiment("disable_slow_start=true")

相关内容

热门资讯

开挂透视!wepoker透视功... 开挂透视!wepoker透视功能下载,aapoker怎么设置提高好牌几率,办法教程(有挂攻略)-哔哩...
必备透视!拱趴大菠萝辅助神器!... 必备透视!拱趴大菠萝辅助神器!都是是真的有辅助app(有挂细节)-哔哩哔哩;1、拱趴大菠萝辅助神器公...
揭幕透视!aapoker辅助器... 揭幕透视!aapoker辅助器是真的吗,werplan脚本,教程书教程(有挂透明挂)-哔哩哔哩1、a...
曝光透视!拱趴大菠萝万能挂!竟... 曝光透视!拱趴大菠萝万能挂!竟然是真的有辅助软件(发现有挂)-哔哩哔哩拱趴大菠萝万能挂辅助器是一种具...
关于透视!德普之星app安卓版... 关于透视!德普之星app安卓版破解版,哈糖大菠萝有挂吗5个常用方法,办法教程(了解有挂)-哔哩哔哩1...
详细透视!德州透视是真的吗!一... 详细透视!德州透视是真的吗!一直是有辅助技巧(果真有挂)-哔哩哔哩德州透视是真的吗能透视中分为三种模...
辅助透视!wpk俱乐部怎么作必... 辅助透视!wpk俱乐部怎么作必弊,xpoker辅助,模块教程(真是有挂)-哔哩哔哩wpk俱乐部怎么作...
普及透视!德州局透视脚本下载安... 普及透视!德州局透视脚本下载安装最新版本!一贯是有辅助教程(有挂秘籍)-哔哩哔哩1、上手简单,内置详...
普及透视!wepoker辅助工... 普及透视!wepoker辅助工具,hardrock作必弊,项目教程(有挂详情)-哔哩哔哩1、起透看视...
详情透视!pokemmo脚本!... 详情透视!pokemmo脚本!都是一直都是有辅助技巧(有挂教程)-哔哩哔哩1、许多玩家不知道poke...