ApacheAirflow中的DataflowTemplatedJobStartOperator未按预期设置作业区域。
创始人
2024-09-05 10:00:13
0

可以通过在Airflow DAG中设置operator实例的job_name参数来解决此问题。在job_name参数中,可以使用Jinja模板语言包含BigQuery Job的项目ID和区域。

以下是一些示例代码:

from airflow import DAG
from airflow.contrib.operators.dataflow_operator import DataflowTemplatedJobStartOperator
from datetime import datetime

default_args = {
    'owner': 'airflow',
    'start_date': datetime(2020, 1, 1)
}

dag = DAG('my_dag', default_args=default_args, schedule_interval=None)

job_name = 'my_job_{{ ds_nodash }}'
project_id = 'my_project_id'
region = 'us-central1'

start_operator = DataflowTemplatedJobStartOperator(
    task_id='start_operator',
    job_name=job_name,
    project_id=project_id,
    region=region,
    template='gs://my-bucket/my-template.json',
    parameters={
        'input': 'gs://my-input-bucket/my-input.txt',
        'output': 'gs://my-output-bucket/my-output.txt',
    },
    dag=dag
)

在上面的代码中,job_name参数使用了Jinja模板语言,它将在每次运行DAG时设置为"my_job_{{ ds_nodash }}",其中ds_nodash是日期字符串,以实现唯一的作业ID。项目ID和区域在整个DAG中是常量,因此它们在Airflow DAG设置中直接设置。这样,DataflowTemplatedJobStartOperator将正确设置作业区域,并使用指定的项目ID启动作业。

相关内容

热门资讯

盘点一款!填大坑辅助工具排行,... 盘点一款!填大坑辅助工具排行,wpk刷入池率脚本,大神讲解(揭秘有挂);1.填大坑辅助工具排行 ai...
一起来探讨!决战13水辅助,w... 您好:决战13水辅助这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌特...
一分钟揭秘!丽水双扣茶苑脚本,... 一分钟揭秘!丽水双扣茶苑脚本,xpoker辅助控制,2025教程(有挂解惑)是一款可以让一直输的玩家...
今日百科!腾讯欢乐卡五星辅助器... 今日百科!腾讯欢乐卡五星辅助器,wepoker安装教程,2025新版(有挂神器)是一款可以让一直输的...
玩家必看科普!微信小程序外辅助... 玩家必看科普!微信小程序外辅助工具,pokernow辅助工具,力荐教程(有挂攻略);1、界面简单,没...
一分钟教会你!授权二厅辅助,w... 《一分钟教会你!授权二厅辅助,wpk有那种辅助吗,黑科技教程(果真有挂)》 授权二厅辅助软件透明挂更...
安装程序教程!小程序牵手跑得有... 安装程序教程!小程序牵手跑得有辅助器,pokernow辅助工具,揭秘教程(发现有挂);一、小程序牵手...
大家学习交流!创思维激k软件助... 大家学习交流!创思维激k软件助手,wepoker黑侠破解,2025教程(有挂方法)是一款可以让一直输...
总算清楚!奇迹免费脚本辅助工具... 总算清楚!奇迹免费脚本辅助工具,xpoker辅助工具,系统教程(有挂方式);相信小伙伴都知道这个奇迹...
总算清楚!手游游戏挂机辅助,w... 总算清楚!手游游戏挂机辅助,wpk真的有透视嘛,安装教程(竟然有挂);1、总算清楚!手游游戏挂机辅助...