Apache Airflow - 如何在目标DAG中使用TriggerDagRunOperator设置execution_date以使用当前execution_date
创始人
2024-09-03 12:01:07
0次

要在目标DAG中使用TriggerDagRunOperator设置execution_date以使用当前execution_date,可以按照以下步骤进行操作:

  1. 首先,确保你已经按照文档正确安装和配置了Apache Airflow。

  2. 在目标DAG文件中,导入所需的模块和操作符:

from airflow import DAG
from airflow.operators.dagrun_operator import TriggerDagRunOperator
from datetime import datetime
  1. 定义一个函数,用于获取当前的execution_date并将其传递给TriggerDagRunOperator的execution_date参数。这可以通过在函数内部使用datetime.now().strftime('%Y-%m-%d')来实现:
def get_current_execution_date(**context):
    return datetime.now().strftime('%Y-%m-%d')
  1. 创建一个DAG对象,并定义所需的参数,包括DAG的名称、运行时间表和默认参数:
dag = DAG(
    'target_dag',
    schedule_interval='0 0 * * *',  # 每天午夜运行一次
    default_args={
        'owner': 'airflow',
        'start_date': datetime(2022, 1, 1),
        'retries': 1,
        'retry_delay': timedelta(minutes=5)
    }
)
  1. 创建一个TriggerDagRunOperator对象,并将其添加到DAG中。确保将provide_context=True传递给TriggerDagRunOperator,以便可以在get_current_execution_date函数中访问上下文:
trigger_dag_run = TriggerDagRunOperator(
    task_id='trigger_dag_run',
    trigger_dag_id='target_dag',
    execution_date="{{ ti.xcom_pull(task_ids='get_execution_date') }}",
    provide_context=True,
    dag=dag
)
  1. 创建一个获取当前execution_date的任务,并将其添加到DAG中。将get_current_execution_date函数作为PythonOperator的参数传递,并将任务的task_id设置为get_execution_date:
get_execution_date = PythonOperator(
    task_id='get_execution_date',
    python_callable=get_current_execution_date,
    provide_context=True,
    dag=dag
)
  1. 使用get_execution_date任务作为trigger_dag_run任务的依赖项:
get_execution_date >> trigger_dag_run
  1. 最后,保存并运行你的DAG。当DAG运行时,trigger_dag_run任务将使用当前的execution_date来触发目标DAG的运行。

请注意,如果你希望在目标DAG中使用当前execution_date,你还需要在目标DAG的任务中使用provide_context=True,以便可以从上下文中获取execution_date。

相关内容

热门资讯

专业讨论!wepoker模拟器... wepoker模拟器哪个好用AI 游戏攻略黑科技上线本地缓存功能,离线查阅能力开挂。提前下载对应游戏...
重大消息!wpk有那种辅助吗,... 重大消息!wpk有那种辅助吗,WPK有挂吗教程(先前有开挂)AI 智能体黑科技再上新,自动化能力开挂...
推荐几款新版!wepoker底... 您好:wepoker底牌透视这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用...
总算了解!wpk有作弊吗,德普... 总算了解!wpk有作弊吗,德普之星外卦神器软件教程(竟然有开挂)AI 智能体黑科技再上新,自动化能力...
大神推荐!wepoker透视脚... wepoker透视脚本免费AI 游戏攻略黑科技上线本地缓存功能,离线查阅能力开挂。提前下载对应游戏攻...
避坑细节!如何下载德普之星辅助... 『标题:当前标题』主打赛后复盘的 AI 游戏攻略黑科技走红,对局总结能力开挂。上传对局回放或者战绩截...
一分钟了解!!wepoker辅... AI 黑科技赛道又上新,这款智能处理工具堪称效率开挂,专门面向短视频创作者打造。它打通脚本撰写、AI...
玩家科普!wpk真的有透视嘛,... 玩家科普!wpk真的有透视嘛,WPK透视脚本工具(好像存在有辅助挂)AI 智能体黑科技再上新,自动化...
一分钟揭秘!德普之星辅助工具如... 您好:德普之星辅助工具如何打开这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多...
大家学习交流!wepoker游... 您好:wepoker游戏安装教程这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很...