BigQuery数据传输-数据回填与刷新
创始人
2024-12-12 18:30:32
0

在BigQuery数据传输中,数据回填和刷新是两种常用的数据迁移方式。数据回填用于将历史数据导入到BigQuery中,而数据刷新则用于将现有数据更新到BigQuery中。以下是实现这两种方法的代码示例:

  1. 数据回填示例:

使用BigQuery数据传输API在Python中实现数据回填:

from google.cloud import bigquery_datatransfer_v1
from google.protobuf.json_format import MessageToDict
client = bigquery_datatransfer_v1.DataTransferServiceClient()
PROJECT_ID = ''
DESTINATION_DATASET_ID = ''
TRANSFER_CONFIG_ID = ''
SOURCE_PROJECT_ID = ''
SOURCE_DATASET_ID = ''
TABLE_NAME = ''
RUN_TIME = ''
TRANSFER_CONFIG_NAME = client.transfer_config_path(PROJECT_ID, TRANSFER_CONFIG_ID)
request = {
    "parent": client.project_path(PROJECT_ID),
    "source_database": {
        "project_id": SOURCE_PROJECT_ID,
        "database_id": SOURCE_DATASET_ID
    },
    "destination_dataset_id": DESTINATION_DATASET_ID,
    "display_name": TRANSFER_CONFIG_NAME,
    "params": {
        "table_name_template": TABLE_NAME,
        "query": "",
        "destination_table_suffix": "",
        "data_path_template": "",
        "file_format": "",
        "field_delimiter": "",
        "skip_leading_rows": "",
        "destination_table_name_template": "",
        "overwrite_destination_table": False,
        "write_disposition": "",
        "partitioning_field": "",
        "partitioning_type": "",
        "start_time": RUN_TIME,
        "end_time": RUN_TIME,
        "schedule_options": {
            "disable_auto_scheduling": True,
            "start_time": None,
            "end_time": None,
            "schedule_end_time": None,
            "schedule_start_time": None,
            "schedule_duration": None,
            "disable_manual_runs": False,
            "schedule_display_timezone": "",
            "schedule_custom_timezone": None
        },
        "notification_pubsub_topic": "",
        "email_preferences": [],

相关内容

热门资讯

两分钟了解!决战十三水辅助器,... 1、两分钟了解!决战十三水辅助器,wepokewopoker透明挂(详细透视辅助挂教程)2、进入游戏...
十分钟黑科技!东游麻将软件打牌... 十分钟黑科技!东游麻将软件打牌,wepoke是有挂(详细透视辅助插件教程);1.东游麻将软件打牌 a...
五分钟介绍!老友麻将插件,来玩... 1、五分钟介绍!老友麻将插件,来玩德州辅助器(详细透视辅助脚本教程)2、进入游戏-大厅左侧-新手福利...
9分钟详情!老友汇外 挂,we... 9分钟详情!老友汇外 挂,wepork私人局有挂(详细透视辅助app教程);大神普及一款德州ai内幕...
8分钟规律!哈局十三张,微扑克... 您好,哈局十三张这款游戏可以开挂的,确实是有挂的,需要了解加微【136704302】很多玩家在这款游...
4分钟教程!至友互娱辅助器,w... WePoke高级策略深度解析‌;4分钟教程!至友互娱辅助器,wpk有(详细透视辅助app教程);计算...
9分钟攻略!白金岛放炮罚手气臭... 自定义白金岛放炮罚手气臭怎么打系统规律,只需要输入自己想要的开挂功能,一键便可以生成出微扑克专用辅助...
8分钟总结!老友广东麻将有挂吗... 8分钟总结!老友广东麻将有挂吗,aa扑克用模拟器(详细透视辅助黑科技教程);大神普及一款德州ai内幕...
2分钟规律!掌中乐游戏中心辅助... 2分钟规律!掌中乐游戏中心辅助工具,传奇扑克辅助(详细透视辅助黑科技教程)是由北京得掌中乐游戏中心辅...
四分钟详情!决战十三水有没有外... 四分钟详情!决战十三水有没有外挂,微扑克发牌系统(详细透视辅助脚本教程);大神普及一款德州ai内幕,...