ApacheBeam的Python脚本无法写入GoogleBigQuery
创始人
2024-09-05 11:01:10
0次

这可能是由于凭据问题所致。您可以通过更新您的Google Cloud SDK安装包并重新验证您的凭据来解决这个问题。如果更新SDK后问题仍然存在,则可以将服务帐号密钥文件传递给Beam管道以进行身份验证。以下是一个示例代码:

import apache_beam as beam
from apache_beam.options.pipeline_options import PipelineOptions, GoogleCloudOptions

project_id = 'your_project_id'
key_file = 'path/to/your/key_file.json'
table_spec = 'project_id:dataset_id.table_id'
schema = 'column1:STRING,column2:INTEGER'

options = PipelineOptions()
google_cloud_options = options.view_as(GoogleCloudOptions)
google_cloud_options.project = project_id
google_cloud_options.service_account = key_file

p = beam.Pipeline(options=options)

data = [{'column1': 'value1', 'column2': 1},
        {'column1': 'value2', 'column2': 2}]

(p | beam.Create(data)
   | beam.io.WriteToBigQuery(table_spec,
                             schema=schema,
                             create_disposition=beam.io.BigQueryDisposition.CREATE_IF_NEEDED,
                             write_disposition=beam.io.BigQueryDisposition.WRITE_APPEND))

p.run().wait_until_finish()

在上述示例中,您需要将“your_project_id”替换为您的Google Cloud项目ID,“path/to/your/key_file.json”替换为您的服务帐号密钥文件的路径,“project_id:dataset_id.table_id”替换为您的表格规范,以及“column1:STRING,column2:INTEGER”替换为您的表格架构。此外,您还需要根据实际情况调整表的创建和写入行为。

相关内容

热门资讯

揭秘几款!好运同桌透视脚本软件... 揭秘几款!好运同桌透视脚本软件,好运同桌一贯真的是有透视普及方法该软件可以轻松地帮助玩家将好运同桌外...
实测交流!嘻嘻红中麻将开挂脚本... 实测交流!嘻嘻红中麻将开挂脚本软件,嘻嘻红中麻将确实真的是有开挂科普攻略进入游戏-大厅左侧-新手福利...
2024教程!浙乐大厅辅助器脚... 2024教程!浙乐大厅辅助器脚本软件,浙乐大厅真是是真的有辅助器普及插件1、实时浙乐大厅透视辅助更新...
玩家必看分享!微浪开挂脚本软件... 玩家必看分享!微浪开挂脚本软件,微浪总是是有开挂解迷技巧1、实时微浪透视辅助更新:用户可以随时随地访...
一分钟教你!常来游戏透视挂脚本... 一分钟教你!常来游戏透视挂脚本软件,常来游戏果然是有透视挂曝光方法1、实时常来游戏透视辅助更新:用户...
一分钟揭秘!52麻将开挂脚本软... 一分钟揭秘!52麻将开挂脚本软件,52麻将真是有开挂教你脚本1.52麻将 选牌创建新账号,点击进入游...
终于知道!天天赢棋牌辅助脚本软... 终于知道!天天赢棋牌辅助脚本软件,天天赢棋牌果然真的是有辅助解谜app1、很好的工具软件,可以解锁游...
热门推荐!趣游中心开挂脚本软件... 热门推荐!趣游中心开挂脚本软件,趣游中心总是是真的有开挂普及教程亲,关键说明,趣游中心透视脚本安卓赛...
揭秘关于!繁花透视挂脚本软件,... 揭秘关于!繁花透视挂脚本软件,繁花其实是真的有透视挂有挂方法繁花能透视中分为三种模型:繁花模拟器、繁...
一分钟了解!四季湖南麻将透视脚... 一分钟了解!四季湖南麻将透视脚本软件,四季湖南麻将好像是有透视解密脚本一分钟了解!四季湖南麻将透视脚...