BuildTableinGlueCatalog
创始人
2024-12-25 16:30:12
0

在 Glue Catalog 中建立表格可以通过以下步骤来完成:

  1. 导入 Glue 相关类:
import boto3
import botocore.exceptions
import pandas as pd
import awswrangler as wr
  1. 创建 Glue 的客户端:
glue_client = boto3.client('glue')
  1. 定义表格的 Schema:
table_columns = [
    {"Name": "id", "Type": "int"},
    {"Name": "name", "Type": "string"},
    {"Name": "age", "Type": "int"}
]

# 如果有分区,可以用以下方式定义分区 Schema:
# partition_keys = [{"Name": "date", "Type": "string"}]
  1. 定义表格的属性:
database_name = 'your-database-name'
table_name = 'your-table-name'
path_to_data = 's3://bucket-name/path/to/data'

# 如果存在分区属性,可以使用以下方式定义:
# partition_keys = [{"Name": "date", "Type": "string"}]
  1. 建立表格:
try:
    response = glue_client.create_table(
        DatabaseName=database_name,
        TableInput={
            "Name": table_name,
            "StorageDescriptor": {
                "Columns": table_columns,
                "Location": path_to_data,
                "InputFormat": "org.apache.hadoop.mapred.TextInputFormat",
                "OutputFormat": "org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat",
                "SerdeInfo": {
                    "SerializationLibrary": "org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe",
                    "Parameters": {
                        "serialization.format": ","
                    }
                },
                "BucketColumns": [],
                "SortColumns": [],
                "Parameters": {}
            }
        }
    )
    print("Table is successfully created")
except botocore.exceptions.ClientError as e:
    if e.response['Error']['Code'] == 'AlreadyExistsException':
        print(f"Table {table_name} already exists")
    else

相关内容

热门资讯

终于清楚!wepower软件,... 终于清楚!wepower软件,德扑之星猫腻,解密教程(最初存在有挂)1、很好的工具软件,可以解锁游戏...
盘点一款!来玩德州app外挂,... 盘点一款!来玩德州app外挂,wepoke有辅助挂,新版2025教程(其实存在有挂)是一款可以让一直...
一分钟带你了解!微扑克怎么加入... 一分钟带你了解!微扑克怎么加入俱乐部,aapoker有外挂,插件教程(果然真的是有挂)是一款可以让一...
玩家必看教程!wopoker辅... 玩家必看教程!wopoker辅助,wepoke真的有挂,黑科技教程(切实是有挂)1、不需要AI权限,...
科技新动态!微扑克发牌算法,W... 科技新动态!微扑克发牌算法,WePoKe透视挂,技巧教程(最初有挂)是一款可以让一直输的玩家,快速成...
终于清楚!fishpoker扑... 终于清楚!fishpoker扑克辅助,智星德州菠萝偷偷看牌功能,wpk教程(固有真的有挂)智星德州菠...
今日焦点!约局吧辅牌器,wep... 1、今日焦点!约局吧辅牌器,wepoke有挂,分享教程(一贯是真的有挂);代表性(透视辅助软件透明挂...
总算了解!微扑克有辅助挂吗,w... 总算了解!微扑克有辅助挂吗,wepoke模拟器,新2025版(最初真的是有挂)是一款可以让一直输的玩...
揭秘一下!ai机器人代打德州,... 揭秘一下!ai机器人代打德州,wepoke黑科技,大神讲解(原先真的有挂)1)wepoke黑科技辅助...
必看攻略!wepoke美元局稳... 自定义wepokeai代打的胜率系统规律,只需要输入自己想要的开挂功能,一键便可以生成出微扑克专用辅...