BuildTableinGlueCatalog
创始人
2024-12-25 16:30:12
0

在 Glue Catalog 中建立表格可以通过以下步骤来完成:

  1. 导入 Glue 相关类:
import boto3
import botocore.exceptions
import pandas as pd
import awswrangler as wr
  1. 创建 Glue 的客户端:
glue_client = boto3.client('glue')
  1. 定义表格的 Schema:
table_columns = [
    {"Name": "id", "Type": "int"},
    {"Name": "name", "Type": "string"},
    {"Name": "age", "Type": "int"}
]

# 如果有分区,可以用以下方式定义分区 Schema:
# partition_keys = [{"Name": "date", "Type": "string"}]
  1. 定义表格的属性:
database_name = 'your-database-name'
table_name = 'your-table-name'
path_to_data = 's3://bucket-name/path/to/data'

# 如果存在分区属性,可以使用以下方式定义:
# partition_keys = [{"Name": "date", "Type": "string"}]
  1. 建立表格:
try:
    response = glue_client.create_table(
        DatabaseName=database_name,
        TableInput={
            "Name": table_name,
            "StorageDescriptor": {
                "Columns": table_columns,
                "Location": path_to_data,
                "InputFormat": "org.apache.hadoop.mapred.TextInputFormat",
                "OutputFormat": "org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat",
                "SerdeInfo": {
                    "SerializationLibrary": "org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe",
                    "Parameters": {
                        "serialization.format": ","
                    }
                },
                "BucketColumns": [],
                "SortColumns": [],
                "Parameters": {}
            }
        }
    )
    print("Table is successfully created")
except botocore.exceptions.ClientError as e:
    if e.response['Error']['Code'] == 'AlreadyExistsException':
        print(f"Table {table_name} already exists")
    else

相关内容

热门资讯

黑科技科技(wepoke智能a... 黑科技科技(wepoke智能ai)wepower使用说明书(wepOkE)素来是真的有挂(确实有挂)...
黑科技模拟器(wepoke智能... WePoker透视辅助工具核心要点解析‌,黑科技模拟器(wepoke智能ai)wepoke是机器发牌...
黑科技脚本(wepokeai代... 您好,这款游戏可以开挂的,确实是有挂的,需要了解加微【136704302】很多玩家在这款游戏中打牌都...
黑科技辅助挂(wepoke真的... 黑科技辅助挂(wepoke真的有挂)wepoke 软件(wEPOKE)固有真的有挂(有挂猫腻)-哔哩...
黑科技辅助挂(wepoke黑科... 黑科技辅助挂(wepoke黑科技)wepoke软件透明挂演示(wEpOke)一直真的有挂(真的有挂)...
黑科技app(wepoke真的... 此外,数据分析德州()辅助神器app还具备辅助透视行为开挂功能,通过对客户透明挂的深入研究,你可以了...
黑科技智能ai(wepoke辅... 黑科技智能ai(wepoke辅助插件)wepoke软件透明(WEPOke)先前是有挂(果真有挂)-哔...
黑科技模拟器(wepoke透明... 黑科技模拟器(wepoke透明黑科技)wepoke德州扑克用ai代打(WEPOKE)最初存在有挂(有...
黑科技插件(wepoke辅助插... 黑科技插件(wepoke辅助插件)wepoke软件透明(WEPOke)从来是真的有挂(有挂解惑)-哔...
黑科技美元局(wepoke智能... 黑科技美元局(wepoke智能ai)wepoke辅助真的假的(wepoKE)原先真的有挂(竟然有挂)...