AWSGlue:爬虫无法识别包含字符串和时间戳/日期值的CSV文件的元数据。
创始人
2024-09-25 14:31:59
0

针对这个问题,有一个解决方案是手动定义表架构,而不是依赖 Glue 爬虫自动获取。下面是一个 Python 示例代码,其中创建了一个名为 table_name 的表,并手动定义了其字段和类型。

import boto3

client = boto3.client('glue', region_name='your-region-name')

response = client.create_table(
    DatabaseName='your-database-name',
    TableInput={
        'Name': 'table_name',
        'Description': 'description',
        'StorageDescriptor': {
            'Location': 's3://bucket-name/path/to/data',
            'InputFormat': 'org.apache.hadoop.mapred.TextInputFormat',
            'OutputFormat': 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat',
            'SerdeInfo': {
                'SerializationLibrary': 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe',
                'Parameters': {
                    'field.delim': ','
                }
            },
            'Columns': [
                {
                    'Name': 'id',
                    'Type': 'int'
                },
                {
                    'Name': 'name',
                    'Type': 'string'
                },
                {
                    'Name': 'date_field',
                    'Type': 'timestamp'
                }
            ]
        }
    }
)

在此示例中,我们定义了三个列:id(int)、name(string)和date_field(timestamp)。您可以根据您的需要定义更多的列。请注意,其中包含 “org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe” 的部分将 SerDe 序列化库设置为处理 CSV 文件。

通过手动定义表架构,您可以确保 Glue 作业将正确识别和解析包含字符串和时间戳/日期值的 CSV 文件。

相关内容

热门资讯

wepoke是真的有挂!云扑克... wepoke是真的有挂!云扑克辅助器怎么卖(透视)真是真的有挂(详细辅助插件教程)1、构建自己的微扑...
透视工具!WePoKe透明挂,... 透视工具!WePoKe透明挂,wepoke调控参数,详细透视插件教程透视工具!WePoKe透明挂,w...
微扑克德州专用辅助器!wepo... 您好,微扑克德州专用辅助器这款游戏可以开挂的,确实是有挂的,需要了解加微【136704302】很多玩...
辅助透视!wepoke ai辅... 辅助透视!wepoke ai辅助,wepoke有挂吗网上靠谱吗,详细透视透明挂教程;1)wepoke...
微扑克有辅助挂!fishpok... 微扑克有辅助挂!fishpoker扑克辅助(透视)起初有挂(详细辅助攻略方法)1)微扑克有辅助挂辅助...
透视规律!wepok软件透明挂... 透视规律!wepok软件透明挂,we poke软件免费版,详细透视揭秘教程;1、透视规律!wepok...
德州之星辅助!wepoke有假... 德州之星辅助!wepoke有假吗(透视)其实存在有挂(详细辅助揭秘攻略);无聊就玩这款德州之星辅助真...
透视好友房!wepok软件透明... 透视好友房!wepok软件透明挂,wepower伙牌,详细透视科技教程1、wepok软件透明挂系统规...
wpk有辅助挂!wpk线上实战... 1、wpk有辅助挂!wpk线上实战(透视)切实真的是有挂(详细辅助总结教程);代表性(透视辅助软件透...
透视挂!wepokeai机器人... 透视挂!wepokeai机器人,wopoker有没有外挂,详细透视玩家教程小薇(透视辅助)致您一封信...