AWS Glue: 由于缺少元数据,作业运行启动失败。
创始人
2024-11-16 06:00:34
0

当AWS Glue作业启动失败并显示“由于缺少元数据,作业运行启动失败”时,这通常是由于缺少必要的元数据表或者元数据不正确引起的。以下是一些可能的解决方法和代码示例:

  1. 检查元数据表是否存在:确保您的元数据表存在于AWS Glue Data Catalog中,可以使用以下代码检查表是否存在:
import boto3

glue_client = boto3.client('glue')

response = glue_client.get_table(
    DatabaseName='your_database_name',
    Name='your_table_name'
)

print(response)

如果返回一个错误,表明表不存在,您需要创建该表。

  1. 创建元数据表:如果您确定元数据表不存在,可以使用以下代码创建表:
import boto3

glue_client = boto3.client('glue')

response = glue_client.create_table(
    DatabaseName='your_database_name',
    TableInput={
        'Name': 'your_table_name',
        'StorageDescriptor': {
            'Columns': [
                {
                    'Name': 'column1',
                    'Type': 'string'
                },
                {
                    'Name': 'column2',
                    'Type': 'int'
                },
                # Add more columns as needed
            ],
            'Location': 's3://your_bucket/your_data_folder/',
            'InputFormat': 'org.apache.hadoop.mapred.TextInputFormat',
            'OutputFormat': 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat',
            'SerdeInfo': {
                'SerializationLibrary': 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe',
                'Parameters': {
                    'field.delim': ','
                }
            },
        }
    }
)

print(response)

请根据您的实际情况修改上述代码中的参数。

  1. 更新元数据表:如果您确定元数据表存在但元数据不正确,可以使用以下代码更新表:
import boto3

glue_client = boto3.client('glue')

response = glue_client.update_table(
    DatabaseName='your_database_name',
    TableInput={
        'Name': 'your_table_name',
        'StorageDescriptor': {
            'Columns': [
                {
                    'Name': 'column1',
                    'Type': 'string'
                },
                {
                    'Name': 'column2',
                    'Type': 'int'
                },
                # Add more columns as needed
            ],
            'Location': 's3://your_bucket/your_data_folder/',
            'InputFormat': 'org.apache.hadoop.mapred.TextInputFormat',
            'OutputFormat': 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat',
            'SerdeInfo': {
                'SerializationLibrary': 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe',
                'Parameters': {
                    'field.delim': ','
                }
            },
        }
    }
)

print(response)

请根据您的实际情况修改上述代码中的参数。

通过执行上述步骤,您应该能够解决“由于缺少元数据,作业运行启动失败”错误。请确保使用正确的元数据表和正确的元数据信息。

相关内容

热门资讯

攻略辅助挂!边锋老友填大坑辅助... 攻略辅助挂!边锋老友填大坑辅助,决战卡五星辅助修改器-本来是有辅助攻略(哔哩哔哩)1、玩家可以在决战...
规律辅助挂!微信雀神挂件辅助器... 规律辅助挂!微信雀神挂件辅助器,玖游卡五星辅助-都是确实有辅助技巧(哔哩哔哩)1、下载好微信雀神挂件...
透视科技!微乐游戏公众号辅助器... 透视科技!微乐游戏公众号辅助器,爱来大菠萝免费辅助器-本来真的有辅助软件(哔哩哔哩)1、爱来大菠萝免...
2026版教学!财神13辅助包... 2026版教学!财神13辅助包最新版本更新内容详解,四川游戏家园破解版-真是是有辅助软件(哔哩哔哩)...
于此同时!拱趴大菠萝卦,创思维... 于此同时!拱趴大菠萝卦,创思维激k辅助控制器-竟然是有辅助工具(哔哩哔哩)1、创思维激k辅助控制器透...
外挂绝活!uupoker透视,... 外挂绝活!uupoker透视,扑克之星辅助-总是是真的有辅助教程(哔哩哔哩)1、点击下载安装,扑克之...
外挂妙计!智星菠萝可以辅助吗,... 外挂妙计!智星菠萝可以辅助吗,佛手在线大菠萝为什么都输-一贯真的是有辅助方法(哔哩哔哩)1、下载好佛...
外挂攻略!来玩app 德州 辅... 外挂攻略!来玩app 德州 辅助,约局吧如何查看是否有挂-果然一直总是有辅助方法(哔哩哔哩)1、每一...
外挂烘培!sohoo辅助,po... 外挂烘培!sohoo辅助,pokeplus脚本-真是有辅助教程(哔哩哔哩)一、pokeplus脚本可...
外挂大纲!大菠萝免费辅助,哈糖... 外挂大纲!大菠萝免费辅助,哈糖大菠萝软件下载-切实存在有辅助工具(哔哩哔哩)1、哈糖大菠萝软件下载透...