AWSGlueScala作业在使用getCatalogSource(..)时失败,显示“不是数据文件”。
创始人
2024-09-25 16:30:14
0

这个错误通常发生在使用getCatalogSource方法从AWS Glue数据目录中读取数据时。可能会发生类型不匹配的问题,导致出现“不是数据文件”的错误。

解决方案是使用不同的数据源读取数据,例如使用spark.read或使用Glue DynamicFrame。下面是一个使用Glue DynamicFrame的代码示例,可以替换掉getCatalogSource方法:

import com.amazonaws.services.glue.GlueContext
import com.amazonaws.services.glue.util.{GlueArgParser, Job, JsonOptions}
import com.amazonaws.services.glue.DynamicFrame

object GlueJobExample {
  def main(sysArgs: Array[String]) {

    val spark = SparkSession.builder.appName("GlueJobExample").getOrCreate()
    val glueContext = new GlueContext(spark.sparkContext)

    val getInputDF = glueContext.getCatalogSource(
      database = "your_database_name",
      tableName = "your_table_name")

    val resolveOption = JsonOptions.resolve("--mapping", "{}")
    val correctMapping = resolveOption.toJson().parseJson.asJsObject

    val dynamicFrame = new DynamicFrame(
      getInputDF.getDynamicFrame().getRootRecord(),
      glueContext.getConf(),
      correctMapping)

    val transformDynamicFrame = dynamicFrame.applyMapping(mapping = Seq(
      ("column1", "string", "column1", "string"),
      ("column2", "string", "column2", "string")
    ))

    val getResultDF = transformDynamicFrame.toDF()
    …
  }
}

通过此方法,您可以使用DynamicFrame方法正确读取AWS Glue数据目录中的数据,而不会遇到“不是数据文件”的错误。

相关内容

热门资讯

第五分钟辅助!pokemmo辅... 第五分钟辅助!pokemmo辅助器手机版下载,拱趴大菠萝怎么开挂,教材教程(有挂功能)1、玩家可以在...
五分钟辅助!hhpoker是真... 五分钟辅助!hhpoker是真的还是假的,哈糖大菠萝有挂吗,积累教程(有挂详情)1、每一步都需要思考...
八分钟辅助!epoker免费透... 八分钟辅助!epoker免费透视脚本,hhpoker辅助器,手段教程(有挂透明挂)1、每一步都需要思...
第二分钟辅助!we-poker... 第二分钟辅助!we-poker正规吗,hhpoker一直输有挂吗,总结教程(的确有挂)1、hhpok...
八分钟辅助!pokermast... 八分钟辅助!pokermaster辅助器,wpk透视插件,策略教程(有挂方法)1、pokermast...
2分钟辅助!拱趴大菠萝有什么挂... 2分钟辅助!拱趴大菠萝有什么挂,hhpoker必备开挂,烘培教程(有挂秘籍)1、拱趴大菠萝有什么挂公...
4分钟辅助!wepoker软件... 4分钟辅助!wepoker软件靠谱么,wepoker免费脚本,法门教程(有挂详细)1、用户打开应用后...
第九分钟辅助!wepoker有... 第九分钟辅助!wepoker有脚本吗,wepoker透视脚本免费app,手筋教程(有挂方式)1、we...
第九分钟辅助!德普之星私人局辅... 第九分钟辅助!德普之星私人局辅助器,德普之星辅助工具如何打开,步骤教程(有挂猫腻)1、德普之星辅助工...
五分钟辅助!wepoker可以... 五分钟辅助!wepoker可以开透视吗,pokemmo手机版透视脚本,讲义教程(有挂神器)在进入po...