ApacheBeam的BigQueryIO(Java)无法将TIMESTAMP字段写入BigQuery--fasterxml.jacksonexception'typenotsupported”。
创始人
2024-09-05 11:01:07
0

这是因为Jackson库不支持将Java的java.sql.Timestamp类型映射到BigQuery的TIMESTAMP类型。解决此问题的解决方法是将java.sql.Timestamp转换为java.util.Date并写入BigQuery。下面是一个使用自定义转换器解决此问题的示例代码:

// 创建自定义转换器
public class TimestampToUtcDateConverter extends TableRowJsonConverter {
  private static final DateTimeFormatter FORMATTER =
      DateTimeFormat.forPattern("yyyy-MM-dd HH:mm:ss.SSSSSS").withZoneUTC();

  @Override
  protected void setValue(
      FieldValueList row, String key, Object value, Schema.Field field) {
    Schema.Type fieldType = field.getType();

    if (Schema.Type.DATETIME.equals(fieldType)) {
      Timestamp timestampValue = (Timestamp) value;
      DateTime dateTime = new DateTime(timestampValue.getTime());
      row.set(key, FORMATTER.print(dateTime));
    } else {
      super.setValue(row, key, value, field);
    }
  }
}

// 使用自定义转换器将java.sql.Timestamp转换为java.util.Date
PCollection input = ...;
input.apply(
    BigQueryIO.writeTableRows()
        .to("my-dataset.my-table")
        .withCreateDisposition(CreateDisposition.CREATE_IF_NEEDED)
        .withWriteDisposition(WriteDisposition.WRITE_APPEND)
        .withSchema(getTableSchema())
        .withJsonSchema(getJsonSchema())
        .withFormatFunction(
            (MyObject o) -> {
              TableRow row = new TableRow();
              row.set("timestampField", new Date(o.getTimestamp().getTime()));
              // 将java.sql.Timestamp转换为java.util.Date并在TableRow中进行设置
              ...
              return row;
            })
        .withCustomGcsTempLocation(StaticValueProvider.of("gs://my-bucket/tmp"))
        .withCustomConverter(Timestamp.class, new TimestampToUtcDateConverter()));

上面的示例代码假定存在名为'my-dataset.my-table”的BigQuery表,并且MyObject类具有名为'timestamp”的java.sql.Timestamp字段。在写入BigQuery时,我们使用自定义转换器将java.sql.Timestamp转换为java.util.Date,并将类似'2021-01-01 00:00:00.000000”这样的文字格式写入BigQuery。

相关内容

热门资讯

一起来探讨!决战13水辅助,w... 您好:决战13水辅助这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌特...
一分钟揭秘!丽水双扣茶苑脚本,... 一分钟揭秘!丽水双扣茶苑脚本,xpoker辅助控制,2025教程(有挂解惑)是一款可以让一直输的玩家...
今日百科!腾讯欢乐卡五星辅助器... 今日百科!腾讯欢乐卡五星辅助器,wepoker安装教程,2025新版(有挂神器)是一款可以让一直输的...
玩家必看科普!微信小程序外辅助... 玩家必看科普!微信小程序外辅助工具,pokernow辅助工具,力荐教程(有挂攻略);1、界面简单,没...
一分钟教会你!授权二厅辅助,w... 《一分钟教会你!授权二厅辅助,wpk有那种辅助吗,黑科技教程(果真有挂)》 授权二厅辅助软件透明挂更...
安装程序教程!小程序牵手跑得有... 安装程序教程!小程序牵手跑得有辅助器,pokernow辅助工具,揭秘教程(发现有挂);一、小程序牵手...
大家学习交流!创思维激k软件助... 大家学习交流!创思维激k软件助手,wepoker黑侠破解,2025教程(有挂方法)是一款可以让一直输...
总算清楚!奇迹免费脚本辅助工具... 总算清楚!奇迹免费脚本辅助工具,xpoker辅助工具,系统教程(有挂方式);相信小伙伴都知道这个奇迹...
总算清楚!手游游戏挂机辅助,w... 总算清楚!手游游戏挂机辅助,wpk真的有透视嘛,安装教程(竟然有挂);1、总算清楚!手游游戏挂机辅助...
揭秘真相!多乐跑辅助,hhpo... 揭秘真相!多乐跑辅助,hhpoker有没有作弊挂,细节方法(有挂技巧);多乐跑辅助是一项多乐跑辅助软...