ApacheHudiTimestampBasedKeyGenerator无法按年月分区的问题
创始人
2024-09-06 00:30:22
0

使用自定义的分区函数来解决按年月分区的问题。

示例代码如下:

import org.apache.hudi.common.util.TypedProperties;
import org.apache.hudi.keygen.TimestampBasedKeyGenerator;
import org.apache.hudi.util.DateUtils;

import java.util.Arrays;
import java.util.List;
import java.util.stream.Collectors;

public class CustomTimestampBasedKeyGenerator extends TimestampBasedKeyGenerator {

    public static final String PARTITION_BY_YEAR_MONTH_FIELD = "partition.by.year.month.field";

    private String partitionByYearMonthField;

    @Override
    public void init(TypedProperties props) {
        super.init(props);
        partitionByYearMonthField = props.getString(PARTITION_BY_YEAR_MONTH_FIELD, "");
    }

    @Override
    public String getPartitionPath(final String key, final Object value) {
        String partitionPath = "";
        if (partitionByYearMonthField.equals(FIELD_VAL_SEPARATOR)) {
            List parts = Arrays.asList(key.split(FIELD_SEPARATOR));
            partitionPath = DateUtils
                    .convertDateToPath(DateUtils.getDateTime(parts.get(partitionColumns.indexOf(partitionByYearMonthField))));
        } else if (!partitionByYearMonthField.isEmpty()) {
            partitionPath = DateUtils
                    .convertDateToPath(DateUtils.getDateTime(value.toString()));
        }
        return partitionPath;
    }
}

在这个自定义的TimestampBasedKeyGenerator类中,我们添加了新的配置项“partition.by.year.month.field”,它表示按年月分区的字段。

然后重写了getPartitionPath方法,通过该方法来生成分区路径。在这个方法中,我们首先根据“partition.by.year.month.field”字段的值来判断是否需要按年月分区,如果需要,我们就把该字段对应的值转换成年月格式的字符串,作为分区路径。

最后,在使用该自定义的分区函数时,只需要在相应的properties中设置“partition.by.year.month.field”的值为需要按年月分区的字段即可。例如:

TypedProperties props = new TypedProperties();
props.setProperty(TimestampBasedKeyGenerator.TIMESTAMP_PRECISION_FIELD_PROP, "seconds");
props.setProperty(TimestampBasedKeyGenerator.PARTITIONPATH_FIELD_PROP, "datestr");
props.setProperty(CustomTimestampBasedKeyGenerator.PARTITION_BY_YEAR_MONTH_FIELD, "yearMonth");
CustomTimestampBasedKeyGenerator keyGenerator = new CustomTimestampBasedKeyGenerator();
keyGenerator.init(props);

相关内容

热门资讯

专业讨论!欢乐联盟卡五星辅助,... 专业讨论!欢乐联盟卡五星辅助,黑侠破解wepoker,技巧教程(有挂解密);欢乐联盟卡五星辅助AI智...
玩家必看科普!雀神挂件价格辅助... 玩家必看科普!雀神挂件价格辅助开挂,德普之星透视辅助软件是真的吗,透明挂教程(有挂秘诀);雀神挂件价...
今日百科!天胡辅助脚本,wep... 今日百科!天胡辅助脚本,wepoker辅助器官方,总结教程(有挂辅助)是一款可以让一直输的玩家,快速...
科普分享!广东雀神智能辅助插件... 科普分享!广东雀神智能辅助插件,wepoker透视脚本,技巧教程(有挂技巧);广东雀神智能辅助插件最...
大神推荐!乐平包王讨赏辅助,a... 大神推荐!乐平包王讨赏辅助,aapoker透视方法,必赢方法(有挂方略);乐平包王讨赏辅助软件透明挂...
盘点一款!微乐江苏小程序游戏破... 盘点一款!微乐江苏小程序游戏破解器下载,hhpoker免费辅助器,2025新版技巧(有挂规律);1....
重大科普!微信雀神挂件辅助器,... 重大科普!微信雀神挂件辅助器,poker world辅助,力荐教程(有挂规律);微信雀神挂件辅助器A...
技术分享!微信西楚辅助,pok... 技术分享!微信西楚辅助,pokemmo辅助器脚本下载,总结教程(确实有挂)相信很多朋友都在电脑上玩过...
安装程序教程!佛手在线大菠萝辅... 安装程序教程!佛手在线大菠萝辅助,wepoker提高好牌率,科技教程(有挂工具);一、佛手在线大菠萝...
总算了解!家乡大贰小程序靠谱吗... 总算了解!家乡大贰小程序靠谱吗,wpk俱乐部怎么作弊,攻略教程(有挂教学)是一款可以让一直输的玩家,...