ApacheIcebergonGCSatomicrename
创始人
2024-09-06 00:30:47
0

Apache Iceberg 是一个通用的数据表格式,可在不同的存储后端(如 Hadoop HDFS,Amazon S3 和 Google Cloud Storage)上运行。在使用 GCS 进行数据迁移时,需要使用原子重命名操作来确保数据的一致性和持久性。以下是使用 Java 代码实现 Apache Iceberg 在 GCS 上的原子重命名操作的示例:

import com.google.cloud.storage.BlobInfo;
import com.google.cloud.storage.Storage;
import com.google.cloud.storage.StorageOptions;
import org.apache.iceberg.common.DynMethods;
import org.apache.iceberg.util.Tasks;

import java.util.UUID;
import java.util.concurrent.Callable;
import java.util.concurrent.ExecutionException;
import java.util.stream.Collectors;
import java.util.stream.Stream;

public class GcsAtomicRename implements Callable {

  private static final int MAX_RETRIES = 8;
  private static final int INITIAL_BACKOFF_MS = 100;

  private final String container;
  private final String containerPath;
  private final String srcPath;
  private final String dstPath;

  public GcsAtomicRename(String container, String containerPath, String srcPath, String dstPath) {
    this.container = container;
    this.containerPath = containerPath;
    this.srcPath = srcPath;
    this.dstPath = dstPath;
  }

  @Override
  public Void call() throws Exception {
    Storage storage = StorageOptions.getDefaultInstance().getService();
    String randomId = UUID.randomUUID().toString();

    BlobInfo srcBlob = BlobInfo.newBuilder(container, containerPath + "/" + srcPath).build();
    BlobInfo dstBlob = BlobInfo.newBuilder(container, containerPath + "/." + randomId + "._" + dstPath).build();

    boolean copied;

    do {
      copied = storage.copy(srcBlob, dstBlob).getContent() != null;
    } while (!copied);

    Tasks.foreach(Stream.generate(() -> null)
        .limit(MAX_RETRIES)
        .collect(Collectors.toList()))
        .retry(MAX_RETRIES)
        .exponentialBackoff(INITIAL_BACKOFF_MS, 2.0)
        .onlyRetryOn(ExecutionException.class)
        .run(ignore -> {
          storage.delete(srcBlob.getBlobId

相关内容

热门资讯

专业讨论!欢乐联盟卡五星辅助,... 专业讨论!欢乐联盟卡五星辅助,黑侠破解wepoker,技巧教程(有挂解密);欢乐联盟卡五星辅助AI智...
玩家必看科普!雀神挂件价格辅助... 玩家必看科普!雀神挂件价格辅助开挂,德普之星透视辅助软件是真的吗,透明挂教程(有挂秘诀);雀神挂件价...
今日百科!天胡辅助脚本,wep... 今日百科!天胡辅助脚本,wepoker辅助器官方,总结教程(有挂辅助)是一款可以让一直输的玩家,快速...
科普分享!广东雀神智能辅助插件... 科普分享!广东雀神智能辅助插件,wepoker透视脚本,技巧教程(有挂技巧);广东雀神智能辅助插件最...
大神推荐!乐平包王讨赏辅助,a... 大神推荐!乐平包王讨赏辅助,aapoker透视方法,必赢方法(有挂方略);乐平包王讨赏辅助软件透明挂...
盘点一款!微乐江苏小程序游戏破... 盘点一款!微乐江苏小程序游戏破解器下载,hhpoker免费辅助器,2025新版技巧(有挂规律);1....
重大科普!微信雀神挂件辅助器,... 重大科普!微信雀神挂件辅助器,poker world辅助,力荐教程(有挂规律);微信雀神挂件辅助器A...
技术分享!微信西楚辅助,pok... 技术分享!微信西楚辅助,pokemmo辅助器脚本下载,总结教程(确实有挂)相信很多朋友都在电脑上玩过...
安装程序教程!佛手在线大菠萝辅... 安装程序教程!佛手在线大菠萝辅助,wepoker提高好牌率,科技教程(有挂工具);一、佛手在线大菠萝...
总算了解!家乡大贰小程序靠谱吗... 总算了解!家乡大贰小程序靠谱吗,wpk俱乐部怎么作弊,攻略教程(有挂教学)是一款可以让一直输的玩家,...