AWSGlue-文件写入时间非常长
创始人
2024-09-25 14:30:52
0
  1. 确认您的数据存储在 AWS S3 上,而不是本地或其他位置。AWS Glue 执行作业时需要将数据检索到自己的内部网络中,因此将数据存储在 S3 中可以减少数据传输时间并提高作业性能。
  2. 如果您使用的是 Gzip 格式,请考虑使用 Snappy 或 Bzip2 格式,因为写入 Gzip 格式的文件可能需要更长的时间。
  3. 在 Python 脚本中使用 Pandas 和 pyarrow 节约 CPU 和内存使用。以下是建议使用的代码:
import pandas as pd
import pyarrow as pa
from awsglue.dataframe_implicit_serializer import GlueSerializer

// 数据框 to S3
DataFrame.to_parquet('s3://path/to/output', compression='snappy', index=False, serializer=GlueSerializer())

// S3 to 数据框
temp = pd.concat([pd.read_parquet(pf) for pf in files])
df = temp.copy()
del temp

这些调整应该会显着减少写入时间。

相关内容

热门资讯

9分钟讲解!雀友会广东潮汕bu... 9分钟讲解!雀友会广东潮汕bus(辅助挂)一直真的是有挂(wpk教程开挂辅助插件)>>您好:软件加1...
5分钟辅助!新玄龙辅助(辅助挂... 5分钟辅助!新玄龙辅助(辅助挂)原来确实有挂(必备教程开挂辅助平台)新玄龙辅助ai黑科技系统规律教程...
第三分钟辅助!有没有哈糖大菠萝... 第三分钟辅助!有没有哈糖大菠萝攻略推荐(辅助挂)一贯确实有挂(德州论坛开挂辅助平台);亲,有没有哈糖...
1分钟详情!广东老友辅助(辅助... 1分钟详情!广东老友辅助(辅助挂)一贯确实有挂(AI教程开挂辅助下载)【无需打开直接搜索加薇1367...
第二分钟明白!海盗来了大白辅助... 第二分钟明白!海盗来了大白辅助(辅助挂)原来确实有挂(详细教程开挂辅助安装);亲,海盗来了大白辅助这...
6分钟讲解!战皇大厅辅助那个可... 6分钟讲解!战皇大厅辅助那个可靠(辅助挂)一直真的有挂(透视教程开挂辅助脚本)《详细加薇136704...
一分钟讲究!欢欢辅助软件怎么样... 一分钟讲究!欢欢辅助软件怎么样(辅助挂)果然是有挂的(黑科技教程开挂辅助软件)【无需打开直接搜索加薇...
8分钟辅助!wepokerpl... 8分钟辅助!wepokerplus辅助辅助(辅助挂)果然确实有挂(详细教程开挂辅助平台) >>您好:...
9分钟讲究!大咖娱乐挂脚本(辅... 9分钟讲究!大咖娱乐挂脚本(辅助挂)果然真的有挂(曝光教程开挂辅助工具)您好:大咖娱乐挂脚本这款游戏...
第2分钟辅助!小闲川南辅助(辅... 第2分钟辅助!小闲川南辅助(辅助挂)原来确实有挂(扑克教程!开挂辅助下载);无需打开直接搜索薇:13...