awsEFS挂载时使用numpymemmap随机访问非常缓慢。
创始人
2024-09-25 06:02:29
0

这可能是因为aws EFS挂载的数据网络带宽限制了读写速度。为了解决这个问题,我们可以通过缓存数据到本地磁盘上来加速读写操作。以下是一个使用numpy memmap缓存数据到本地磁盘的示例代码:

import numpy as np
import os

# Specify the file path and shape of the numpy array
file_path = '/mnt/efs/data.npy'
array_shape = (100000, 10000)

# If the file does not exist, create it and fill it with random data
if not os.path.exists(file_path):
    data = np.random.rand(*array_shape)
    np.save(file_path, data)
else:
    data = np.load(file_path, mmap_mode='r')

# Create a local cache of the memmap object
cache_dir = '/tmp/data_cache'
if not os.path.exists(cache_dir):
    os.mkdir(cache_dir)
cache_file = os.path.join(cache_dir, os.path.basename(file_path))
if not os.path.exists(cache_file):
    cache = np.memmap(cache_file, mode='w+', shape=array_shape)
    cache[:] = data[:]
else:
    cache = np.memmap(cache_file, mode='r', shape=array_shape)

# Read random data from the array
indices = np.random.randint(0, array_shape[0], size=1000)
for idx in indices:
    row = cache[idx, :]

在这个示例中,我们首先指定了numpy数组的形状和存储路径。如果文件不存在,我们将随机数据填充到numpy数组中并保存到指定路径。如果文件已存在,则从该文件中加载数据并使用mmap_mode参数创建一个numpy memmap对象。接下来,我们将本地磁盘上的缓存文件所在目录设置为/tmp/data_cache,如果目录不存在则创建该目录,并将memmap对象的数据复制到本地磁盘上的缓存文件中。每次访问文件时

相关内容

热门资讯

关于!微信微乐自建房辅助工具,... 关于!微信微乐自建房辅助工具,微乐家乡麻将自建房辅助app(开挂自建房)方法1)微乐家乡麻将自建房辅...
大家学习交流!微信卡五星辅助器... 大家学习交流!微信卡五星辅助器,微乐小程序免费黑科技(开挂自建房)方法1、很好的工具软件,可以解锁游...
三分钟了解!微乐微信自建房辅助... 三分钟了解!微乐微信自建房辅助工具插件,微乐家乡麻将自建房辅助app(开挂自建房)工具1、三分钟了解...
一分钟教会你!微乐家乡麻将自建... 一分钟教会你!微乐家乡麻将自建房辅助app,微乐自建房脚本免费入口(开挂自建房)方法1、用户打开应用...
分享实测!微信微乐自建房辅助工... 分享实测!微信微乐自建房辅助工具,微乐自建房脚本免费入口(开挂自建房)器1、起透看视 微信微乐自建房...
重大通报!微乐自建房辅助工具脚... 重大通报!微乐自建房辅助工具脚本,微乐小程序免费黑科技(开挂自建房)app微乐自建房辅助工具脚本破解...
如何分辨真伪!微乐微信自建房辅... 如何分辨真伪!微乐微信自建房辅助工具插件,微乐小程序免费黑科技(开挂自建房)技巧1、微乐微信自建房辅...
我来教教你!微乐自建房辅助工具... 我来教教你!微乐自建房辅助工具挂,微乐家乡麻将自建房辅助app(开挂自建房)工具1、玩家可以在微乐家...
重大来袭!微乐自建房辅助工具神... 重大来袭!微乐自建房辅助工具神器,微乐小程序免费黑科技(开挂自建房)器1、游戏颠覆性的策略玩法,独创...
带你了解!微信卡五星辅助器,微... 带你了解!微信卡五星辅助器,微乐自建房脚本免费入口(开挂自建房)方法1、带你了解!微信卡五星辅助器,...