Athena目录查询非常慢
创始人
2024-09-21 14:00:54
0

1.优化查询语句:使用分区表,过滤查询条件以减少检索数据量。同时可以使用WITH语句在查询前进行数据预处理,加快查询速度。例如:

WITH prep AS ( SELECT * FROM my_table WHERE date_col >= '2019-01-01' ) SELECT * FROM prep WHERE col_1 = 'foo'

2.增加查询资源:增加查询资源可以增加查询引擎可用的CPU、内存等资源,从而提高查询速度。可以通过修改查询配置或提高查询资源容量来实现。例如:

ALTER TABLE my_table SET TBLPROPERTIES('aws:athena:query_execution'.'instance_count'='3','aws:athena:query_execution'.'instance_type'='r5.large')

3.使用分布式查询:使用AWS Glue或Spark等分布式计算服务可以加速大规模查询的处理速度。例如:

SELECT * FROM my_table WHERE col_1 = 'foo' AND date_col >= '2019-01-01' AND parquet_filter_col BETWEEN 0 and 10 AND $CONDITIONS

4.使用Amazon Redshift Spectrum:如果数据被存储在Amazon S3上,可以使用Redshift Spectrum查询引擎轻松进行高速、低成本的复杂查询。例如:

SELECT * FROM my_redshift_spectrum_table WHERE col_1 = 'foo' AND date_col >= '2019-01-01' AND parquet_filter_col BETWEEN 0 and 10;

这些是提高Athena查询性能的一些解决方案。实际上,性能提升的方法因不同的场景而异。所以,我们必须结合具体情况进行相应的优化。

相关内容

热门资讯

线上(wepoke真的)原来是... 线上(wepoke真的)原来是真的有挂!其实真的有挂(2022已更新)(哔哩哔哩);亲,其实确实真的...
两教程(Wepoke程序)软件... 两教程(Wepoke程序)软件透明挂辅助工具(软件透明挂)透视辅助(2024已更新)(哔哩哔哩);致...
软件(wepoke透明)原来是... 软件(wepoke透明)原来是真的有挂!其实真的有挂(2020已更新)(哔哩哔哩)是一款可以让一直输...
一模拟器(德扑工具)外挂辅助工... 一模拟器(德扑工具)外挂辅助工具(透视)透视辅助(2025已更新)(哔哩哔哩);亲真的是有正版授权,...
系统(aapoker讲解)竟然... 系统(aapoker讲解)竟然真的有挂!其实真的有挂(2021已更新)(哔哩哔哩);aapoker讲...
6系统(aapoker下载)外... 6系统(aapoker下载)外挂辅助工具(辅助挂)透视辅助(2023已更新)(哔哩哔哩)aapoke...
智能(德扑之星刷数据)果真真的... 智能(德扑之星刷数据)果真真的有挂!原来真的有挂(2025已更新)(哔哩哔哩);《WPK辅助透视》‌...
1机器人(德州nzt软件)软件... 1机器人(德州nzt软件)软件透明挂辅助软件(透视)透视辅助(2022已更新)(哔哩哔哩);人气非常...
ai代打(德扑之星决策)确实是... ai代打(德扑之星决策)确实是真的有挂!原来真的有挂(2020已更新)(哔哩哔哩);科技详细教程小薇...
第8透明(wepoke数据)外... 第8透明(wepoke数据)外挂透明挂辅助神器(辅助挂)透视辅助(2023已更新)(哔哩哔哩);原来...