Arrow中表格和数据集API的区别
创始人
2024-11-10 20:00:25
0

Arrow是一个跨语言数据交换的内存列式数据结构。它提供了两个基本的API用于操作数据:表格API和数据集API。

表格API主要用于处理二维数据集,类似于关系型数据库中的表格。它提供了查找、过滤、排序、聚合等常见的数据操作操作。以下是一个示例,演示如何通过表格API创建和操作表格。

import pyarrow as pa

# Create a schema for the table
schema = pa.schema([
  ('name', pa.string()),
  ('age', pa.int32()),
  ('gender', pa.string())
])

# Create a record batch and put it in a table
record_batch = pa.RecordBatch.from_arrays([
  pa.array(['Alice', 'Bob', 'Charlie']),
  pa.array([25, 30, 35]),
  pa.array(['Female', 'Male', 'Male'])
], schema=schema)
table = pa.Table.from_batches([record_batch])

# Perform some operations on the table
filtered_table = table.filter(pa.Expression.col('age') >= 30)
sorted_table = filtered_table.sort('name')
grouped_table = sorted_table.group_by('gender').aggregate([
  pa.NamedAggregation('count', pa.aggregate.count('name')),
  pa.NamedAggregation('avg_age', pa.aggregate.mean('age'))
])

数据集API则更加通用,能够处理任意维度和类型的数据集。它提供了类似于Spark或Pandas的数据操作函数,如map、filter、reduce等以及并行化执行操作的能力。以下是一个示例,演示如何通过数据集API读取和转换数据集。

import pyarrow.dataset as ds

# Define a dataset from a Parquet file
dataset = ds.dataset('mydata.parquet')

# Define a transformation to apply to the dataset
def filter_and_rename(row):
  if row['age'] >= 30:
    return {'Name': row['name'], 'Age': row['age']}
  else:
    return None

# Apply the transformation to the dataset in parallel and write the result
result = ds.dataset(dataset).map(filter_and_rename, schema=pa.schema([('Name', pa.string()), ('Age', pa.int32())]))
result.write_to('result.parquet')

总体而言,表格API适用于处理二维数据、适合做各种SQL-like操作;而数据集API更通用,能够处理任意维度和类型的数据集,适

相关内容

热门资讯

必备透视!德州透视是真的吗,w... 必备透视!德州透视是真的吗,wpk免费辅助,项目教程(证实有挂)-哔哩哔哩1、用户打开应用后不用登录...
教你透视!werplan怎么作... 教你透视!werplan怎么作必弊!竟然是有辅助教程(有挂秘诀)-哔哩哔哩教你透视!werplan怎...
详情透视!智星德州插件怎么下载... 详情透视!智星德州插件怎么下载,德普之星透视软件免费入口官网,要领教程(有挂技巧)-哔哩哔哩1、下载...
专业透视!pokermaste... 专业透视!pokermaster修改器!原来一直都是有辅助攻略(有挂分享)-哔哩哔哩1、pokerm...
总结透视!wepoker透视最... 总结透视!wepoker透视最简单三个步骤,wepoker私局辅助,窍门教程(有挂辅助)-哔哩哔哩;...
了解透视!红龙poker辅助器... 了解透视!红龙poker辅助器免费观看!竟然真的是有辅助脚本(证实有挂)-哔哩哔哩1)红龙poker...
揭幕透视!hhpoker有作必... 揭幕透视!hhpoker有作必弊的吗,wejoker手机版透视脚本,总结教程(了解有挂)-哔哩哔哩1...
总结透视!hardrock透视... 总结透视!hardrock透视工具!本来存在有辅助神器(有挂助手)-哔哩哔哩1、下载好hardroc...
推荐透视!智星菠萝辅助,pok... 推荐透视!智星菠萝辅助,poker红龙辅助,步骤教程(有挂助手)-哔哩哔哩1、起透看视 智星菠萝辅助...
教你透视!拱趴大菠萝万能辅助器... 教你透视!拱趴大菠萝万能辅助器!好像是真的有辅助攻略(揭秘有挂)-哔哩哔哩1、下载好拱趴大菠萝万能辅...