按照id分组并根据优先级创建列(Pyspark)
创始人
2024-08-24 06:00:41
0

可以使用groupby和pivot方法来解决此问题。首先,我们需要使用groupby方法按照id列分组。然后,我们可以使用pivot方法并指定“priority”列来创建新列。最后,我们需要使用fillna方法来使用默认值填充缺失的单元格。

以下是用于解决此问题的示例代码:

from pyspark.sql.functions import *
from pyspark.sql import SparkSession

# 创建Spark会话
spark = SparkSession.builder.appName("groupby_pivot_demo").getOrCreate()
spark.conf.set("spark.sql.shuffle.partitions", "5")

# 创建示例数据
data = [("id1", "A", 1),
       ("id1", "B", 2),
       ("id1", "C", 3),
       ("id2", "A", 2),
       ("id2", "B", 1),
       ("id3", "A", 3)]

df = spark.createDataFrame(data, ["id", "priority", "value"])

# 按照id分组并创建新列
df_grouped = df.groupBy("id").pivot("priority").agg(first(col("value")))

# 填充缺失单元格
df_grouped = df_grouped.fillna(0)

df_grouped.show()

输出结果:

+---+---+---+---+
| id|  A|  B|  C|
+---+---+---+---+
|id2|  2|  1|  0|
|id1|  1|  2|  3|
|id3|  3|  0|  0|
+---+---+---+---+

相关内容

热门资讯

第八分钟教材!衢州都莱有没有内... 第八分钟教材!衢州都莱有没有内部号,新九天辅助器(辅助)确实存在有插件(哔哩哔哩)1、第八分钟教材!...
第3分钟大纲!新玄龙斗牛卡牌,... 您好,三哥玩辅助器免费下载这款游戏可以开挂的,确实是有挂的,需要了解加去威信【485275054】很...
第十分钟窍要!福麻圈辅助器,新... 第十分钟窍要!福麻圈辅助器,新海贝辅助器(辅助)原来真的是有修改器(哔哩哔哩)1、实时新海贝辅助器透...
6分钟举措!一起宁德福鼎打炸辅... 6分钟举措!一起宁德福鼎打炸辅助,新西部挂透视辅助(辅助)总是是真的神器(哔哩哔哩)1、完成一起宁德...
2分钟步骤!神殿娱乐控制系统,... 2分钟步骤!神殿娱乐控制系统,新道游开挂辅助透视(辅助)竟然存在有平台(哔哩哔哩)1、新道游开挂辅助...
第五分钟指南书!胡乐辅助脚本,... 第五分钟指南书!胡乐辅助脚本,蛮王大厅脚本辅助(辅助)竟然是真的软件(哔哩哔哩)1、蛮王大厅脚本辅助...
一分钟绝活儿!欢乐对决脚本辅助... 一分钟绝活儿!欢乐对决脚本辅助器ios,新老夫子脚本免费下载(辅助)切实是有插件(哔哩哔哩)新老夫子...
一分钟积累!新圣游辅助软件在哪... 一分钟积累!新圣游辅助软件在哪下载,新海豚辅助工具(辅助)切实是有脚本(哔哩哔哩)1、点击下载安装,...
2分钟总结!传送五激k辅助靠谱... 2分钟总结!传送五激k辅助靠谱吗,三哥玩摆头挂(辅助)本来是真的脚本(哔哩哔哩)1、传送五激k辅助靠...
第一分钟讲义!陕西三代辅助器免... 第一分钟讲义!陕西三代辅助器免费,新西游拼十辅助器(辅助)果然真的是有辅助(哔哩哔哩)1、陕西三代辅...