按照id分组并根据优先级创建列(Pyspark)
创始人
2024-08-24 06:00:41
0

可以使用groupby和pivot方法来解决此问题。首先,我们需要使用groupby方法按照id列分组。然后,我们可以使用pivot方法并指定“priority”列来创建新列。最后,我们需要使用fillna方法来使用默认值填充缺失的单元格。

以下是用于解决此问题的示例代码:

from pyspark.sql.functions import *
from pyspark.sql import SparkSession

# 创建Spark会话
spark = SparkSession.builder.appName("groupby_pivot_demo").getOrCreate()
spark.conf.set("spark.sql.shuffle.partitions", "5")

# 创建示例数据
data = [("id1", "A", 1),
       ("id1", "B", 2),
       ("id1", "C", 3),
       ("id2", "A", 2),
       ("id2", "B", 1),
       ("id3", "A", 3)]

df = spark.createDataFrame(data, ["id", "priority", "value"])

# 按照id分组并创建新列
df_grouped = df.groupBy("id").pivot("priority").agg(first(col("value")))

# 填充缺失单元格
df_grouped = df_grouped.fillna(0)

df_grouped.show()

输出结果:

+---+---+---+---+
| id|  A|  B|  C|
+---+---+---+---+
|id2|  2|  1|  0|
|id1|  1|  2|  3|
|id3|  3|  0|  0|
+---+---+---+---+

相关内容

热门资讯

黑科技辅助挂(微扑克有辅助挂)... 黑科技辅助挂(微扑克有辅助挂)WepoKe好像真的是有挂!太坑了本来存在有挂(2021已更新)(哔哩...
黑科技好友房(微扑克智能)云扑... 黑科技好友房(微扑克智能)云扑克app原来真的是有挂!太实锤了本然是有挂(2026已更新)(哔哩哔哩...
黑科技ai(wpk德州辅助器)... 黑科技ai(wpk德州辅助器)pokerrrr2俱乐部好像是有挂!太坑了原生是有挂(2024已更新)...
黑科技安卓版(wpk德州)德扑... 黑科技安卓版(wpk德州)德扑平台果然真的有挂!太夸张了确实真的是有挂(2020已更新)(哔哩哔哩)...
黑科技辅助(Wepoke漏洞)... 黑科技辅助(Wepoke漏洞)governorofpoker3起初有挂!太实锤了本然是有挂(2020...
黑科技美元局(aapker代理... 黑科技美元局(aapker代理)wpk德州扑克都是有挂!太无语了果然是有挂(2024已更新)(哔哩哔...
黑科技好友(wepoke辅助挂... 黑科技好友(wepoke辅助挂)wePOke真是真的是有挂!太实锤了一向存在有挂(2021已更新)(...
黑科技免费(微扑克ios)Aa... 1、黑科技免费(微扑克ios)Aapoker一直存在有挂!太无语了最初有挂(2022已更新)(哔哩哔...
黑科技计算(菠萝德州)德州先前... 黑科技计算(菠萝德州)德州先前真的有挂!太坑了本然有挂(2023已更新)(哔哩哔哩)是一款可以让一直...
黑科技玄学(Wepoke德州版... 1、黑科技玄学(Wepoke德州版)wPk一向是有挂!太实锤了总是是有挂(2023已更新)(哔哩哔哩...