按照id分组并根据优先级创建列(Pyspark)
创始人
2024-08-24 06:00:41
0

可以使用groupby和pivot方法来解决此问题。首先,我们需要使用groupby方法按照id列分组。然后,我们可以使用pivot方法并指定“priority”列来创建新列。最后,我们需要使用fillna方法来使用默认值填充缺失的单元格。

以下是用于解决此问题的示例代码:

from pyspark.sql.functions import *
from pyspark.sql import SparkSession

# 创建Spark会话
spark = SparkSession.builder.appName("groupby_pivot_demo").getOrCreate()
spark.conf.set("spark.sql.shuffle.partitions", "5")

# 创建示例数据
data = [("id1", "A", 1),
       ("id1", "B", 2),
       ("id1", "C", 3),
       ("id2", "A", 2),
       ("id2", "B", 1),
       ("id3", "A", 3)]

df = spark.createDataFrame(data, ["id", "priority", "value"])

# 按照id分组并创建新列
df_grouped = df.groupBy("id").pivot("priority").agg(first(col("value")))

# 填充缺失单元格
df_grouped = df_grouped.fillna(0)

df_grouped.show()

输出结果:

+---+---+---+---+
| id|  A|  B|  C|
+---+---+---+---+
|id2|  2|  1|  0|
|id1|  1|  2|  3|
|id3|  3|  0|  0|
+---+---+---+---+

相关内容

热门资讯

wepoker怎么设置盖牌!w... wepoker怎么设置盖牌!we-poker辅助器(透视)脚本-一贯总结真的有挂进入游戏-大厅左侧-...
wepoker底牌透视!wpk... wepoker底牌透视!wpk辅助(透视)神器-竟然曝光有挂1、任何wepoker底牌透视透视是真的...
hhpoker辅助软件!wej... hhpoker辅助软件!wejoker辅助器要钱玩吗(透视)教程-原来曝光真的是有挂一、wejoke...
德普之星辅助软件!wpk透视辅... 德普之星辅助软件!wpk透视辅助靠谱吗(透视)软件-果然总结真的有挂1、点击下载安装,德普之星辅助软...
德州机器人代打脚本!wepok... 德州机器人代打脚本!wepoker好友助力码(透视)攻略-原来科普真的有挂德州机器人代打脚本!wep...
hhpoker破解工具!aap... 您好,aapoker安装包怎么使用这款游戏可以开挂的,确实是有挂的,需要了解加去威信【1367043...
wepoker模拟器哪个!we... wepoker模拟器哪个!wepoker辅助器下载(透视)脚本-确实揭幕真的是有挂1、玩家可以在we...
wepoker私局代打!拱趴大... wepoker私局代打!拱趴大菠萝万能挂(透视)工具-好像推荐真的有挂亲,关键说明,拱趴大菠萝万能挂...
wpk透视工作室!pokemm... wpk透视工作室!pokemmo脚本(透视)技巧-切实解密真的是有挂该软件可以轻松地帮助玩家将wpk...
wepoker有脚本吗!pok... wepoker有脚本吗!pokemomo辅助工具(透视)神器-都是有挂是有挂;1、完成pokemom...